okay, problem ist gelöst, es lag doch nicht an udev sondern an cryptsetup.
Die Lösung des Problems sieht folgend aus:
in der /etc/conf.d/dmcrypt
muss noch ne option beim mounten eingestellt werden.
## /home with regular keyfile
target=crypt-home
source='/dev/sda5'
key='###########'
options='-c aes-cbc-plain -s 256 -h ripemd160'
dann läuft es auch wieder.
Scheinbar wurden die default werte für die Entschlüssung geändert.
Aufjedenfall danke für die prompte Hilfe