Der Simulator kann auch Bugs haben/unvollständig sein, nur so als Hinweis am Rande. Es ist nicht ungewöhnlich, dass Teile der Funktionalität (noch) nicht abgedeckt werden.

Du setzt CPOL, das ist falsch. Der 74HC595 liest das anliegende Bit laut Datenblatt bei steigender Taktflanke ein, CPOL=1 und CPHA=0 aktiviert aber gerade genau das gegenteilige Verhalten beim µC.
Außerdem ist f/16 unnötig, der 74HC595 kann (zumindest laut dem mir vorliegenden Datenblatt von Philips/NXP) bis zu 100MHz.

mfG
Markus