Ich hab die Schaltung nochmal genauer betrachtet... ein Pin hat einen Masseschluss gehabt (Lötzinnspritzer zwischen Pin und 5V) und demnach immer dann, wenn der Datenpin auf Low ging immense Ströme gesinkt. Mit voller Beleuchtung nimmt die Schaltung auch nurnoch 150mA auf. Dh. Knapp 80mA wurden über die Pins gegen Masse geschaltet, kein Wunder, dass es Warm wurde.
Das Problem mit dem Schalten lag auch nciht an der Software, sondern daran, dass AVR Studio das letzte Hex-File in der Programmiermaske behält, unabhängig vom Projekt... das Hex-File hieß richtig, stammte aber aus dem falschen Ordner, veränderte sich also nie..
Das Display lässt sich initialisieren, das Zeichen schreiben will aber noch nicht. Ich mess nochmal den Pin mit dem Masseschluss durch.

Und Bingo, das Display lässt sich ansteuern. Der Controller und das Display bleiben angenehm warm (also kaum), das Display zu initialisieren klappt nun nach jedem Reset.