Nur um ganz sicher zu gehen.

Dir ist schon klar, dass du zuerst den Bootloader über ISP auf den Controller bringen musst, bevor du den RS232 Anschluss zum Laden der Hexfiles nutzen kannst. Der versteht sonst nicht was die Daten auf der seriellen Schnittstelle bedeuten.

Ansonsten gilt was Richard sagt. Masse muss verbunden sein und RX und TX sollten richtig angeschlossen sein. Kann man auch einfach mal tauschen um es zu testen. Du hast doch hoffentlich auch einen Pegelwandler vor dem Controller?

sast