Hallo,

Je länger ich jetzt überlege, um so mehr habe ich das Gefühl, daß Du dir nur das Programm zerschossen hast.
Der Bootloader dürfte aber noch drauf sein !

Mach mal folgendes:

Schließ Deine RS232 Schnittstelle richtig an.
Besorge Dir (wenn noch nicht gemacht) AVRStudio.

Lese unter Help/AVR Tools.../Butterfly das Thema Bootloader.

und vor allem das
Nothing will be displayed on the LCD while in boot section. Press and hold the joystick in the ENTER-modus while starting AVR Prog. When AVR Prog starts, release the joystick. Find the *.hex file you want to program with the “Browse” button, and press “Program”. See that “Erasing Device”, “Programing” and “Verifying” goes “OK”, this is done automatically. After upgrading the application, press the “Exit”-button in AVR Prog in order to leave programming mode in the ATmega169 bootloader.
Wenn avrprog die Verbindung mit Butterfly hergestellt hat ist alles in Butter und Du kannst Deine Firmware aufspielen.
Wenn nicht, dann hilft nur noch ISP.

Wichtig ist aber wirklich 100% richtig anschliessen,
ENTER am Butterfly drücken und gedrückt halten.
avrprog starten.

Gruß Sebastian