... STK500 und COM3 ... Bei HW-Settings - Clock Generator wenn ich auf Read Klicke ist auf 0 ... Worauf muss "SUT_CKSEL" stehen? ...
COM3 klingt gut. Vermutlich bekommst Du gar keine Verbindung. Schau mal hier nach:

......Klicke auf die Grafik für eine größere Ansicht

Name:	xx.jpg
Hits:	6
Größe:	35,5 KB
ID:	29874

Hier solltest Du die richtige Signatur lesen können, WENN Du eine Verbindung zum Controller bekommst. Evtl. die ISP-Frequenz runtersetzen. Zusätzlich, davor oder danach, prüf doch mal Deine Boardspannung (vor allem, wenn nix geht) hier:

......Klicke auf die Grafik für eine größere Ansicht

Name:	xx.jpg
Hits:	5
Größe:	34,6 KB
ID:	29875

bei [HW Settings] [Voltages] auf [Read]. Hier müsste ein Wert irgendwo über 2..3 V angezeigt werden. Dein Read an dieser Stelle könnte möglicherweise garnicht funktionieren - wie Andreas schreibt ist möglicherweise kein, oder zu wenig, Spannung auf Deinem Controller. Wenn Dein Controller irgendwann richtig eingestellt ist und mit dem Quarztakt arbeiten soll, könnten die folgenden Einstellungen sinnvoll sein (ich habe hier ne relativ lange "Hochfahrzeit" eingestellt; mein Quarz tickt mit 20 MHz)

......Klicke auf die Grafik für eine größere Ansicht

Name:	xx.jpg
Hits:	4
Größe:	46,0 KB
ID:	29876

Dein COM4 musst Du zum Flashen erstmal garnicht parameterisieren, das ist die UART-Schnittstelle (ne TTL-EIA232 ... sozusagen).

Mal sehen wie es weiter geht.