Welche Spannung zeigt AVR Studio an? Alles über 4,5V sollte passen.
Nimm den Haken "Erase Device before Programmung" raus und versuch den Controller von Hand zu löschen.
Passt die Bootsize einstellung zum Bootloader?
Stell versuchsweise mal die Taktfrequenz des Programmers auf 125KHz zurück.

Mehr fällt mir dan momentan auch nicht ein.