Willkommen im Forum!

... Atmega 1284P ...AVR ISP/USB adapter ... kleines Testprogramm ... STK500 und COM3 ausgewählt ... Was mache ich falsch??
VERMUTLICH hast Du den Takt zum Flashen zu hoch eingestellt. Die Meldung gibt ja als Vorschlag für korrekte Funktion an "...ISP programming frequency ... below 1/4 of the clock frequency ...". Bitte sieh mal nach wie schnell der Quarz auf Deinem Board ist (wenn einer drauf ist) und im ISP-Fenster sieh unter Fuses nach, ob vielleicht ein Häkchen bei CKDIV8 ist.

Neue controller werden üblicherweise auf internen Takt von 8 MHz eingestellt MIT Fuse CHDIV8 on (d.h. mit Häkchen dort). Dann läuft der Controller auf 1/8 der eigentlichen Frequenz - also mit 1 MHz. Du kommst mit 1/4tel davon "in den Controller" zum Flashen rein. Das wäre dann etwas in der Gegend unter 250 kHz. Also - bei der Einstellung [Target Settings] ISP Frequency auf z.B. 115 kHz stellen. Dann sollte es gehen. (Aber ich garantiere für nix *ggg*).