Hallo,
ich benutze kein AVR - Studio und kann daher nicht nachsehen. Aber der ATMega2560V geht bis 8MHz und der ATMega2560 bis 16MHz. Liegt evtl da der Fehler.
Hast du die Fuses evtl. schon auf ext. Takt eingestellt?