Hast du die Pins für den ISP am AVR an MISO, MOSI und SCK angeschlossen?
Beim ATMega128 sind die Pins für ISP nicht identisch mit den Pins für SPI. Welche Pins du dann verwenden musst, weiß ich nicht auswendig, das steht aber im Datenblatt.