Bei der Schaltung ist die Versorgung von AVCC (Pin20) falsch:

Hier sollte AVCC direkt mit VCC verbunden sein, also auch +5 V vom Regler kriegen. Dazu noch ein 2 ter Enkoppelkondensator.

Der Widerstand R2 ist ganz fasch, der zieht noch extra Strom aus dem Pin. Der Kondensator C5 ist so auch eher Schädlich, denn Störungen vor dem Regler werden so nach AVCC eingekoppelt. Der Kondensator gehört da hin wo R2 ist.

Gerade beim Mega8 kann das so gut gehen, muß es aber nicht.

An die Versorgung vor den Regler gehört noch ein Elko. Je nach Motor wären so etwa 1000-2200 µF angebracht.
Wenn der Motor stark stört, wäre ein extra RC Glied (z.B. 100 Ohm, 100 µF) vor dem Spannungsregler angebracht, ggf. statt dem Widerstand auch eine Diode.

EDIT:
Bei der Software ist auch noch ein Fehler drin:
Bei den Interrupts muß man noch das Status-register (SREG) retten. Wenn man das nicht mancht, kann man leicht selten Auftretende Fehler bekommen, weil gelegentlich das Hauptprogramm nicht so läuft wie es soll, weil sich unerwarte das Statusregister ändert. Auch mit den anderen Registern muß man ggf. aufpassen, daß man nicht Registser verändert, die auch im Hauptprgramm benutzt werden für etwas anderes als ein "globale Variable".