Hallo,
wozu hast du die Dioden vor den Gates, die haben da eigentlich nichts zu suchen Das Problem ist nämlich, dass du die MOSFETs dann nicht mehr ausschalten kannst, weil die Ladung vom Gate nicht durch die Dioden abfließen kann (Leckstrom mal nicht berücksichtigt).

N-Kanal MOSFETs als High-Side-Treiber zu verwenden ist nur sinnvoll, wenn das Potential am Gate über die Versorgungsspannung angehoben werden kann. Sonst ist die Spannung am Drain gegenüber der Vcc um U_GS niedriger, was erhebliche Verluste mit sich zieht. Bei der linken Brückenhälfte hast du zudem jeweils Source und Drain vertauscht.

Die Freilaufdioden sind falsch herum drin, die würden beim Einschalten die Versorgungsspannung quasi kurzschließen.
Da musst du nochmal einiges ändern, bitte

Was zieht der Motor denn maximal an Strom?
Und soll der wirklich nur mit Vcc=5V (?) betrieben werden?

(übrigens der ATmega nebenan will noch mindestens einen Pullup-Widerstand am Reset-Pin ; AGND, AVCC sollten auch mit der Versorgungsspannung verbunden werden )

Grüße, Bernhard