Die 5 V dort anzulegen ist schon richtig, wo denn auch sonst.
In der Schaltung ist nur 1 Entkoppelkondensator angegeben, besser wäre aber je einer zwischen VCC und GND sowie AVCC und AGND (pin31), am besten ein SMD Keramik Typ, dicht am IC. Nur damit man es sich gleich richtig angewöhnt. Die Typen mit Draht gehen natürlich auch aber SMD geht halt dichter dran man spart das Bohren.

Ist hier noch nicht wesentlich, aber dem ARef pin besser freilassen oder einen Kondensator gegen Masse.

Wenn der Prozessor schon mal programmiert war, könnte es sein das er eine Quarz oder gar Takt an Pin 12/13 braucht.