Hallo,

schau dir noch einmal die Beschaltung von AREF und AVCC. Du möchtest VREF nutzen und legst den Pin auf Gnd? Bild  
AVCC mit einem Kondensator nach +5V zu verbinden ist böse.
Das ist sogar dann schlecht, wenn man den ADC nicht nutzt.
Hier sind die Beschaltungen sehr schön verdeutlicht (Abschnitt A/D-Wandler).

Gruß

Jens