Sind an Deiner AREF/AVCC/AGND entsprechende Siebglieder dran?
Laut Datenblatt sollten da etwas dickere Elkos und / oder Spulen mit ran,
um eine saubere Referennzspannung zu erzeugen.

Das könnte die Ursache der Schwankungen sein.

Nachzulesen im Datenblatt des Mega 16: http://www.atmel.com/dyn/resources/p...ts/doc2466.pdf
Seite 209 ff.