Wie groß ist R9, wie groß ist C1. Bedenke, dass die Quellimpedanz für den ADC nicht größer als 10kOhm sein sollte (lt. AVR Datenblättern).

Hast Du AVcc und ARef sauber von Vcc des AVRs getrennt (LC Glieder)?