Was hast du im Register ADMUX eingestellt.
Ein Kondensator gehört an VCC, AVCC und AREF jeweils so nahe wie möglich beim Kontroller nach GND, je 100n.