@Werner,

Mit Config Adc=Single, Prescaler = Auto, Reference = AVCC
kann ich bei meiner Hardware 5V als Ref wählen.

Die Werte sind aber immer noch nicht korrekt.
Fazit: der ADC ist Schrott.

Gruß: - Reinhard -