Nur die mit ADC0..7 bezeichneten Eingänge eines AVRs sind Analogeingänge! Beim Mega8 liegen sie an PortC.

ADMUX|=(1<<REFS1)|(1<<REFS0); schaltet auf intern 2,56V Referenz.

Um die Referenz auf die Betriebsspannung zu setzen (praktisch wenn man Potis zwischen VCC und GND schaltet) nimmt man
ADMUX|=1<<REFS0);
Wenn VCC=5V kann man dann auch bis 5V messen.