Hallo Markus,
da Du den Mega8 verwendest, kann ich Dir nur raten, kauf Dir das Lehrbuch von Roland Walter.
Dort ist insbesondere das Thema ADC sehr gut erklärt und mit Beispiellistings verdeutlicht.

Aus Copyrightgründen möchte ich hier jedoch keine Listingauszüge posten.
Welche Referenzspannung verwendet werden soll, stellt man im Register ADMUX mit den Bits 7 und 6 ein:

Zitat aus dem o.a. Buch, Seite 128
Zitatanfang-----------------------------------------------------------
bit7 bit6
0 0 : Extere Referenzspannung an Pin AREFF
0 1 : AVCC ist Referenzspannung, Abblock-Konds. an Pin AREFF
1 0 : reserviert
1 1 : Interne Referenzspannung 2,56V, Abblockkonds. an Pin AREFF
----------------------------------------------------------- Zitatende
Hinzu kommt das auch das Register ADCSRA richtig gesetzt ist.

Diese Angaben findest Du aber auch im Datenblatt zum Mega8 !!!

mfg Gerhard

Nachtrag: Keramik-Kondesator vom Pin gegen GND, 100nF