@Mr Bean
Also das mit deinen 1,75V am ARef Pin mag ich jetzt fast nicht glauben.
Hast Du da ein Uralt Analog Multimeter verwendet ?
Ist der A/D Wandler des Controller richtig konfiguriert ?
Ich hab da Unterschiede von maximal 0,1V festgestellt.
Klar kannst Du auch deine 5V Als Referenzspannung verwenden. Dazu musst Du den A/D Wandler etwas anders konfigurieren - ADMUX Register.

Ich meine Du solltest mal für die Temperatur Berechnungen eine signed long int Variable vorsehen, sonst passiert das mit dem Überlauf was "robocat" schrieb, wenn die Werte über 32767 bzw. 65535 gehen.
Ausserdem könnten dann die Korrekturwerte etwas größer gewählt werden, was eine feinere Abstufung ergäbe.

Da bei der Temperaturmessung auch negative Werte rauskommen können sollten alle darin verwendeten Variablen als signed angegeben werden.
Sonst könnte es Stress bei der Berechnung geben.

Teil mal die Formel auseinander ( aus der einen Formel 3 machen ) und lass das Programm mal im Simulator laufen. Dann sollte sich zeigen wo die Berechnung nicht stimmt.