Miss doch erst mal die Spannung die dein Temperaturfühler abgibt.
Liegt die im zulässigen bereich sollte auch der A/D Wandler vernünftige Werte haben.
Lade das Comparematchregister mit einem festen Wert z.B. 32000.
Dann sollte eine PWM von ca. 50% rauskommen.
Kommt nichts raus, stimmt entweder deine Initialisierung nicht, oder der Port D5 ist defekt. Dann solltest Du aber mal deine Beschaltung an dem Pin überprüfen.
Wenn sich bei 32000 ein PWM Signal einstellt stimmt mit dem ADC Initialisierung, Hardware was nicht, oder in deiner Formel ist ein Fehler.