Lass doch dein Programm mal durch den Simulator im Einzelschrittmodus laufen und schau welcher Programmteil die Fehler produziert.
Da die Variablen im RAM seinsollten brauchst Du eigentlich nur nach den entsprechenden Rechenschritten die zugehörigen Speicheradressen auslesen und in Dezimal umrechnen.
Dann wird Dir schnell klar wo der Fehler liegt.

Hab noch mal ein wenig rumprobiert.
Der ad_nullwert hab ich als const signed long int definiert, dann berechnete er die negativen Werte richtig.

Ich hab jetzt noch ein kleines Problem mit den Nachkommastellen entdeckt, aber das kriegst Du dann ja noch selber raus.