OK jetzt compiliert er das ganze und ich bekomme Messwerte auf 0,1° genau. Allerdings muss ich wohl noch etwas mit dem Verhältnis spielen, da bei 90° die Abweichung schon ca. 1° beträgt.
Wie genau ist denn dein Referenzgerät ?

Wir haben auch mal fast eine Woche nach einem Fehler in der Software gesucht, bis wir festgestellt haben, das unser Referenz Voltmeter uns falsche Werte angezeigt hat.
Unser Gerät war im Nachhinein genauer als unser Referenz Gerät !?

Im übrigen sollten Referenzen von der Meßtoleranz her um den Faktor 10 besser sein, als die Schaltung die man abgleichen will.