Hallo,
die Einträge sind schon etwas älter, allerdings haben immer noch einige die gleichen Problem. So wie ich diese Woche

Letztendlich habe ich herausgefunden, dass Double nicht mit Byte rechnen kann! Auch nicht umwandeln.

Wenn man also ein Register (wie Counter1) oder eine Byte-Variable in die Berechnung einbeziehen will, muß man sie zuerst in Long überführen.

Dann läuft Double prima und schön genau.

Vielleicht hilft es jemandem, der auf der Suche ist

Grüße
Testus


hier ein Schnipsel, Temp ist eine Long :

N_base_float = 73.0
Temp = Capture1
Temp_float = Temp
N_base_float = N_base_float + Temp_float
Temp = Tim1_16
Temp_float = Temp
Temp_float = 65536.0 * Temp_float