Rechnen mit Gleitkommazahlen

[markusj]

Der Wert soll sich aus folgender Rechnung ergeben:

(100/65536)* wert * 100;

Bequemerweise hast du DEN Teil von Daniels Aussage vergessen ... die +-255 sind Ausgabe und nicht Eingabe. Und da du in deine LUT die Eingabe stecken musst, bringt das ganze nichts. (Außer du möchtest einen Reverse-Lookup implementieren, was dann doch etwas übertrieben ist ...)

mfG
Markus

[Peter1060]

WENN es so ist...
dann ist der EinWert also nur im Bereich -167 bis +167...und die Tabellenform wird noch kürzer...

solange Daniel sich nicht äussert ist jede weitere Diskusion zwecklos.

Mit Gruß
Peter

[XCircle]

Wenn es unbedingt als Integer gemacht werden muss,
dann klappt das ganze so in C:

int wert;
printf("(100/65536)* %i * 100 = %.2f", wert, (100.0/65536.0)* wert * 100.0);