Hallo,

danke euch beiden erst einmal für die Antworten.
Ich habe es gerade mal mit dem Beispiel von izaseba versucht. Funktioniert soweit gnz gut, nur wenn ich das richtig sehe müßte dann ja die Auflösung 1mV betragen.
habe ich nun im Display eine 4 angezeigt sollte das dann ja 4mV entsprechen. Messe ich aber am eingang nach sind es in Wirklichkeit 19mV (also +14mV) habe ich 1001 in der Anzeige sind es 1,023V (+22mV).
Nicht das das jetzt ein riesen Fehler währe (die Toleranz des Meßgerätes ist ja auch noch dabei).
Wäre das mit der Floatvariante ungefähr genau so hoch von der Differenz her?
Wie setze ich denn das Komma bei deiner Variante (izaseba)? So das dann bei 4 -> 0,004 angezeigt würde?