Spannungsmessen ergibt falschen Wert?

[Che Guevara]

Hi,

ich selbst behersche zwar kein C (nur in Grundzügen), aber ich denke es liegt daran, dass du im zweiten Beispiel erst dividierst und dann multiplizierst, dadurch verlierst du Auflösung  

Gruß
Chris

[shedepe]

Du solltest auch noch bedenken, dass long ein ganzzahliger Datentyp ist. Und damit keine Kommazahlen aufnehmen kann. Bei der Rechenoperation die du durchführst kommt allerdings mit recht hoher Wahrscheinlichkeit meistens eine Kommazahl raus. (Die Nachkomma stelle wird abgeschnitten)

[RoboHolIC]

Da gibt es auch noch das Ding mit der Auswertung von Ausdrücken. Die beiden Varianten sind für mich uneindeutig, weil eine Klammerung fehlt, die den Zähler vom Nenner trennt, sprich: den Buchstrich erkennbar macht.
Wenn man z.B. den Ausdruck a / b * c (mit a, b, c ganzzahlig positiv) von links mit dem Taschenrechner auszurechnen beginnt, so wird das Ergebnis mit wachsendem c ebenfalls größer. Fängt man dagegen rechts mit der Auswertung an (das ist bei Programmiersprachen bzw. deren Compilern nicht unüblich), so wird das Ergebnis mit wachsendem c immer keiner!

[Schmiddi]

@RoboHolIC: Daran hatte ich gar nicht gedacht, ich bin tatsächlich davon ausgegangen dass von links nach rechts gerechnet wird, interessanter Aspekt!

@shedepe: Das war mir soweit schon klar, ich hatte das ganze davor auch schon mit float getestet. Da es sich hier im mV handelt habe ich die Nachkommastellen vernachlässigt.

Ok, jetzt hab ich das ganze soweit kapiert und mein Programm funktioniert nun bestens.

Vielen Dank für eure Antworten!