Total komisch, irgendwo ist da entweder ein denkfehler oder ich verwechsel irgendwas.
Du hast die Werte ja in dinem Quelltext angegeben und der Wert den Bascom ausrechnet ist ja entlich nicht völlig falsch.
Fliesskomma-Berechnungn sind nicht unbedingt die Stärke eines µC. Könnte es sein, dass sich der relative hohe Fehler (ca. 5%) aus der Ungenaugikeit des Datentypen "Single" ergibt?