-         

Ergebnis 1 bis 6 von 6

Thema: noch ne seltsame Rechenfunktion - ich krieg die Krise!

  1. #1
    Erfahrener Benutzer Fleißiges Mitglied
    Registriert seit
    20.10.2004
    Ort
    Thüringen
    Beiträge
    133

    noch ne seltsame Rechenfunktion - ich krieg die Krise!

    Anzeige

    Hallo Leute,

    beim ausführen verschiedener Rechenoperationen in Bascom bin ich wieder auf etwas seltsames gestoßen
    Diemal habe ich den Controller aber vorher über $regfile definiert:

    Folgender Code
    Code:
    $sim
    $hwstack = 64
    $swstack = 64
    $framesize = 64
    
    $regfile = "m8def.dat"
    $crystal = 3686411
    
    Dim A As Single
    Dim B As Single
    
    A = 35.5634
    B = A * 0.6
    Warum kommt hier nicht, siw es soll 21.33804 heraus??
    Das kann doch nicht sein!!!

    Bitte helft mir auf die Sprünge!
    MfG, ANdreas

  2. #2
    Erfahrener Benutzer Roboter Genie
    Registriert seit
    16.02.2006
    Beiträge
    1.112
    Also bei mir kommt da
    21.338039396, was um 0,000000604 neben dem richtigen Ergebnis liegt.
    Halte ich für ok.

    Gruß

    Rolf

  3. #3
    Erfahrener Benutzer Robotik Einstein
    Registriert seit
    22.05.2005
    Ort
    12°29´ O, 48°38´ N
    Alter
    48
    Beiträge
    2.731
    Hi,

    evtl. solltest Du mal in der Bascom-Hilfe nach den Zahlenformaten sehen, und deren Genauigkeit, dann wirds villeicht etwas klarer.
    DH. wenn Du statt Single Double verwendest könnte es etwas besser werden.

    http://avrhelp.mcselec.com/language_fundamentals.htm -> Elementary Data Types

  4. #4
    Erfahrener Benutzer Roboter Experte
    Registriert seit
    28.10.2004
    Ort
    Baoding
    Alter
    37
    Beiträge
    687
    Nehme mal den Calc von Windoofs. Da kommt genau das selbe raus.
    Signatur??? kann ich mir nicht leisten!!!

  5. #5
    Erfahrener Benutzer Roboter-Spezialist
    Registriert seit
    15.11.2004
    Ort
    Aachen
    Alter
    32
    Beiträge
    246
    Zitat Zitat von Rofo88
    Nehme mal den Calc von Windoofs. Da kommt genau das selbe raus.
    Also ich glaube, das ist ja genau das Problem, das er bei seinem Programm NICHT diesen Wert erhält...

    @dl1akp:
    Aber was kommt denn bei dir raus? Wäre vielleicht ja ganz hilfeich!

  6. #6
    Erfahrener Benutzer Roboter Experte
    Registriert seit
    18.05.2007
    Ort
    Berlin
    Alter
    46
    Beiträge
    765
    Wäre interessamt zu wissen, was denn bei Andreas überhaupt rauskommt...
    Wenn das Herz involviert ist, steht die Logik außen vor! \/

Berechtigungen

  • Neue Themen erstellen: Nein
  • Themen beantworten: Nein
  • Anhänge hochladen: Nein
  • Beiträge bearbeiten: Nein
  •