Einzelnen Beitrag anzeigen

Benutzerbild von Daimonion
Daimonion

Registriert seit: 4. Dez 2006
Ort: Vöhrenbach
15 Beiträge
 
#1

trunc liefert nicht das erwartete Ergebnis

  Alt 18. Mär 2010, 16:17
Hallo an alle

In meinem Programm berechne ich verschiedene Position auf die 2. Kommastelle genau. Um nicht in irgendwelche Rechenfehler zu rennen, multipliziere ich die Double Werte vorher mit 100 und wende dann darauf einen Trunc an. (siehe Beispiel)
Code:
rp := (trunc((dp*100)) + trunc((offset*100)))/100; //Real Position
Nun habe ich festgestellt, dass mir die Funktion Trunc die Werte falsch liefert.

Gemerkt habe ich das am Wert offset. Dieser war auf 0.61 . Mit 100 multipliziert ergibt dieser 61. Doch wenn ich darauf die Funktion Trunc anwende, dann gibt diese mir 60 zurück.


Wieso denn das? Und wie kann ich das umgehen?

Danke für die Infos.

Grüße
Thomas
Thomas
Zitat Stromberg S03E08 - Erika:
"So...selbst die Capitolmatratze, die hier auf jedem Karosseplan umgerutscht ist, was will sie von mir? Zahlen. Aber so ist das. Als Chef in meiner Position, da bist du so einsam wie...Gott."
  Mit Zitat antworten Zitat