Einzelnen Beitrag anzeigen

blink182

Registriert seit: 19. Jun 2007
126 Beiträge
 
Delphi 5 Standard
 
#8

Re: trunc liefert nicht das erwartete Ergebnis

  Alt 18. Mär 2010, 19:41
Das liegt halt an der internen Darstellung von Gleitkommazahlen.
IEEE 754
http://www.h-schmidt.net/FloatApplet/IEEE754de.html z.b.
was dezimal 0.61 ist, ist mit Doublegenauigkeit noch lange nicht 0.61, sondern 0.6100000143051147 -> also muss exakte
von 0.61d etwas kleiner sein als 0.61 und wird somit, mit trunc(x*100) als 60 interpretiert...
  Mit Zitat antworten Zitat