Registriert seit: 7. Aug 2008
Ort: Brandenburg
1.484 Beiträge
Delphi 12 Athens
|
Re: Runden liefert falsches Ergebnis
18. Dez 2009, 16:21
Gebrochene Fließkommazahlen lassen sich mit verschiedenen Exponenten darstellen.
Je nach vorherigen Operationen und Exponent treten Ungenauigkeiten auf.
Statt 290,325 kann die Variable intern auch z.B. 290,324999999998 enthalten.
Bei der Umwandlung in einen String wird das natürlich ausgeglichen und die Anzeige stimmt.
Ein direkter Vergleich würde aber Ungleichheit feststellen.
Trunc(2903224,999999998) ergibt 2903224.
|