|
Registriert seit: 24. Aug 2006
Ort: Schwäbisch Gmünd
55 Beiträge
Delphi 2006 Professional
|
Re: "Ungueltige Gleitkommaoperation" bei Round
30. Jun 2007, 15:31
Hallo,
Bei der Berechnung von 128^107 landet man irgendwo im Bereich 2^225. Geteilt durch 187 ändert daran auch nicht viel. round liefert einen int64 zurück. Dessen Gültigkeitsbereich liegt irgendwo bei 2^63. Das Ergebnis deiner Berechnung liegt also weit ausserhalb eines int64.
Leider fällt mir gerade auch keine Funktion ein, welche einen Extended-Typ rundet. Ausserdem würde er sowieso das korrekte Ergebnis nicht speichern können.
MfG
Kolbi
|