Einzelnen Beitrag anzeigen

Benutzerbild von Binärbaum
Binärbaum

Registriert seit: 19. Jan 2005
Ort: Elstra
764 Beiträge
 
Delphi 7 Enterprise
 
#9

Re: "Ungültige Gleitkommaoperation"

  Alt 3. Mär 2005, 22:08
Zitat von TheAn00bis:
Danke, Binärbaum!

Ich denke ich weiß woran es liegt: power(10,77)=1E77 das kann er wahrscheinlich mit trunc nicht umrechnen. Wie rechne ich 1E77 denn in eine Dezimalzahl um?
1E77 ist einfach eine 1 gefolgt von 77 Nullen. Das kann allerdings kein LongInt oder Int64 mehr darstellen (deshalb kommt wohl auch der Fehler), denn um diese Zahl zu speichern, bräuchte man 256 Bit, Int64 hat nur 64.
Deshalb musst du Double oder Extended verwenden. Die können solch große Zahlen noch darstellen.

MfG
Binärbaum
There are exactly 10 kinds of people: those who understand binary, and those who don't.
---
"Software reift beim Kunden. Bei Hardware ist es anders: Hardware fault beim Kunden." - Rainer G. Spallek
  Mit Zitat antworten Zitat