Einzelnen Beitrag anzeigen

Chewie

Registriert seit: 10. Jun 2002
Ort: Deidesheim
2.886 Beiträge
 
Turbo Delphi für Win32
 
#6

Re: Befehle zum Runden versagen...?

  Alt 3. Jun 2004, 18:11
Zitat von Patrick:
Nur damit ich das verstehe: "round" ist für "real" ausgelegt, das wären etwa 38 Stellen, dies sind nur 20 Stellen...
"floor" und "ceil" sind sogar für "extended" ausgelegt, das sind 4932 Stellen, sie versagen aber schon bei 13 Stellen.
Alle Delphi-Fließkomma-Funktionen rechnen mit Extended-Werten. Diese verfügen über 19-20 signifikante Stellen, Real-Werte sind nur aus Gründen der Abwaärtskompatibiliät enthalten und entsprechen Double-Werten, die 15-16 sign. Stellen haben. 4932 Stellen kriegst du nur über spezielle Software-Bibliotheken zustande, nicht über hardware-unterstützte Gleitkommaoperationen.
Martin Leim
Egal wie dumm man selbst ist, es gibt immer andere, die noch dümmer sind
  Mit Zitat antworten Zitat