Registriert seit: 16. Jan 2004
Ort: Bendorf
5.219 Beiträge
Delphi 10.2 Tokyo Professional
|
Fließkomma-Überlauf
23. Nov 2009, 13:20
Hi,
Ich berechne gerade etwas, im wahrsten Sinne des Wortes, "größeres". Dabei wird eine Zahl in jeder Iteration quadriert. Das funktioniert bisher 12 Iterationen lang, bis ich nen Gleitkomma-Überlauf bekomme.
Allerdings wäre es notwendig bis zu 20 Iterationen hinzubekommen. Ich verwende schon den Datentyp Extended.
Hat jemand einen Tipp?
Gruß
Neutral General
Michael "Programmers talk about software development on weekends, vacations, and over meals not because they lack imagination,
but because their imagination reveals worlds that others cannot see."
|