Einzelnen Beitrag anzeigen

Medium

Registriert seit: 23. Jan 2008
3.686 Beiträge
 
Delphi 2007 Enterprise
 
#7

Re: Seltsamer Effekt mit Double

  Alt 14. Mai 2010, 16:22
Die DP ist voll von Themen zur Ungenauigkeit von Floats, da wir das Thema fast wöchentlich haben. Die Suche sollte also reichlich Antworten dazu haben, was und warum das da um Ungenauigkeiten geht, und warum das auch überhaupt nichts mit der "genauen Eingabe" zu tun hat. Tip: Ein Double kann auch nur 2^64 Werte speichern wie ein Int64, hat aber einen erheblich größeren Werteberich. Irgendwo müssen da Lücken sein

Für exakte Speicherung wären Festpunkttypen geeignet, die im Grunde nur Integer sind, bei denen intern automatisch ein Dezimalpunkt verwaltet wird.


Hm, trotz 3-facher Redbox mal abgeschickt :]
"When one person suffers from a delusion, it is called insanity. When a million people suffer from a delusion, it is called religion." (Richard Dawkins)
  Mit Zitat antworten Zitat