Thema: Delphi Single -> Extended

Einzelnen Beitrag anzeigen

Benutzerbild von jaenicke
jaenicke

Registriert seit: 10. Jun 2003
Ort: Berlin
9.592 Beiträge
 
Delphi 11 Alexandria
 
#2

AW: Single -> Extended

  Alt 8. Sep 2022, 12:30
Das Problem ist, dass Zahlen intern nicht im Dezimalsystem gespeichert werden. Deshalb funktioniert dein Gedankengang leider nicht, denn im Binärsystem sind die Nachkomma-Nullen eben keine Nullen, sondern die Zahl wird im Binärsystem so weit angenähert dargestellt wie eben möglich. Vielleicht wäre eine direkte Konversion der Zahl als Dezimalstring in Extended noch ein wenig näher dran, aber trotzdem gibt es weiter hinten bei den meisten Dezimalzahlen immer noch Abweichungen.

Sinnvoller wäre übrigens Double statt Extended, denn Extended gibt es z.B. im 64-Bit Kompiler nicht mehr in der Form, so dass man besser gleich bei Double bleibt oder bei echtem Bedarf spezielle Bibliotheken mit höherer Genauigkeit verwendet.

Die interne binäre Darstellung und die daraus resultierende Ungenauigkeit muss man beim Handling natürlich beachten, aber dann gibt es normalerweise auch keine Probleme damit. Für höhere Genauigkeit gibt es wie eben geschrieben spezielle Bibliotheken.
Sebastian Jänicke
Alle eigenen Projekte sind eingestellt, ebenso meine Homepage, Downloadlinks usw. im Forum bleiben aktiv!
  Mit Zitat antworten Zitat