Einzelnen Beitrag anzeigen

Michael II

Registriert seit: 1. Dez 2012
Ort: CH BE Eriswil
760 Beiträge
 
Delphi 11 Alexandria
 
#8

AW: FormatFloat 32bit / 64bit

  Alt 23. Apr 2024, 18:02
Wie bereits erwähnt worden ist läuft unter Win32 FloatToTextFmt() via asm und Win64 PUREPASCAL via InternalFloatToTextFmt(). Win64s extended ist ein Alias für double.

jaenicke hat vorgeschlagen via Set8087CW() so zu runden, dass immer dann, wenn ein Dezimalwert z nicht exakt gespeichert werden kann binär die nächsthöhere Zahl gespeichert wird. (Wenn der Delphi Teil korrekt rechnet, sind wir damit bei in der Aufgabe verwendeten Stellenzahl auf der sicheren Seite.) rabatscher schlägt vor via Set8087CW() extended auch Win32 auf double zu zwingen. Weil Win32 und Win64 voneinander verschiedenen Code nutzen, sind wir durch die Beeinflussung der FPU Berechnung immer noch nicht sicher ob am Ende in allen möglichen Fällen immer exakt gleiche Werte berechnet werden.

Aber ich glaube das Grundproblem bei der Win32 Implementierung liegt v.a. beim Casten und gar nicht bei der Berechnung des formatierten Strings.
Wenn man sich die Win32 Berechnung ansieht, dann wird zuerst ein Variant in currency, später in double und danach in extended gecastet (bevor dann der formatierte String berechnet wird). Wenn man direkt currency in extended castet, dann erhält man sehr häufig andere Werte (ist ja klar, da beim Umweg über double Stellengenauigkeit verloren geht und u.a. Rundungsfehler drohen) - und einige dieser Unterschiede wirken sich dann auf FormatFloat aus. var c: currency; d : double; e, edirekt : extended; Dann führt d := double(c); und danach e := extended(d); nicht zum gleichen Ergebnis wie edirekt := extended(c);


Nebenbei: Vorsicht bei currency ([-922337203685477.5808.. 922337203685477.5807]). Currency verwendet fest 4 Nachkommastellen. Das ist im vorliegenden Fall (405.405) also kein Problem. Wenn aber auch Zahlen mit mehr Nachkommastellen als Input möglich sind, dann solltest du den Variant VOR dem Aufruf von FormatFloat() nach extended casten.

Und da es offensichtlich ein Problem wegen dem wiederholten Casten gibt (Datenverlust) solltest du den Variant eh selbst nach extended casten.

Fazit: Der Delphi Source Code gehört in diesem Bereich angepasst.
Michael Gasser

Geändert von Michael II (23. Apr 2024 um 21:42 Uhr)
  Mit Zitat antworten Zitat