Registriert seit: 2. Apr 2004
Ort: Bonn
2.538 Beiträge
Delphi 11 Alexandria
|
Genauigkeit von String to Single Konvertierung
1. Apr 2020, 00:21
Delphi-Version: 10.3 Rio
Wenn ich einen String mit dem Inhalt "29,7" zu einem Variablen Wert des Typs "Single" per StrToFloat (oder String.tosingle) konvertiere, erhalte ich als Ergebnis "29,7000007629395".
Erst ab Variablen Typ "Double" aufwärts erhalte ich 29.7 als Wert.
Mir ist zwar bekannt, dass Single nur 4 Byte hat und man daher von einer "geringen Rechengenauigkeit" spricht (double hat 8 Byte), aber ich habe das immer auf Berechnungsergebnisse bezogen (also multiplizieren, dividieren, etc.), wieso gibt es hier bei so einer einfachen Konvertierung eine Ungenauigkeit?
|