|
Registriert seit: 27. Sep 2006
Ort: Freising
60 Beiträge
Delphi 10.2 Tokyo Enterprise
|
AW: FloatToStrF Rundungsfehler ?
29. Jan 2021, 16:37
Hallo Incocnito
Genauso verhält es sich bei mir.
Ich habe die 8 Jahre alte Software übernommen.
Ein Messwert kommt als String '0.50015' ,
wird dann für eine weitere Berechnung in Double konvertiert
val(messwert, double, error) double ist dabei 0.500149999...
und dann wieder in String
result := Floattostrf(double , fffixed, 6,4)
result ist dann '0,5001'
zur Anzeige.
Warum rundet die Funktion an diese Stelle ab statt auf (0,5002) ?
Ist dies ein bekannter Fehler ?
|