FloatToStrF Rundungsfehler ?

Thema durchsuchen

Ansicht

Themen-Optionen

FloatToStrF Rundungsfehler ?

Ein Thema von egentur · begonnen am 28. Jan 2021 · letzter Beitrag vom 5. Feb 2021

Vorheriger Beitrag

Nächster Beitrag

egentur

Registriert seit: 27. Sep 2006
Ort: Freising
60 Beiträge

Delphi 10.2 Tokyo Enterprise

AW: FloatToStrF Rundungsfehler ?

29. Jan 2021, 15:37

Hallo Incocnito

Genauso verhält es sich bei mir.
Ich habe die 8 Jahre alte Software übernommen.

Ein Messwert kommt als String '0.50015' ,
wird dann für eine weitere Berechnung in Double konvertiert

val(messwert, double, error) double ist dabei 0.500149999...

und dann wieder in String
result := Floattostrf(double , fffixed, 6,4)

result ist dann '0,5001'

zur Anzeige.

Warum rundet die Funktion an diese Stelle ab statt auf (0,5002) ?

Ist dies ein bekannter Fehler ?