Registriert seit: 27. Nov 2017
2.490 Beiträge
Delphi 7 Professional
|
AW: FloatToStrF Rundungsfehler ?
29. Jan 2021, 16:48
Weil 0.500149999 bei Rundung auf vier Nachkommastellen halt 0.5001 ergibt.
Floattostrf weiß nicht, dass vorher aus dem String 0.50015 ein Double 0.500149999 gemacht wurde und daraus dann eigentlich ein String 0.50015 werden müsste, der dann zu 'nem gerundeten String 0.5002 werden sollte.
Floattostrf kennt nunmal nur den aus dem String erstellten Doublewert von 0.500149999, rundet den auf vier Nachkommastellen = 0.5001 und macht dann daraus einen String.
|