Registriert seit: 27. Sep 2006
Ort: Freising
60 Beiträge
Delphi 10.2 Tokyo Enterprise
|
AW: FloatToStrF Rundungsfehler ?
4. Feb 2021, 12:09
Hallo bvcs
Mein Problem war schon floattostrf
Selbst wenn ich den Wert der Double Variablen explizit auf 0.500149999999999983 setze ( was ja dann bei floattostrf(var,fffixed,6,4) 0.5001 ergeben müsste
habe ich bei den Aufrufen immer das Ergebnis 0.5002
Erst nach einem Ausdruck egibt es dann 0.5001 und bleibt auch so, bis zu einem erneuten Prgogrammstart.
Welche Randbedingungen ( Luftdruck, Zimmertemperatur ) führen denn dazu, das floattostrf bei zwei identischen ( an gleicher Stelle) Aufrufen
eine unterschiedliches Ergebnis liefert ?
|