FloatToStrF Rundungsfehler ?

Thema durchsuchen

Ansicht

Themen-Optionen

FloatToStrF Rundungsfehler ?

Ein Thema von egentur · begonnen am 28. Jan 2021 · letzter Beitrag vom 5. Feb 2021

Vorheriger Beitrag

Nächster Beitrag

egentur

Registriert seit: 27. Sep 2006
Ort: Freising
60 Beiträge

Delphi 10.2 Tokyo Enterprise

#19

AW: FloatToStrF Rundungsfehler ?

4. Feb 2021, 11:09

Hallo bvcs

Mein Problem war schon floattostrf

Selbst wenn ich den Wert der Double Variablen explizit auf 0.500149999999999983 setze ( was ja dann bei floattostrf(var,fffixed,6,4) 0.5001 ergeben müsste

habe ich bei den Aufrufen immer das Ergebnis 0.5002

Erst nach einem Ausdruck egibt es dann 0.5001 und bleibt auch so, bis zu einem erneuten Prgogrammstart.

Welche Randbedingungen ( Luftdruck, Zimmertemperatur ) führen denn dazu, das floattostrf bei zwei identischen ( an gleicher Stelle) Aufrufen
eine unterschiedliches Ergebnis liefert ?