Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.184 Beiträge
Delphi 12 Athens
|
AW: SetRoundMode wirkt nicht immer
15. Mär 2024, 19:42
Floats sind immer etwas gerundet, da sie keine exakten irrationalen Werte speichern können,
vor allem beim Übergang von Extended/Double/Single in Zwischenberechnungen.
Die genaue Funktion wirst du wohl beim FLDCW oder Set8087CW finden, bzw. beim LDMXCSR/ SetMXCSR für SSE ( SetSSERoundMode).
Und zusätzlich noch SetPrecisionMode (ebenfalls FLDCW/Set8087CW)
https://docwiki.embarcadero.com/RADS...int_Arithmetic
https://docwiki.embarcadero.com/RADS...elphi_for_x64)
$2B or not $2B
Geändert von himitsu (15. Mär 2024 um 20:01 Uhr)
|