Einzelnen Beitrag anzeigen

Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.184 Beiträge
 
Delphi 12 Athens
 
#9

AW: SetRoundMode wirkt nicht immer

  Alt 15. Mär 2024, 19:42
Floats sind immer etwas gerundet, da sie keine exakten irrationalen Werte speichern können,
vor allem beim Übergang von Extended/Double/Single in Zwischenberechnungen.

Die genaue Funktion wirst du wohl beim Bei Google suchenFLDCW oder Delphi-Referenz durchsuchenSet8087CW finden, bzw. beim Bei Google suchenLDMXCSR/Delphi-Referenz durchsuchenSetMXCSR für SSE (Delphi-Referenz durchsuchenSetSSERoundMode).
Und zusätzlich noch Delphi-Referenz durchsuchenSetPrecisionMode (ebenfalls FLDCW/Set8087CW)




https://docwiki.embarcadero.com/RADS...int_Arithmetic
https://docwiki.embarcadero.com/RADS...elphi_for_x64)
$2B or not $2B

Geändert von himitsu (15. Mär 2024 um 20:01 Uhr)
  Mit Zitat antworten Zitat