Einzelnen Beitrag anzeigen

Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.062 Beiträge
 
Delphi 12 Athens
 
#19

AW: Unterschiedliche Ergebnisse beim Runden

  Alt 15. Aug 2017, 04:36
@Uwe: Danke. Aber ich hätte das mathematische korrekte Runden als Standard gewählt.
Das kannst du bei dir ja gern machen.

Delphi-Referenz durchsuchenGet8087CW
Delphi-Referenz durchsuchenSet8087CW
Delphi-Referenz durchsuchenGetRoundMode
Delphi-Referenz durchsuchenSetRoundMode

8086 = CPU (central processing unit)
8087 = FPU (floating point unit)
GPU (graphics processing unit) .... uhhh, Codename "Pascal" für nvidia GeForce 1000er Serie (GeForce GTX 1060, ...)
Southbridge, Northbridge, Soundcard usw.
Damals waren das noch einzelne Chips, aber Heute ist das ja oft nur noch ein Chip.


Bei 7.50000000000728 muß man eben aufpassen, ob es auch in die Variable passt, bevor es gerundet wird und auch nach dem Runden.
Wenn es nur das mathematische Ergebnis ist, aber der Typ das nur als 7.499999998 speichert, dann wird da eventuell anders gerundet.
Also in einem Single sollte der Wert schonmal nicht gespeichert werden, da dort nicht genug signifikante Dezimalstellen existieren.
Neuste Erkenntnis:
Seit Pos einen dritten Parameter hat,
wird PoSex im Delphi viel seltener praktiziert.

Geändert von himitsu (15. Aug 2017 um 04:51 Uhr)
  Mit Zitat antworten Zitat