Einzelnen Beitrag anzeigen

Alallart

Registriert seit: 8. Dez 2015
155 Beiträge
 
#18

AW: Probleme mit Trunc

  Alt 20. Apr 2018, 17:11
@hhcm

Vielleicht noch mal klar ausgedrückt: 2 + 2 ist eigentlich 4. Wenn du aber mit Realen Zahlen in Delphi rechnest, kannst du nie sicher sein, dass das Ergebnis auch 4 wird. Die Nachkomma-Zahlen werden irgendwann gerundet, damit sie in die 8 Byte (oder was sonst) passen.

Wenn du den Effekt plastisch sehen willst, und Excel besitzt, kannst du ein kleines Experiment machen. Formatiere zuerst die Spalte A als Zahl (nicht Standard). Gib dann in die Zelle A1 den Wert
Code:
=Pi()
Gib dann in die Zelle A2 den Wert
Code:
=A1*1000
Kopiere dann durch ziehen die Zelle A2 an die 10 Zellen runter. Du wirst erleben, dass Computer standardmäßig keine unendlichen Zahlen kennen, obwohl Pi eine ist.
  Mit Zitat antworten Zitat