Einzelnen Beitrag anzeigen

Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.071 Beiträge
 
Delphi 12 Athens
 
#33

AW: Probleme mit Trunc

  Alt 22. Apr 2018, 00:46
Zitat:
Und das ist das was du anscheinend bei dem kleinen Excel-Beispiel nicht verstanden hast, weil du mit einer Formel angekommen bist. Irgendwo wird abgeschnitten.

57544725553442900000000000000000000000000,00
Aus diesem Grund gibt es bei den Fließkommatypen auch die Angabe der Signifikanten Dezimalstellen.

Ja, einige Typen können locke Zahlen mit mehreren tausend Dezimalstellen vor und hinter dem Komma aufnehmen, aber egal wie groß der Wert ist, nur die "größten" X Dezimalstellen sind quasi "richtig" und alles nachfolgendes ist "nicht definiert", also "zufällig".

Problematisch wird es dann auch noch, wenn dann unterschiedlich große Zahlen miteinander verrechnet werden, wie z.B.
11111222223333344444555556666677777888889999,0 + 0,0000000000000000000000000000000000000001
Hier kann man 0,0000000000000000000000000000000000000001 so oft dazu rechnen, wie man will, aber das Ergebnis wird dennoch niemals größer werden.

Für sowas gibt es dann angepasste Bibliptheken, wenn man sowas unbedingt braucht.
Neuste Erkenntnis:
Seit Pos einen dritten Parameter hat,
wird PoSex im Delphi viel seltener praktiziert.
  Mit Zitat antworten Zitat