Einzelnen Beitrag anzeigen

Reinhard Kern

Registriert seit: 22. Okt 2006
772 Beiträge
 
#8

AW: Fließkommatypen, wie wird aus 0.999999765 wieder 1?

  Alt 30. Okt 2010, 16:19
Wahrscheinlich stammt der Wert aus einer Berechnung.
Und wenn er so weiterverwendet wird, ist das ja auch nicht weiter schlimm - im Sinn der Fliesskommaarithmetik ist 0.999999765 so gut wie 1, die Ungenauigkeit wird bei Weiterverwendung auch nicht grösser als in einer direkten Berechnung. Es sieht halt bloss in der INI bescheuert aus.

Im übrigen ist das bei jedem Fliesskommawert so, nur wenn eine Ganzzahl rauskommen sollte, fällt es einem auf. Speichert man Pi, merkt keiner ob die letzte Stelle stimmt.

Gruss Reinhard
  Mit Zitat antworten Zitat