Fließkommatypen, wie wird aus 0.999999765 wieder 1?

[Luckie]

Wahrscheinlich stammt der Wert aus einer Berechnung.

[Reinhard Kern]

Zitat von Luckie:

Wahrscheinlich stammt der Wert aus einer Berechnung.

Und wenn er so weiterverwendet wird, ist das ja auch nicht weiter schlimm - im Sinn der Fliesskommaarithmetik ist 0.999999765 so gut wie 1, die Ungenauigkeit wird bei Weiterverwendung auch nicht grösser als in einer direkten Berechnung. Es sieht halt bloss in der INI bescheuert aus.

Im übrigen ist das bei jedem Fliesskommawert so, nur wenn eine Ganzzahl rauskommen sollte, fällt es einem auf. Speichert man Pi, merkt keiner ob die letzte Stelle stimmt.

Gruss Reinhard

[Luckie]

Zitat von Reinhard Kern:

die Ungenauigkeit wird bei Weiterverwendung auch nicht grösser als in einer direkten Berechnung

Aber hallo, und ob die Ungenauigkeit größer wird und zwar mit jeder Multiplikation und Division. Deswegen hat man ja auch in der Schule gelernt, dass man erst ganz zum Schluss das Ergebnis sinnvoll rundet.

[Corpsman]

ich kann Luckie nur beipflichten.

An der Uni Lernt man zwar Strategien nach denen man Berechnungen numerisch "Stabiler" hin bekommt, aber das Float Format ist einfach nicht das selbe wie man es von Mathe her kennt, auch Double löst das Problem nicht annähernd.

Was evtl. hilft, ist dann aber auch schon aufwendiger, Implementiere dir eine Mathe Lib, welche mit Brüchen Rechnen kann.

Wie so etwas "im Ansatz" geht kannst du Hier z.B. anschauen.

[Sir Rufo]

Etwas eleganter geht es, wenn man die class operator benutzt.

Ein Beispiel (speziell zu den Brüchen) findet sich hier
Damit rechnet es sich dann wie gewohnt