Fließkommatypen, wie wird aus 0.999999765 wieder 1?

**toms**

Danke! Currency löst das Problem sehr elegant!

Dennoch ist mir nicht klar, warum bei dir in die INI 0,99999999987542 geschrieben wurde, obwohl eigentlich eine 1 geschrieben wurde...

**Satty67**

Er unterschlägt uns wohl noch einen Operation vorm Speichern, die zur binären Ungenauigkeit führt.

Ist ja auch nicht klar, wie genau (mit 1) verglichen werden muss, ein Round() könnte schon reichen. €: Seine Antwort übersehen: Wenn ihm der Nachkommabereich von Currency reicht, ist das natürlich auch Ok.

**Luckie**

Wahrscheinlich stammt der Wert aus einer Berechnung.

**Reinhard Kern**

Zitat von Luckie:

Wahrscheinlich stammt der Wert aus einer Berechnung.

Und wenn er so weiterverwendet wird, ist das ja auch nicht weiter schlimm - im Sinn der Fliesskommaarithmetik ist 0.999999765 so gut wie 1, die Ungenauigkeit wird bei Weiterverwendung auch nicht grösser als in einer direkten Berechnung. Es sieht halt bloss in der INI bescheuert aus.

Im übrigen ist das bei jedem Fliesskommawert so, nur wenn eine Ganzzahl rauskommen sollte, fällt es einem auf. Speichert man Pi, merkt keiner ob die letzte Stelle stimmt.

Gruss Reinhard

**Luckie**

Zitat von Reinhard Kern:

die Ungenauigkeit wird bei Weiterverwendung auch nicht grösser als in einer direkten Berechnung

Aber hallo, und ob die Ungenauigkeit größer wird und zwar mit jeder Multiplikation und Division. Deswegen hat man ja auch in der Schule gelernt, dass man erst ganz zum Schluss das Ergebnis sinnvoll rundet.

**Corpsman**

ich kann Luckie nur beipflichten.

An der Uni Lernt man zwar Strategien nach denen man Berechnungen numerisch "Stabiler" hin bekommt, aber das Float Format ist einfach nicht das selbe wie man es von Mathe her kennt, auch Double löst das Problem nicht annähernd.

Was evtl. hilft, ist dann aber auch schon aufwendiger, Implementiere dir eine Mathe Lib, welche mit Brüchen Rechnen kann.

Wie so etwas "im Ansatz" geht kannst du

Hier z.B. anschauen.

**Sir Rufo**

Etwas eleganter geht es, wenn man die class operator benutzt.

Ein Beispiel (speziell zu den Brüchen) findet sich

hier
Damit rechnet es sich dann wie gewohnt

Themen-Optionen	Thema durchsuchen
Druckbare Version zeigen Jemanden per E-Mail auf dieses Thema hinweisen	Thema durchsuchen: Erweiterte Suche
Ansicht
Zur Linear-Darstellung wechseln Hybrid-Darstellung Zur Baum-Darstellung wechseln

Fließkommatypen, wie wird aus 0.999999765 wieder 1?

AW: Fließkommatypen, wie wird aus 0.999999765 wieder 1?

AW: Fließkommatypen, wie wird aus 0.999999765 wieder 1?

AW: Fließkommatypen, wie wird aus 0.999999765 wieder 1?

AW: Fließkommatypen, wie wird aus 0.999999765 wieder 1?

AW: Fließkommatypen, wie wird aus 0.999999765 wieder 1?

AW: Fließkommatypen, wie wird aus 0.999999765 wieder 1?

AW: Fließkommatypen, wie wird aus 0.999999765 wieder 1?

Forumregeln

toms (CodeLib-Manager) Registriert seit: 10. Jun 2002 4.648 Beiträge Delphi XE Professional	#1 AW: Fließkommatypen, wie wird aus 0.999999765 wieder 1? 30. Okt 2010, 13:20 Zitat von arc: Danke! Currency löst das Problem sehr elegant! Dennoch ist mir nicht klar, warum bei dir in die INI 0,99999999987542 geschrieben wurde, obwohl eigentlich eine 1 geschrieben wurde... Thomas
	Zitat

Luckie Registriert seit: 29. Mai 2002 37.621 Beiträge Delphi 2006 Professional	#3 AW: Fließkommatypen, wie wird aus 0.999999765 wieder 1? 30. Okt 2010, 13:38 Wahrscheinlich stammt der Wert aus einer Berechnung. Michael Ein Teil meines Codes würde euch verunsichern.
	Zitat

Sir Rufo Registriert seit: 5. Jan 2005 Ort: Stadthagen 9.454 Beiträge Delphi 10 Seattle Enterprise	#7 AW: Fließkommatypen, wie wird aus 0.999999765 wieder 1? 30. Okt 2010, 23:26 Etwas eleganter geht es, wenn man die class operator benutzt. Ein Beispiel (speziell zu den Brüchen) findet sich hier Damit rechnet es sich dann wie gewohnt Kaum macht man's richtig - schon funktioniert's Zertifikat: Sir Rufo (Fingerprint: ‎ea 0a 4c 14 0d b6 3a a4 c1 c5 b9 dc 90 9d f0 e9 de 13 da 60)
	Zitat