Double Werte vergleichen

[DieDolly]

Ich kann Entwarnung geben. Ich konnte erst jetzt wieder auf den Code gucken. Ich habe in der Testausgabe dummerweise zwei Variablen vertauscht.

[Luckie]

Hier der passende Smiley für dich:

[DieDolly]

3 davon würden besser passen. Augen auf beim ... testen.

[p80286]

Wer hätte das gedacht.

Ist aber wohl den meisten schon passiert.

Gruß
K-H

[Amateurprofi]

Zitat von Rollo62:

Zitat von Amateurprofi:

Ihr Lieben,
die Hinweise auf die Vergleichstoleranz mögen ja ganz nett sein, aber wenn man 1.0 mit 10.0 vergleicht, dann braucht man keine Vergleichstoleranz.
Vielleich zeigt Dolly uns mal etwas Code.

Wer sagt denn das eine Vergleichstoleranz nicht 10.0 oder 100.0 oder 1000.0 sein kann ?
Meiner Meinung nach gibt es immer eine, je nach Aufgabenstellung.

Wo soll denn da eine Vergleichstoleranz 10.0 oder 100.0 oder 1000.0 herkommen?
Lies doch mal #1.
DieDolly schrieb

Zitat:

Ich habe A := 1.0 und B := 10.0.
Wenn ich nun if A >= B vergleiche erhalte ich komischerweise True.

Bei A >= B ist keine Vergleichstoleranz im Spiel, denn es werden 2 ganze Zahlen verglichen, bei denen keinerlei Differenzen auftreten können, die dadurch entstehen, dass gebrochene Zahlen binär nicht präzise dargestellt werden können.

[mkinzler]

Zitat:

denn es werden 2 ganze Zahlen verglichen

Es handelt sich aber um 2 Double-Werte.

[Luckie]

Zitat von mkinzler:

Zitat:

denn es werden 2 ganze Zahlen verglichen

Es handelt sich aber um 2 Double-Werte.

Zum einem das. Und wir wissen nicht, wo sie herkommen.

[Amateurprofi]

Zitat von mkinzler:

Zitat:

denn es werden 2 ganze Zahlen verglichen

Es handelt sich aber um 2 Double-Werte.

Na und?
Wenn du in einem Double eine Zahl ohne Nachkommastellen (oder alle Nachkommastellen 0 sind) und die Zahl +/- 2^52 nicht übersteigt, dann ist das eine Integerzahl.
Bei Vergleichen min anderen Zahlen, die ebenfalls keine Nachkommastellen haben, treten die Probleme mit Vergleichstoleranzen nicht auf.
Bei dem Problem, um das es hier ging, und mittlerweise wissen wird ja, dass das Problem keines war, ging es um zwei Zahlen, nämlich 1.0 und 10.0, eben Zahlen ohne Nachkommazahlen.
Schau dir doch mal im Debugger an, wie solche Zahlen in der FPU gezeigt werden. Als Zahlen ohne Nachkommastellen.