vergleich von Werten

[Weazy]

Für die Uni müssen wir folgendes Problem lösen:

Beim Vergleich zweier Float Werte kann es zu Fehlern kommen, wenn sich die beiden Werte erst nach einer bestimmten Nachkommastelle unterscheiden, welche von Float nicht mehr gespeichert werden. Wie könnte man die Werte vergleichen, ohne das diese Problematik auftritt?

Danke!

[Dax]

Den minimalen Unterschied, der noch als Unterschied gilt (sagen wir 0.001, alle Differenzen darunter gelten als gleich) nennen wir mal Epsilon. Wenn nun |float1 - float2| <= Epsilon ist, sind beide im Rahmen der Epsilon-Genauigkeit gleich.

[Weazy]

wie währe es denn mit runden?

[sirius]

Du meinst, du hast zwei Float-Zahlen, z.B.:
1,000000005 und
1,000000006
Und wenn man jetzt Single nehmen würde (man kann das Beispiel auch für Extended umbauen),
dann sind die Zaheln gleich, da Single die 5 und 6 nicht mehr speichern kann.

hmmm?
Die Zahlen eben als Brüche speichern?

[Weazy]

die Lösung muss etwas mit dem Thema diskretisierung zu tun haben...

[quendolineDD]

Die Zahlen durch bestimmte Zerlegung "kürzen". Alle vorkommastellen kann man zum Beispiel seperat speichern. Die verbleibenden Stellen kann man nun durch bestimmte Algorithmen kürzen. Wenn zum Beispiel etliche 0en (nullen) enthalten sind, kann man diese durch ein auslagern als Exponenten auch entnehmen.
So wäre zum Beispiel die Zahl 6.0000000000000005800000001 folgend zu speichern:
Vorkommawert: 6
Nachkommawerte:
15x0 + 58 + 7x0 + 1

War es nciht extended mit 16 signifikanten Nachkommastellen?

Lt. dem Problem des TE würde an dieser Stelle sich der Wert der Zahlen wohl erst ab der 17. Stelle nach dem Komma unterscheiden.

Doch da hier schon erste Ungenauigkeiten durch die Rundung der Zahl entstehen wäre es vielleicht auch sinnvoll, die Rechnung aus der die Zahl entsteht zu belassen.

Schaue man bei Wikipedia zum Thema: http://de.wikipedia.org/wiki/Diskretisierung

Dann wäre mein Vorschlag wohl schon dementiert

[3_of_8]

Es gibt dafür irgendne Delphi-Funktion... IsEqual, FloatEqual, FloatIsEqual oder irgendsowas in der Art. Auf jeden Fall verwendet die auch die Epsilon-Methode, und so sollte man es wohl auch machen.

[sirius]

Zitat von 3_of_8:

Es gibt dafür irgendne Delphi-Funktion... IsEqual, FloatEqual, FloatIsEqual oder irgendsowas in der Art. Auf jeden Fall verwendet die auch die Epsilon-Methode, und so sollte man es wohl auch machen.

Die Funktion heist samevalue. Aber die macht ja genau das verkehrte. Sie behauptet ja die Werte sind (annähernd) gleich, obwohl sie nicht gleich sind.

[3_of_8]

Aaah, ich hab die Frage falsch verstanden. In dem Fall könnte man eventuell einen von Hagens DECMath-Typen verwenden. Die sind - IIRC - beliebig genau.

[grenzgaenger]

Zitat von Weazy:

wie währe es denn mit runden?

beim runden kann es in die gegensätzlichen richtungen runden... damit sind die zahlen ungleich, obwohl sie gleich sind...

die standardmethode, ist die von DAX. diese solltest du auch verwenden... (ist im übrigen unabhängig von der programmiersprache )