Rundungsfehler bei Real-Werten

[Wheelie]

Hi!

Kennt ihr sicher: einfache Berechnung (5 + 5,55) == Ergebnis =>> 10,5500000000000029

Habe hier schon gelesen, dass der obige Fehler was mit der Speicherung von Real-Werten
zu tun hat ... dafür gibt es doch bestimmt irgend 'ne Lösung, oder?

Danke im Voraus

[X-Dragon]

Zitat von Wheelie:

Hi!

Kennt ihr sicher: einfache Berechnung (5 + 5,55) == Ergebnis =>> 10,5500000000000029

Habe hier schon gelesen, dass der obige Fehler was mit der Speicherung von Real-Werten
zu tun hat ... dafür gibt es doch bestimmt irgend 'ne Lösung, oder?

Danke im Voraus

Mit welchen Zahlenbereich arbeitest du denn bzw wieviele Nachkommastellen benötigst du?

[Wheelie]

soll für informatik wie eine art taschenrechner sein (eigentlich total billig ) ... runden wäre nicht so toll denn der user sollte schon bsp. 5 + 0,0005 eingeben sollen, so wie der Windows-Taschenrechner!

[himitsu]

Du kannst ja alles auf eine bestimmte Anzahl an Nachkommastellen runden.

z.B. auf 4 Stellen:
Ergebnis := Round(Ergebnis * 10000) / 10000; 10,5500000000000029 ==> 10,5500 = 10,55


http://www.FrankNStein.de/Smiley-Kuss.gif * * http://www.FrankNStein.de/Smiley-Spinne.gif * * * http://www.FrankNStein.de/Smiley-Winken.gif

[Wheelie]

hab das problem gefunden: delphi 2
mit delphi 6 kompiliert lief das ganze wie geschmiert