Berechnungsfehler

[schand99]

Hallo,

kann einen unschönen Berechnungsfehler beobachten.
Habe folgende Variablen:
Rohrzahl, Rohrlagen, RohrReihen, Kreisläufe: Integer
RohreProKreis: Single

Wenn nun Rohrlagen = 38, RohrReihen = 4 und Kreisläufe = 40, dann

RohrZahl := RohrLagen * RohrReihen;
RohreProKreis := RohrZahl / Kreisläufe:

Ergebnis: RohreProKreis = 3,79999995231628
Wie kommt es dazu? Das korrekte Ergebnis wäre 3,8

Hat jemand von Euch eine Ahnung was zu dieser falschen Berechnung führt?

Gruß
Andreas

[baumina]

Das liegt am Datentyp Single (Float), der ist ungenau. Nimm stattdessen Extended.

[Sir Rufo]

Zitat von baumina:

Das liegt am Datentyp Single (Float), der ist ungenau. Nimm stattdessen Extended.

Der ist nicht ganz so ungenau ... aber eben auch noch

[4dk2]

Double geht auch!

Delphi Hilfe: Der Typ Extended bietet eine höhere Genauigkeit, ist aber nicht so einfach portierbar wie die anderen reellen Typen. Verwenden Sie Extended mit Bedacht, wenn Sie Datendateien anlegen, die gemeinsam und plattformübergreifend genutzt werden sollen.
sollte man sich immer merken

[Lemmy]

Zitat von schand99:

Ergebnis: RohreProKreis = 3,79999995231628
Wie kommt es dazu? Das korrekte Ergebnis wäre 3,8

wenn dir max. 4 Nachkommastellen ausreichen (sowie die Wertgrenze), dann nimm den Typ Currency, da hast Du keine solchen Probleme

Grüße

[Zacherl]

Zitat von schand99:

Hat jemand von Euch eine Ahnung was zu dieser falschen Berechnung führt?

Wenn dich die technischen Infos dazu interessieren: Floating Point Accuracy Problems.

[MEissing]

Achtung: Im 64-Bit Modus gibt es Extended nur als Synonym für Double....

32-Bit kann genauer rechnen, als 64 Bit

(OK: Mit 64 Bit rechne *ich* ziemlich ungenau... )

[himitsu]

Wobei "Rundungsfehler" hier garnicht zu vermeiden sind, egal wie groß man den Fließkommadatentyp wählt.

Am Ende muß man ganz einfach bei der Ausgabe auf das gewünschte Maß runden und darf "niemals" mit = vergleichen.

Currency "rundet" automatisch auf 4 Nachkommastellen.
Bei BCD hängt das von der Speichergröße ab. (aber maximal mit der Auflösung vom Extended, wenn man es über die FPU berechnen lässt)

PS: Bei 64 Bit ist Extended nur noch FPU-intern und steht dem Programmierer quasi außerhalb garnicht mehr zur Verfügung.
In Delphi stand es halt unter 32 Bit nur deswegen zur Verfügung, weil es ging, aber offiziell war es nicht zur Benutzung angedacht.
Drum kennen Andere sowas Großes garnicht erst. https://msdn.microsoft.com/de-de/library/cc953fe1.aspx

Zitat von MEissing:

32-Bit kann genauer rechnen, als 64 Bit

"rechnen" tun Beide womöglich gleich, nur "speichern" halt nicht. (so lange es innerhalb der entsprechenden CPU-Register bleibt)

[Luckie]

Hier noch mal auf deutsch: http://michael-puff.de/Programmierun...esskomma.shtml

[himitsu]

DX35 kann dann bestimmt auch endlich 128 Bit.
https://msdn.microsoft.com/de-de/lib...3fe1.aspx#mt62 __int128