Delphi 0 + 0.1 = ? Probleme mit dem Datentyp Single?

Thema durchsuchen

Ansicht

Themen-Optionen

0 + 0.1 = ? Probleme mit dem Datentyp Single?

Ein Thema von 2kstealth · begonnen am 11. Okt 2004 · letzter Beitrag vom 12. Okt 2004

Vorheriger Beitrag

Nächster Beitrag

Schwabix

Registriert seit: 11. Okt 2004
Ort: Aachen
9 Beiträge

Delphi 2006 Professional

Re: 0 + 0.1 = ? Probleme mit dem Datentyp Single?

11. Okt 2004, 23:14

Hallo,

So sehr das schockieren mag, single ist nicht genauer!

Mit Extended ist der Fehler deutlich kleiner, aber trotzdem vorhanden. Das ist auch der Grund, warum Ausdrücke wie
if (mySingle = 0.0) then ...
riskant sind.
Man sollte statt dessen immer
if (mySingle - 0.0 < single_epsilon) then ...
schreiben und single_epsilon als Konstante als den kleinsten tolerierbaren Fehler definieren.

Zurück zum Problem: Ganzzahlarithmetik, falls möglich; oder Extended, falls der (geringe!) Fehler einer Single-Variablen zu groß ist.

Schwabix

Markus