Einzelnen Beitrag anzeigen

Jens01

Registriert seit: 14. Apr 2009
673 Beiträge
 
#8

AW: 6.76609068141504e-318

  Alt 24. Aug 2022, 13:46
Das ist jetzt aber eine altbekanntes Sache. Float-Werte kann man nicht mit "if Werte = andererWert then" vergleichen. Das geht nur mit diesen Comparison-Methoden: SameValue, IsZero, usw

Ich weiß nicht womit Du testest, bei Dunit bzw DUnitX gibts dies "CheckEquals", dort kann man ein Epsilon-Wert angeben:

"CheckEquals(Expected, Result, eps);"
eps ist dann sowas wie eps = 1e-10
Achtung: Bin kein Informatiker sondern komme vom Bau.
  Mit Zitat antworten Zitat