6.76609068141504e-318

Thema durchsuchen

Ansicht

Themen-Optionen

Ein Thema von freimatz · begonnen am 24. Aug 2022 · letzter Beitrag vom 24. Aug 2022

Antwort

Jens01

Registriert seit: 14. Apr 2009
673 Beiträge

AW: 6.76609068141504e-318

24. Aug 2022, 12:46

Das ist jetzt aber eine altbekanntes Sache. Float-Werte kann man nicht mit "if Werte = andererWert then" vergleichen. Das geht nur mit diesen Comparison-Methoden: SameValue, IsZero, usw

Ich weiß nicht womit Du testest, bei Dunit bzw DUnitX gibts dies "CheckEquals", dort kann man ein Epsilon-Wert angeben:

"CheckEquals(Expected, Result, eps);"
eps ist dann sowas wie eps = 1e-10

Achtung: Bin kein Informatiker sondern komme vom Bau.