Einzelnen Beitrag anzeigen

Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.184 Beiträge
 
Delphi 12 Athens
 
#3

AW: DUnit und Fließkommazahlen Problem

  Alt 25. Sep 2022, 12:52
CheckEquals nutzt intern kein SameValue, sondern vergleicht selber
       (abs(expected-actual) > delta) then

Es gibt ein CheckEquals mit Delta-Parameter ... benutze das und verwende z.B. die Konstante ExtendedResolution, DoubleResolution, SingleResolution oder was Eigenes, wie 0.0000001.
 CheckEquals(4.6, FCalculatorLogic.Operand1, SingleResolution);

Genauso, wie bei SameValue, kommt als Default-Parameter eine 0 rein,
aber SameValue nutzt bei 0 nicht wirklich 0, sondern z.B. ExtendedResolution.
$2B or not $2B

Geändert von himitsu (25. Sep 2022 um 12:54 Uhr)
  Mit Zitat antworten Zitat