Einzelnen Beitrag anzeigen

TurboMagic

Registriert seit: 28. Feb 2016
Ort: Nordost Baden-Württemberg
2.942 Beiträge
 
Delphi 12 Athens
 
#1

DUnit und Fließkommazahlen Problem

  Alt 25. Sep 2022, 11:14
Hallo,

für eine DUnit Demo schreibe ich gerade einen einfachen Taschenrechner und
laufe jetzt aber bei den unit Tests in Fließkomma Probleme.

Der Taschenrechner hat 2 Operanden 1 und 2, die jeweils ein Double sind.
Ich schriebe einen DUnit Tests mit dem Inhalt:

Delphi-Quellcode:
procedure TestTCalculatorLogic.TestSetOperand1Positive;
begin
  FCalculatorLogic.Operand1 := 4.6;
  CheckEquals(4.6, FCalculatorLogic.Operand1);
end;
Der Test schlägt fehl mit der Meldung, dass 4.6 erwartet würde und der Wert von Operand1 4.6 wäre
Ja ich weiß, FLießkommazahlen sind nicht unendlich präzise und DUnit's CheckEquals nutzt Extended
als Übergabeparameter, aber sollte das nicht für eine Nachkommastelle trotzdem funktionieren?
Und sollte nicht die Fehlermeldung, falls es wirklich irgendwo weiter hinten bei den Nachkommastellen
dadurch Differenzen gibt, die genaue Zahl im Text nennen?

Was sind meine Möglichkeiten diese Demo umzubauen. so dass ich nicht in diese Probleme laufe?
Umstellen von Double auf Currency, damit hat man zwar nur 4 Nachkommastellen, aber keine Präszisions-
probleme dieser Art?

Grüße
TurboMagic
  Mit Zitat antworten Zitat