Einzelnen Beitrag anzeigen

Benutzerbild von Mithrandir
Mithrandir
(CodeLib-Manager)

Registriert seit: 27. Nov 2008
Ort: Delmenhorst
2.379 Beiträge
 
#4

Re: Vergleich von Real-Werten ---> klappt nicht

  Alt 27. Jan 2010, 13:08
Int(Rv) = (E96[i-1] * multi) Kann nicht funktionieren, da beide intern nicht gleich aussehen, auch wenn du den Real nach Int castest. Als Workaround spontan das hier:
If Abs(RV - (E96[i-1] * multi)) < eps then wobei eps in diesem Falle eine Konstante ist, die die Genauigkeit angiebt, bspw.

Delphi-Quellcode:
const
eps = 0.001; //<> 1E-3
Wobei es vermutlich auch noch andere Ansätze gibt...
米斯蘭迪爾
"In einer Zeit universellen Betruges wird das Aussprechen der Wahrheit zu einem revolutionären Akt." -- 1984, George Orwell
  Mit Zitat antworten Zitat