Rechenfehler

[rado]

Hallo,

ich erhalte einen Rechenfelher bei folgendem Code:

var
gesamtlaenge: extended;

gesamtlaenge:=gesamtlaenge+strtofloat(edit9.text);

Wenn man in edit9 den Wert 2,36 eingibt und anschließend die Addition ausführt und dann in edit9 -2,36 eingibt müsste man 0 als Ergebnis in gesamtlaenge erhalten.
Es steht aber in gesamtlaenge -1,242E-16

Dies passiert aber nur bei 2,36.
Kann mir jemand weiterhelfen, enthalten die Mathematischen Bibliotheken von Delphi Fehler?

Gruß rado

[Neutral General]

Zitat:

Kann mir jemand weiterhelfen, enthalten die Mathematischen Bibliotheken von Delphi Fehler?

Mit Sicherheit nicht...
Welchen Wert hat denn gesamtlaenge wenn 2,36 hinzuaddiert wird ? Außerdem schau mal in der DelphiHilfe nach StrToFloatF.

EDIT : StrToFloatF -.- Gehts mir noch gut ?^^ Sry das war Schwachsinn... überlest das hier einfach :mrgreen:

[Kroko1999]

das sind übliche Rundungsfehler

Delphi-Quellcode:

function NullVal(const Value,Epsilon: Extended): Extended;
begin
  if Abs(Value)<Epsilon then Result := 0
                        else Result := Value;
end;

//EDIT
Aufruf:

Delphi-Quellcode:

  A := NullVal(A,1E-10);

[TeronG]

Zitat:

Zitat von rado

Delphi-Quellcode:

var
  gesamtlaenge: extended;

procedure TForm1.Button1Click(Sender: TObject);
begin
  gesamtlaenge:=gesamtlaenge+strtofloat(edit9.text);
end

Wenn man in edit9 den Wert 2,36 eingibt und anschließend die Addition ausführt und dann in edit9 -2,36 eingibt müsste man 0 als Ergebnis in gesamtlaenge erhalten.
Es steht aber in gesamtlaenge -1,242E-16

Dies passiert aber nur bei 2,36.
Kann mir jemand weiterhelfen, enthalten die Mathematischen Bibliotheken von Delphi Fehler?

Gruß rado

Nein kann ich nicht, den bei mir funktioniert dein Code eigentlich einwandfrei :gruebel: evtl. spuckt ja noch was anderes aus deinem Proggie da rein?

[rado]

Zitat:

Zitat von Neutral General

Zitat:

Kann mir jemand weiterhelfen, enthalten die Mathematischen Bibliotheken von Delphi Fehler?

Mit Sicherheit nicht...
Welchen Wert hat denn gesamtlaenge wenn 2,36 hinzuaddiert wird ? Außerdem schau mal in der DelphiHilfe nach StrToFloatF.

EDIT : StrToFloatF -.- Gehts mir noch gut ?^^ Sry das war Schwachsinn... überlest das hier einfach :mrgreen:

Die Variable ist mit 0 gefüllt.
gesamtlaenge:=0;

Gruß rado

[dizzy]

Ich kram dann nochmals, wie ich es gern mache, diesen Post raus :). Eine 0 lässt sich als Float nicht darstellen. Dafür wird ein Flag in der FPU geführt, welches aber idR nur gesetzt wird, wenn man direkt eine 0 zuweist, oder die Rechnung trotz aller Ungenauigkeiten genau auf 0 kommt. Gewährleistet ist das allerdings nicht.

Gruss,
Fabian