AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Programmierung allgemein Programmieren allgemein Rechenfehler in Delphi - wie beheben?
Thema durchsuchen
Ansicht
Themen-Optionen

Rechenfehler in Delphi - wie beheben?

Ein Thema von Quake · begonnen am 26. Jun 2004 · letzter Beitrag vom 26. Jun 2004
Antwort Antwort
Quake

Registriert seit: 25. Aug 2003
222 Beiträge
 
Delphi 7 Enterprise
 
#1

Rechenfehler in Delphi - wie beheben?

  Alt 26. Jun 2004, 10:58
Moin moin,

ich habe gerade eine Procedure geschrieben die nicht richtig funktioniert.

tBit = 1e-05
tq = 5e-07

Code:
Quantums:=tBit/tq;        // da kommt genau 20 raus, mit nix dach dem Komma
if frac(Quantums)=0 then
  // wenn nach dem Komma 0 ist dann das hier ausführen
else
  // wenn nach dem Komma nicht 0 ist dann das hier ausführen
  Fehler:=frac(Quantums);
Wenn ich nun diese Procedure Schritt für Schitt ausführe wird mir für Quantums der 20 angezeigt (ohne Kommastellen) aber die Bedinnung frac(Quantums)=0 ist nicht erfüllt. Deswegen wird 'Fehler' der Wert 3,55..e-15 zugewiesen.

Was tun ???

ciao

P.S. Alle Werte sind als Double deklariert.
  Mit Zitat antworten Zitat
Benutzerbild von Sharky
Sharky

Registriert seit: 29. Mai 2002
Ort: Frankfurt
8.252 Beiträge
 
Delphi 2006 Professional
 
#2

Re: Rechenfehler in Delphi - wie beheben?

  Alt 26. Jun 2004, 11:01
Hai Quake,

schaue Dir mal die Funktion IsZero an. Die könnte dir sicher helfen.
Stephan B.
"Lasst den Gänsen ihre Füßchen"
  Mit Zitat antworten Zitat
Quake

Registriert seit: 25. Aug 2003
222 Beiträge
 
Delphi 7 Enterprise
 
#3

Re: Rechenfehler in Delphi - wie beheben?

  Alt 26. Jun 2004, 11:18
Wow super schnelle Antwort, Danke

die meinst also in der Art :
Code:
if IsZero(Quantums-int(Qantums),1e-12) then
 .
 .
 .
  Mit Zitat antworten Zitat
Quake

Registriert seit: 25. Aug 2003
222 Beiträge
 
Delphi 7 Enterprise
 
#4

Re: Rechenfehler in Delphi - wie beheben?

  Alt 26. Jun 2004, 11:26
Danke, ja funktioniert.

P.S. Nur für alle die es auch interessiert SameValue sollte auch funktionieren
  Mit Zitat antworten Zitat
Antwort Antwort


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 22:56 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz