AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Programmierung allgemein Programmieren allgemein Rechenfehler in Delphi - wie beheben?

Rechenfehler in Delphi - wie beheben?

Ein Thema von Quake · begonnen am 26. Jun 2004 · letzter Beitrag vom 26. Jun 2004
 
Quake

Registriert seit: 25. Aug 2003
222 Beiträge
 
Delphi 7 Enterprise
 
#1

Rechenfehler in Delphi - wie beheben?

  Alt 26. Jun 2004, 09:58
Moin moin,

ich habe gerade eine Procedure geschrieben die nicht richtig funktioniert.

tBit = 1e-05
tq = 5e-07

Code:
Quantums:=tBit/tq;        // da kommt genau 20 raus, mit nix dach dem Komma
if frac(Quantums)=0 then
  // wenn nach dem Komma 0 ist dann das hier ausführen
else
  // wenn nach dem Komma nicht 0 ist dann das hier ausführen
  Fehler:=frac(Quantums);
Wenn ich nun diese Procedure Schritt für Schitt ausführe wird mir für Quantums der 20 angezeigt (ohne Kommastellen) aber die Bedinnung frac(Quantums)=0 ist nicht erfüllt. Deswegen wird 'Fehler' der Wert 3,55..e-15 zugewiesen.

Was tun ???

ciao

P.S. Alle Werte sind als Double deklariert.
  Mit Zitat antworten Zitat
 

Themen-Optionen Thema durchsuchen
Thema durchsuchen:

Erweiterte Suche
Ansicht

Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 10:56 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz