AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

Rechenfehler

Ein Thema von Sebtis · begonnen am 5. Mär 2010 · letzter Beitrag vom 5. Mär 2010
 
Medium

Registriert seit: 23. Jan 2008
3.688 Beiträge
 
Delphi 2007 Enterprise
 
#2

Re: Rechenfehler

  Alt 5. Mär 2010, 21:57
Das haben wir fast wöchentlich hier . Rundungsfehler war schon der richtige Gedanke: Fließkommadarstellung in binär kann nicht alle endlich genauen Dezimalwerte darstellen, da sie z.T. in Binärform periodisch werden, und ab und an - gerade bei Iterativen Prozessen - macht sich doch irgendwann mal die begrenzte Genauigkeit bemerkbar. Bei dir allerdings triff das vermutlich deswegen eher selten auf, da du mit dem floor() immer wieder in relativ gut auflösbare Bereiche kommst, bei größeren Zahlen aber zunehmend enger.
"When one person suffers from a delusion, it is called insanity. When a million people suffer from a delusion, it is called religion." (Richard Dawkins)
  Mit Zitat antworten Zitat
 


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 10:30 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz