AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren

Rechenfehler

Ein Thema von Sebtis · begonnen am 5. Mär 2010 · letzter Beitrag vom 5. Mär 2010
 
Amateurprofi

Registriert seit: 17. Nov 2005
Ort: Hamburg
1.098 Beiträge
 
Delphi XE2 Professional
 
#9

Re: Rechenfehler

  Alt 5. Mär 2010, 22:28
Es liegt weniger am Startwert als am Multiplikator 1.55.
Dieser läßt sich als Binärzahl nicht exakt darstellen.
Im letzten Durchlauf wird 672920 mit 1.55 (bzw. einem Wert, der etwas geringer ist als 1.55)
multipliziert. Das Ergebnis ist ein Wert, der knapp unter 1043026 liegt, und Floor
macht daraus 1043025.
Schau dir das doch mal im Debugger an. Da kannst du dir die FPU-Register in ihrer
binären Darstellung ansehen, und dann wird deutlich woran's liegt.
Gruß, Klaus
Die Titanic wurde von Profis gebaut,
die Arche Noah von einem Amateur.
... Und dieser Beitrag vom Amateurprofi....
  Mit Zitat antworten Zitat
 

Themen-Optionen Thema durchsuchen
Thema durchsuchen:

Erweiterte Suche
Ansicht

Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 00:34 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz