|
Registriert seit: 17. Nov 2005
Ort: Hamburg
1.087 Beiträge
Delphi XE2 Professional
|
Re: Rechenfehler
5. Mär 2010, 23:28
Es liegt weniger am Startwert als am Multiplikator 1.55.
Dieser läßt sich als Binärzahl nicht exakt darstellen.
Im letzten Durchlauf wird 672920 mit 1.55 (bzw. einem Wert, der etwas geringer ist als 1.55)
multipliziert. Das Ergebnis ist ein Wert, der knapp unter 1043026 liegt, und Floor
macht daraus 1043025.
Schau dir das doch mal im Debugger an. Da kannst du dir die FPU-Register in ihrer
binären Darstellung ansehen, und dann wird deutlich woran's liegt.
Gruß, Klaus
Die Titanic wurde von Profis gebaut,
die Arche Noah von einem Amateur.
... Und dieser Beitrag vom Amateurprofi....
|