Programmergebnise verschieden auf zwei Rechnern

[gammatester]

Zitat von Physikerin:

Naja, die Formel am Ende ist schon ziemlich hässlich und zwischendurch werden die Zahlen auch ziemlich groß ^^
...
Wie meinst du, Ausgangszahl?
Ich hab jetzt die ersten 50 Variablen und da hab ich bisher nur bei einer eine Differenz im Bereich von Max E-7.

Das is doch spannend: Woher kommt diese Differenz in den Ausgangszahlen. Der Rest ist dann leicht: ZB schon zweimal Wurzelziehen aus 1e-7 und Du bist locker bei einem Faktor 50 (weil 1/sqrt(sqrt(1e-7)) = 56.234...).

PS: Wenn's wirklich 1e-7 ist, könnte es sein, daß Dir irgendwo eine Single-Rechnung reinspuckt, 1.1920929E-7 ist das Maschinen-Epsilon für Single.

[himitsu]

Double kann zwar mit Zahlen von 324 Nachkommastellen bis 308 Vorkommastellen umgehen.

Aber Double hat nur 15-16 signifikante Stellen.
Es sind also immer nur die obersten 15 Dezimalstellen "korrekt" und alles danach ist quasi undefiniert und unterliegt Rundungsfehlern.
0.00000000000000000123456789012345xxxxxxx
123456.789012345xxxxxxx
123456789012345xxxxxxxxxxxxxxxxxx.xxxxxxx

Bei Extended sind es 19-20 signifikante Stellen und bei Single nur 7-8.
7-8 heißt : 12345678 geht, aber 87654321 nicht ... quasi wie 7,5 Dezimalstellen.


Und ein Range-Check knallt erst, wenn die Zahl größer als 10^308 wird ... für Rundungsfehler gibt es keine Prüfung.