Real, Single, Double = ungenau!?

[schöni]

Hallo!

Ich lese grad den Thread hier. Und da entsteht bei mir die Frage, mit welchen Verfahren in der Wissenschaft solche Fehler eliminiert werden. Wie hoch ist die maximal erreichbare Rechengenauigkeit? Aus der Elektronik weiß ich, das es Verfahren der Fehlerrechnung gibt. Zum Beispiel ist der Meßfehler eines A/D Wandlers bekannt und wird in einer Korrekturrechnung eliminiert. Auf den PC übertragen hiße das ja, das generell überall mit Extended gerechnet wird, oder mit Double...., Wichtig ist, das der Fehler immer gleich groß ist, damit er rausgerechnet werden kann.

es grüßt schöni