Real, Single, Double = ungenau!?

[PRehders]

Zitat von schöni:

Hallo!

Aus der Elektronik weiß ich, das es Verfahren der Fehlerrechnung gibt. Zum Beispiel ist der Meßfehler eines A/D Wandlers bekannt und wird in einer Korrekturrechnung eliminiert. Auf den PC übertragen hiße das ja, das generell überall mit Extended gerechnet wird, oder mit Double...., Wichtig ist, das der Fehler immer gleich groß ist, damit er rausgerechnet werden kann.

Hallo,

das hat leider mit der Darstellungsgenauigkeit nicht unbedingt etwas zu tun. Das Thema ist hier, dass bestimmte Dezimalzahlen nicht binär dargestellt werden können. Es tritt ein Darstellungsfehler auf, der sich auch nicht eliminieren lässt, da er nicht bekannt ist. In der Messtechnik geht man in einigen Bereichen davon aus, dass sich ein immer gleich gearteter Messfehler ergibt, der dan durch Differenzbildung verschwindet; das ist hier aber nicht der Fall. Manche Zahlen lassen sich exakt darstellen, manche nicht. Der tatsächliche Inhalt einer Real-Variable, egal welche Grösse (= Genauigkeit) sagt ja nichts darüber aus, welcher Wert "eigentlich gemeint" war.
Die Ungenauigkeit ist vorhanden, sie geht auch nicht weg, wenn man es aber weiss, kann man damit umgehen.

Bis dann

Peter