Zitat von
Niklas-:
das ist auch der Grund warum ich extended genommen habe
Auch extended hat da nur bedingt größere Genauigkeit. WIllst du zum Beispiel die Zahl 0,2 Binär darstellen, so wird auch hier kein exaktes Eregbis bei rauskommen. Denn wenn man den Nachkommaanteil ins Binärsystem umrechnen möchte:
0,2*2=0,4 -0 MSB
0,4*2=0,8 -0
0,8*2=1,6 -1
0,6*2=1,2 -1
0,2*2=0,4 -0 LSB
usw, du siehst es ist kein Ende in Sicht, das Spielchen könnte man ewig so weiter treiben.
Andere Zahlen hingegen lassen sich sehr gut Darstellen, wie zB 0,5
0,5*2=1 -1 MSB/LSB
Du kannst auch Spaßeshalber mal einem Float-Wert zB 0,2 zuweisen, einen haltepunkt auf die Zeile dahinter setzen und dir das Ergebnis im Debugger anschauen.