|
Registriert seit: 9. Jun 2005
Ort: Unna
1.172 Beiträge
Delphi 10.2 Tokyo Professional
|
Re: 4-Byte-Single
15. Jul 2005, 13:11
Wichtig: das ist eine Binär-Mantisse, 23 Bits. Das entspricht 23*log(2)/log(10) Dezimalstellen, also ~6,92.
Es gibt endliche Dezimalbrüche (z.B. 0,6), die man nicht als endliche Binärbrüche schreiben kann -> daher die 0,599999. Es hilft nur, wenn du Dezimal auf eine feste Stelle vorher rundest, also z.B. auf 5 Stellen (nicht Nachkommastellen sondern signifikante Stellen!).
Volker
|