Einzelnen Beitrag anzeigen

Mikkey

Registriert seit: 5. Aug 2013
265 Beiträge
 
#10

AW: !!Riesenprobelm mit Datentypen!!

  Alt 25. Feb 2015, 15:25
darf doch eigentlich nicht sein, oder?
Für Computer, die nur eine endliche Anzahl Bits für die Repräsentation einer reellen Zahl verwenden, ist das nicht anders möglich. Garantiert ist für Single, Double und Extended lediglich, dass die neutralen Elemente 0 und 1 exakt repräsentiert werden.

Da üblicherweise die Mantisse binär dargestellt wird, kann man sich noch nicht einmal darauf verlassen, dass kleine ganze Zahlen oder Brüche aus kleinen ganzen Zahlen exakt wiedergegeben werden.
  Mit Zitat antworten Zitat