Einzelnen Beitrag anzeigen

Benutzerbild von nailor
nailor

Registriert seit: 12. Dez 2002
Ort: Karlsruhe
1.989 Beiträge
 
#8

Re: float-Wert in Gleitkommadarstellung

  Alt 4. Dez 2004, 13:25
anscheindend kann man mit einem float 0.3 nicht genau darstellen und der compiler nimmt dann halt 0.300000000000XXX weil er das darstellen kann. und nun ist die frage, welchen wert er nimmt.
Michael N.
http://nailor.devzero.de/code/sharpmath/testing/ --- Tests, Feedback, Anregungen, ... aller Art sehr willkommen!
::: don't try so hard - it'll happen for a reason :::
  Mit Zitat antworten Zitat