Einzelnen Beitrag anzeigen

Benutzerbild von nailor
nailor

Registriert seit: 12. Dez 2002
Ort: Karlsruhe
1.989 Beiträge
 
#6

Re: 0 + 0.1 = ? Probleme mit dem Datentyp Single?

  Alt 12. Okt 2004, 00:14
Sag mir einen Grund, warum die 0,999999999999999999999999X schlimm ist!

Ob du jetzt von Anfang an in 0,5er Schritten rechnest, oder den Integer durch 10 teilst, ist gehüpft wie gesprungen. Und dass dabei beim Aufsummieren auf Dauer was verloren geht / was duzukommt, mag vielleicht schlimm sein, wenn man 1 Mrd Stellen von PI will, aber nicht wenn es um sowas unpräzises wie die Schwerkraft geht!
Michael N.
http://nailor.devzero.de/code/sharpmath/testing/ --- Tests, Feedback, Anregungen, ... aller Art sehr willkommen!
::: don't try so hard - it'll happen for a reason :::
  Mit Zitat antworten Zitat