Einzelnen Beitrag anzeigen

Benutzerbild von jfheins
jfheins

Registriert seit: 10. Jun 2004
Ort: Garching (TUM)
4.579 Beiträge
 
#6

Re: DirectX 9 - (Verständnis-)Problem mit Pi

  Alt 10. Mai 2006, 23:11
Fließkommazahlen sind ungenu. Da du im zehnersystem rechnest und der computer im binärsystem, kann es passiern, dass der wert nur nährungsweise in der variable steht und nicht genau. so könnte z.B 1,3 als 1,299999991324 gespeichert sein, weil er 1,3 im binärsystem nicht korrekt darstellen kann
  Mit Zitat antworten Zitat