Einzelnen Beitrag anzeigen

Benutzerbild von jfheins
jfheins

Registriert seit: 10. Jun 2004
Ort: Garching (TUM)
4.579 Beiträge
 
#2

Re: [DUnit] Test für Double Property schlägt fehl

  Alt 26. Mär 2009, 10:33
Fließkommazahlen nie direkt vergleichen

Aufgrund der binären representation ist 1,23 nicht immer exakt 1,23 sondern vll. einmal 1,2299999999999312354 und einmal 1,23000000036737
  Mit Zitat antworten Zitat