Thema: Delphi Vergleich bei Double

Einzelnen Beitrag anzeigen

Benutzerbild von Khabarakh
Khabarakh

Registriert seit: 18. Aug 2004
Ort: Brackenheim VS08 Pro
2.876 Beiträge
 
#4

Re: Vergleich bei Double

  Alt 26. Jan 2006, 13:58
Zitat von Surrounder:
Hängt das damit zusammen dass ich der einen Variablen den Wert 87.5 zuweise ( 1 Nachkommastelle ) und bei der anderen mit zwei Nachkommastellen arbeite ( immer plus 0.01 )?
Nein, die FPU rechnet immer mit der gesamten Nachkommastellenanzahl. Beim Addieren summieren sich allerdings die Rundungsfehler auf, das Endergebnis stimmt nicht mehr mit 87.5 überein.
Sebastian
Moderator in der EE
  Mit Zitat antworten Zitat