Einzelnen Beitrag anzeigen

Benutzerbild von sx2008
sx2008

Registriert seit: 16. Feb 2008
Ort: Baden-Württemberg
2.332 Beiträge
 
Delphi 2007 Professional
 
#2

AW: Wurzel ziehen und anschließend quadrieren Problem

  Alt 16. Okt 2010, 13:36
Also es gibt nichts was man dagegen tun kann;
es liegt in der Natur der binären Fließkommazahlen, das es zu Rundungsfehlern kommt.
Ausserdem entstehen beim Wurzelziehen irrationale Zahlen mit unendlich vielen Nachkommastellen.
Es können aber nur eine best. Anzahl von Stellen gespeichert werden.
Zwangläufig muss hier ein Verlust an Genauigkeit auftreten.

Du solltest aber alle "real" in "extended" ändern.
Ein Taschenrechnerprogramm sollte immer in der höchstmöglichen Genauigkeit arbeiten.
  Mit Zitat antworten Zitat