Registriert seit: 16. Feb 2008
Ort: Baden-Württemberg
2.332 Beiträge
Delphi 2007 Professional
|
AW: Wurzel ziehen und anschließend quadrieren Problem
16. Okt 2010, 13:36
Also es gibt nichts was man dagegen tun kann;
es liegt in der Natur der binären Fließkommazahlen, das es zu Rundungsfehlern kommt.
Ausserdem entstehen beim Wurzelziehen irrationale Zahlen mit unendlich vielen Nachkommastellen.
Es können aber nur eine best. Anzahl von Stellen gespeichert werden.
Zwangläufig muss hier ein Verlust an Genauigkeit auftreten.
Du solltest aber alle "real" in "extended" ändern.
Ein Taschenrechnerprogramm sollte immer in der höchstmöglichen Genauigkeit arbeiten.
|