Registriert seit: 12. Jul 2004
Ort: Duisburg
172 Beiträge
Delphi 6 Enterprise
|
AW: Rundungsprobleme mit Extended
12. Sep 2010, 15:57
Weist du den Steigungen die Werte per Hand, oder kommen die aus einer Formel?
Generell lässt sich nicht jede Zahl exakt als Gleitkommazahl binär kodieren. Es wird dann der nächstmögliche Wert genommen. Vllt kommt es dadurch zu den Fehlern.
Alex Von allen Dingen die mir verloren gegangen,
hab ich am meisten an meinem Verstand gehangen
|