Einzelnen Beitrag anzeigen

Benutzerbild von Uwe Raabe
Uwe Raabe

Registriert seit: 20. Jan 2006
Ort: Lübbecke
11.453 Beiträge
 
Delphi 12 Athens
 
#3

Re: Datentyp für Messdaten (Chemie, Physik)

  Alt 27. Dez 2009, 20:04
Die Genauigkeit von Float-Typen wird in signifikanten Stellen angegeben und spielt sich ausschließlich in der Mantisse ab. Der Exponent ist lediglich für den Wertebereich zuständig. Wenn z.B. ein Double 15 signifikanten Stellen angegeben wird, so ist eine Zahl in wissenschaftlicher Schreibweise (oder auch E-Notation) mit dieser Anzahl Stellen in hinreichender Genauigkeit speicherbar.

Problematisch wird es allerdings, wenn mit diesen Zahlen Berechnungen durchgeführt werden, durch die Rundungsfehler entstehen. Ein Beispiel:

Delphi-Quellcode:
var
  A: Double;
  B: Double;
  C: Double;
  F: Double;
begin
  A := Pi; // 3.14159265358979E+0000
  F := 100*A; // 3.14159265358979E+0002
  B := A + F; // 3.17300858012569E+0002
  C := B - F; // 3.14159265358978E+0000
  Writeln(C - A); // -1.06581410364015E-0014
end;
Obwohl mathematisch A = C sein sollte, wird die errechnete Differenz ungleich 0 sein. F hat zwar die gleiche Anzahl signifikanter Stellen wie A, ist jedoch um einen Faktor 100 größer. Für die Addition A + F müssen A und F angeglichem werden, was zu einem Verlust von signifikanten Stellen bei A führt. B ist also schon nicht mehr ganz so genau. Die nachfolgende Subtraktion macht das Problem dann deutlich.

Dein Problem ist also nicht die Auswahl des geeigneten Datentyps, sondern die bedachte Auswahl der Rechenreihenfolgen.
Uwe Raabe
  Mit Zitat antworten Zitat