|
Registriert seit: 29. Sep 2003
Ort: Österreich
230 Beiträge
|
Re: Datentyp für Messdaten (Chemie, Physik)
28. Dez 2009, 15:59
Wie schon geschrieben, werde ich hier nicht die Genauigkeit meiner Methoden diskutieren. Warum? Dieses Programm soll mir das Leben in so manchen Labors vereinfachten und ich werde es nicht jedes Mal neu schreiben, wenn eine Kommastelle dazukommt oder wegfällt.
Daher: Größtmögliche SINNVOLLE Genauigkeit. Dass Rohdaten - sofern möglich - abgespeichert werden, ist völlig klar. Bringt mir halt nix, wenn dann nach der Fourier-Transformation nix mehr überbleibt, weil ich bei der Berechnung zu ungenau bin.
Um diese Diskussion zu einem konstruktiven Ende zu bringen, meine Zusammenfassung/meine abschließenden Fragen:
1) Es reicht also völlig aus, mit (long) double zu rechnen, weil das für praktische Zwecke völlig ausreichend ist?
2) Gibt es eine Möglichkeit, die von Uwe Raabe, beschriebene Problematik elegant (mit vertretbarem Aufwand) zu umgehen, oder ist das eine "generelle Unzulänglichkeit" der Computer? Ein von mir verwendetes Statistikprogramm (nicht von mir geschrieben) macht den gleichen Fehler, mein Taschenrechner ist wohl zu ungenau und rundet, sodass der Fehler gar nicht erst auftaucht...
Vielen Dank,
Andreas
Andreas N.
|