Datentyp für Messdaten (Chemie, Physik)

[alzaimar]

Messdaten haben normalerweise eine Genauigkeit von 0.1-1 Promille, also max 5-6 Stellen. Eine höhere Genauigkeit ist natürlich je nach Messgerät möglich, aber nur selten sinnvoll. Meist sind die Messfehler durch Umwelteinflüsse eh höher.

Nehmen wir also eine sinnvolle Genauigkeit von 6 Stellen an. Dann reicht zum Speichern die einfache Genauigkeit aus. Zum Rechnen (wenn es nicht endlose Iterationen sind), sollte der Double-Datentyp ausreichend sein, sicherheitshalber und auch weil die CPU mittlerweile problemlos damit klar kommen, kann man auch die doppelte Genauigkeit verwenden.

Wichtig ist, das man die Ergebnisse richtig und sinnvoll interpretiert. Ich beömmel mich immer wieder, wenn Umfrageergebnisse von 14,7102% veröffentlicht werden, aber nur 990 Leute befragt wurden. Hier sollte ich nur maximal 3 Stellen angeben, denn mehr (=eine höhere Genauigkeit) hat nämlich die Messung (=die Umfrage) nicht hergegeben.