Einzelnen Beitrag anzeigen

EConvertError

Registriert seit: 29. Sep 2003
Ort: Österreich
230 Beiträge
 
#6

Re: Datentyp für Messdaten (Chemie, Physik)

  Alt 27. Dez 2009, 23:42
Vielen Dank für die zahlreichen Antworten!

Es handelt sich hauptsächlich um spektroskopische/chromatographische/massenspektroskopische Daten. Die Genauigkeit schwankt daher teilweise enorm (Massenspektroskopie ist z.B. irrsinnig genau, während andere Daten viel mehr schwanken). In der Tat werde normalerweise 5-6 Kommastellen ausreichen, jedoch möchte ich die Algorithmen nicht neu schreiben, sollten es einmal 10 Kommastellen sein - daher meine Nachfrage bezüglich Genauigkeit. Selbstverständlich weiß ich aus eigener Erfahrung im Labor, dass manchmal die Anzahl der signifikanten Stellen Geräte/Messtechnisch WEIT darunter liegt...

Aber von der Chemie zurück zur Programmierung:

Daher habt ihr völlig richtig erraten, dass ich nicht 37 Kommastellen korrekt berechnen muss. Dennoch will ich nicht relativ genaue Methoden mit schlechten Datentypen / miesen Algorithmen vermiesen, oder ohnehin schon ungenaue Methoden noch verschlimmern...

Daher wird es wohl nicht notwendig sein, einen eigenen Datentyp zu basteln, sollte es aber grundlegende Tipps geben, Stichwort hierbei hat Uwe Raabe vorgegeben: bedachte Auswahl der Rechenreihenfolgen

Gibt es da aufgrund der Informatik gewisse Regeln zu beachten, oder komme ich mit denen als Chemiestudent gelernten Regeln aus:
Addition/Substraktion: Die geringste Anzahl der signifikanten Stellen der einzelnen Zahlen bestimmt die Anzahl der signifikanten Stellen im Ergebnis. Analog bei den anderen Rechenoperationen...

Gibt es weitere allgemeine Tipps?

Vielen Dank,
Andreas
Andreas N.
  Mit Zitat antworten Zitat