Einzelnen Beitrag anzeigen

BoolString

Registriert seit: 2. Feb 2009
Ort: Varel
70 Beiträge
 
RAD-Studio 2009 Pro
 
#18

AW: Feld enthält falschen Wert

  Alt 19. Apr 2012, 10:55
Klassiker auf dem Gebiet der Gleitkomma-Arithmetik sind die Arbeiten von Goldberg, Monniaux und die eigentliche Spezifikation IEEE 754.

Alle findet man relativ häufig frei im Netz. Z.B.:

Goldberg, What every computer scientist should know about floating point arithmetic.
Monniaux, The pitfalls of verifying floating point computations.
IEEE754 in der deutschsprachigen Wikipedia.

Ich kenn mich mit Datenbanken nicht so aus, aber entsprechende Ungenauigkeiten kommen oftmals zustande, wenn Variablen unterschiedlichen Typs miteinander verrechnet werden, Zwischenergebnisse in anderen Variablen gespeichert werden, etc.

Jan
  Mit Zitat antworten Zitat