Registriert seit: 14. Okt 2006
Ort: Nürnberg
719 Beiträge
Delphi XE5 Professional
|
AW: Rundungsproblem mit MSSQL
8. Apr 2021, 18:40
Noch eine kleine Ergänzung, falls es jemanden interessieren sollte. Neben der Verwendung von vieeeeeelen Nachkommastellen (Multipräzisions-Arithmetik) gibt es etliche Literaturquellen mit ausgefeilten Algorithmen zur Fehlerkompensation diverser Rechenoperationen innerhalb der endlich begrenzten Stellenzahl (meistens für den DatenType Double).
Gute Beschreibungen sind zu finden u. a. in folgenden exzellenten Büchern:
1): Knuth: The Art of computer programming, Volume 1 bis 4A (1997, 1998, 2011)
2): Higham: Accuracy an Stability of Numerical Algoritms (2002)
3): Einarsson: Accuracy and Reliability in Scientific Computing (2005)
Gruß, Andreas
[edit]
PS:
... und noch mehr gute Fachbücher:
4): Muller + Brisebarre + Dinechin + Jeannerod et al: Handbook of Floating-Point Arithmetic (2010)
5): Nassif + Fayyad: Introduction To Numerical Analysis And Scientific Computing (2014)
6): Sterbenz: Floating-Point Computation (1974)
Grüße, Andreas
Wenn man seinem Nächsten einen steilen Berg hinaufhilft, kommt man selbst dem Gipfel näher. (John C. Cornelius)
Geändert von Andreas13 ( 8. Apr 2021 um 20:00 Uhr)
|