Feld enthält falschen Wert

[bwolf]

Super vielen Dank!

[sx2008]

Zitat von mkinzler:

In anderen DBMS gibt es neben Float noch NUMERIC/DECIMAL. Hier kann man die Anzahl der relevanten Stellen festlegen

Das Problem ist nur, dass es in Delphi keinen dazu passenden Datentyp gibt.
"Currency" (64Bit) hat genau 4 Nachkommastellen.
Leider gibt es keinen "Decimal"-Datentyp mit 128Bit wie z.B. in dot-Net.

Eine Kunde von uns handelt mit Elektronikbauteilen.
Nun ist ein einzelner SMD Widerstand so billig, dass 5 Nachkommastellen benötigt werden.
Tja, geht halt nicht; Double bzw. Extended machen Rundungsfehler und Currency reicht nicht aus.
Hier sollte Embacadero unbedingt mit den Mitbewerbern gleichziehen.

[himitsu]

Currency ist ein nativer Typ in der FPU, so wie Single, Double und teilweise auch Extended.
Darauf hatte Borland/Codegear/Embarcadero keinen Einfluß.
Und die 64 Bit entsprechen auch der Auflösung (signifikante Stellen) des Extended, welches in der FPU die größte Auflösung darstellt.

Was da die 64-Bit-CPU oder sowas wie MMX bieten, weiß ich allerdings nicht genau.

[mkinzler]

Zitat:

Das Problem ist nur, dass es in Delphi keinen dazu passenden Datentyp gibt.

Das ist hier auch irrelevant. Es ging ja auch um den Typ des Datenbankfeldes

[Iwo Asnet]

Zitat von mkinzler:

Zitat:

Das Problem ist nur, dass es in Delphi keinen dazu passenden Datentyp gibt.

Das ist hier auch irrelevant. Es ging ja auch um den Typ des Datenbankfeldes

Bedingt, denn wie bekommt man die vom Feld gebotene Genauigkeit mit Delphi hinein? Soll man dann zu den Sprachen wechseln, die BCD o.ä. können?

[mkinzler]

Das Problem liegt an der Ungenauigkeit der Fliesskommazahlen. In seinem Fall würde sein Problem so vermieden.

[himitsu]

Mir ist so, als wenn ich im Delphi mal einen BCD-Typen gesehen hätte, aber bei seinem kleinen Wert absolut unnötig. (da würde sogar Single reichen)

[BoolString]

Klassiker auf dem Gebiet der Gleitkomma-Arithmetik sind die Arbeiten von Goldberg, Monniaux und die eigentliche Spezifikation IEEE 754.

Alle findet man relativ häufig frei im Netz. Z.B.:

Goldberg, What every computer scientist should know about floating point arithmetic.
Monniaux, The pitfalls of verifying floating point computations.
IEEE754 in der deutschsprachigen Wikipedia.

Ich kenn mich mit Datenbanken nicht so aus, aber entsprechende Ungenauigkeiten kommen oftmals zustande, wenn Variablen unterschiedlichen Typs miteinander verrechnet werden, Zwischenergebnisse in anderen Variablen gespeichert werden, etc.

Jan