Single -> Extended

[himitsu]

Wenn es ganz genau sein soll, dann Currency oder BCD.

Oder eben bei/nach dem Convertieren und sowieso beim Verwenden entsprechend der maximal nötigen Nachkommastellen runden.

[Andreas13]

Zitat von himitsu:

Wenn es ganz genau sein soll, dann Currency oder BCD ...

Sorry, aber das ist nur bei Addition und / oder Subtraktion exakt. Nicht bei Multiplikation, schon gar nicht beim Dividieren und überhaupt nicht bei transzendenten Funktionen wie exp(x), Ln(x), sin(x) etc.
Grüße, Andreas

[TurboMagic]

Dieser Artikel könnte dem einen oder anderen evtl. beim Verständnis von Fließkommazahlen helfen:
http://rvelthuis.de/articles/articles-floats.html

[Frickler]

Zitat von Andreas13:

Zitat von himitsu:

Wenn es ganz genau sein soll, dann Currency oder BCD ...

Sorry, aber das ist nur bei Addition und / oder Subtraktion exakt. Nicht bei Multiplikation, schon gar nicht beim Dividieren und überhaupt nicht bei transzendenten Funktionen wie exp(x), Ln(x), sin(x) etc.
Grüße, Andreas

Kommt auf die Operanden an: 1/4 ist bei BCD genau 0,25. Currency hat nur 4 Nachkommastellen, da kann es schon eng werden, aber BCD hat prinzipiell keine Längenbeschränkung.

[Dennis07]

Zitat von Frickler:

Kommt auf die Operanden an: 1/4 ist bei BCD genau 0,25. Currency hat nur 4 Nachkommastellen, da kann es schon eng werden, aber BCD hat prinzipiell keine Längenbeschränkung.

Jo, ist halt nur (um ein vielfaches) langsamer. Ansonsten kann man das schon mal benutzen. Wenn du aber ausgehend einen Float/Extended-Wert hast, dann bringt dir das natürlich auch nicht viel; runden musst du dann trotzdem.

[Redeemer]

Zitat von Frickler:

Zitat von Andreas13:

Zitat von himitsu:

Wenn es ganz genau sein soll, dann Currency oder BCD ...

Sorry, aber das ist nur bei Addition und / oder Subtraktion exakt. Nicht bei Multiplikation, schon gar nicht beim Dividieren und überhaupt nicht bei transzendenten Funktionen wie exp(x), Ln(x), sin(x) etc.
Grüße, Andreas

Kommt auf die Operanden an: 1/4 ist bei BCD genau 0,25. Currency hat nur 4 Nachkommastellen, da kann es schon eng werden, aber BCD hat prinzipiell keine Längenbeschränkung.

0,25 ist auch bei Gleitkomma genau.
Kommazahlen, deren Nachkommateil nicht auf 5 endet, wirst du mit Gleitkomma niemals darstellen können. Die Umkehrung gilt nicht. 0,05 z.B. ist nicht darstellbar. Vereinfacht gesagt: Du kannst alle Brüche darstellen, deren Nenner eine nicht zu große Zweierpotenz ist.