Integer Overflow bei Multiplikation im SELECT (Interbase)

[Jens Schumann]

Hallo,
ich stehe vor einem noch nie dagewesenem Problem.
Wenn ich folgendes SQL auf die Datenbank loslasse funktioniert alles einwandfrei:

Code:

SELECT Sum(tabelle.wert*0.0833)  AS JAN FROM tabelle

Wenn ich hingegen folgendes SQL auf die Datenbank loslasse kommt es zum Fehler:

Code:

SELECT Sum(tabelle.wert*0.08333)  AS JAN FROM tabelle

Der Unterschied zum obigen SQL ist die Anzahl der Kommastellen.

Code:

Integer overflow The result of an integer operation caused the most significant bit of the result to carry on line 1 : SELECT Sum(tabelle.wert*0.08333)  AS JAN FROM tabelle

Wert ist vom Type DECIMAL(18,8 )

Jetzt könnte man auf die Idee kommen: Nimm doch vier Kommastellen.
Leider geht das nicht, da die Multiplikatoren normalerweise aus einer anderen Tabelle kommen.
Auf diese Tabelle habe ich keinen Einfluß.

Weiss jemand hier Rat?

[Jens Schumann]

Wenn ich den wert caste funktioniert es.

Code:

SELECT Sum(CAST(tabelle.wert AS DECIMAL(18,0)*0.08333333)  AS JAN FROM tabelle

funktioniert.
:gruebel: :gruebel: :gruebel:

[shmia]

Es stellt sich die Frage, wie Interbase auf die dumme Idee kommt, hier
eine Integer-Operation zu verwenden.
Versuch mal beide Faktoren explizit in den Datentyp Double zu casten.

SQL-Code:

SELECT Sum(Cast(tabelle.wert AS Double)*Cast(0.08333 AS Double))  AS JAN FROM tabelle

Möglicherweise muss nur der linke Faktor gecastet werden.
Viel Glück :thuimb: