AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Programmierung allgemein Datenbanken Delphi Integer Overflow bei Multiplikation im SELECT (Interbase)
Thema durchsuchen
Ansicht
Themen-Optionen

Integer Overflow bei Multiplikation im SELECT (Interbase)

Ein Thema von Jens Schumann · begonnen am 21. Apr 2004 · letzter Beitrag vom 21. Apr 2004
Antwort Antwort
Benutzerbild von Jens Schumann
Jens Schumann

Registriert seit: 27. Apr 2003
Ort: Bad Honnef
1.644 Beiträge
 
Delphi 2009 Professional
 
#1

Integer Overflow bei Multiplikation im SELECT (Interbase)

  Alt 21. Apr 2004, 09:13
Hallo,
ich stehe vor einem noch nie dagewesenem Problem.
Wenn ich folgendes SQL auf die Datenbank loslasse funktioniert alles einwandfrei:
Code:
SELECT Sum(tabelle.wert*0.0833) AS JAN FROM tabelle
Wenn ich hingegen folgendes SQL auf die Datenbank loslasse kommt es zum Fehler:
Code:
SELECT Sum(tabelle.wert*0.08333) AS JAN FROM tabelle
Der Unterschied zum obigen SQL ist die Anzahl der Kommastellen.

Code:
Integer overflow The result of an integer operation caused the most significant bit of the result to carry on line 1 : SELECT Sum(tabelle.wert*0.08333) AS JAN FROM tabelle
Wert ist vom Type DECIMAL(18,8 )

Jetzt könnte man auf die Idee kommen: Nimm doch vier Kommastellen.
Leider geht das nicht, da die Multiplikatoren normalerweise aus einer anderen Tabelle kommen.
Auf diese Tabelle habe ich keinen Einfluß.

Weiss jemand hier Rat?
I come from outer space to save the human race
  Mit Zitat antworten Zitat
Benutzerbild von Jens Schumann
Jens Schumann

Registriert seit: 27. Apr 2003
Ort: Bad Honnef
1.644 Beiträge
 
Delphi 2009 Professional
 
#2

Re: Integer Overflow bei Multiplikation im SELECT (Interbase

  Alt 21. Apr 2004, 09:39
Wenn ich den wert caste funktioniert es.
Code:
SELECT Sum(CAST(tabelle.wert AS DECIMAL(18,0)*0.08333333) AS JAN FROM tabelle
funktioniert.
I come from outer space to save the human race
  Mit Zitat antworten Zitat
shmia

Registriert seit: 2. Mär 2004
5.508 Beiträge
 
Delphi 5 Professional
 
#3

Re: Integer Overflow bei Multiplikation im SELECT (Interbase

  Alt 21. Apr 2004, 09:48
Es stellt sich die Frage, wie Interbase auf die dumme Idee kommt, hier
eine Integer-Operation zu verwenden.
Versuch mal beide Faktoren explizit in den Datentyp Double zu casten.
SELECT Sum(Cast(tabelle.wert AS Double)*Cast(0.08333 AS Double)) AS JAN FROM tabelle Möglicherweise muss nur der linke Faktor gecastet werden.
Viel Glück
Andreas
  Mit Zitat antworten Zitat
Antwort Antwort


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 20:14 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz