MS SQL Genauigkeit in der Termauswertung

[TigerLilly]

Zitat von Moombas:

0.1 * (0.5 / 100 * 12) = 0.00
0.1 * (0.50 / 100 * 12) = 0.006 (?)

Also, das ist jetzt ein bissl off-topic, aber zurück zu dem, was der MS-SQL wirklich ausgibt:

0.1 * (0.5 / 100 * 12) = 0.006
0.1 * (12 / 100 * 0.5) = 0.0

(0.5 / 100 * 12) = 0.06
(12 / 100 * 0.5) = 0.0
(12.0 / 100 * 0.5) = 0.06
(12 / 100.0 * 0.5) = 0.06

Wie gesagt: die Genauigkeit einer Operation wird durch die Genauigkeit ihrer Operanden definiert. Daher ergibt 12/100 IMMER(!) 0, egal wo im Term es steht.

Jetzt weiß ich es.

[Schokohase]

Zitat von TigerLilly:

Wie gesagt: die Genauigkeit einer Operation wird durch die Genauigkeit ihrer Operanden definiert. Daher ergibt 12/100 IMMER(!) 0, egal wo im Term es steht.

Jetzt weiß ich es.

Nein, du liegst leider falsch, denn select 0.5*12/100 ergibt 0.06.
SQLfiddle

Aber jetzt solltest du wissen sehen, warum

[Moombas]

Zitat von TigerLilly:

Zitat von Moombas:

0.1 * (0.5 / 100 * 12) = 0.00
0.1 * (0.50 / 100 * 12) = 0.006 (?)

Also, das ist jetzt ein bissl off-topic, aber zurück zu dem, was der MS-SQL wirklich ausgibt:

0.1 * (0.5 / 100 * 12) = 0.006
0.1 * (12 / 100 * 0.5) = 0.0

(0.5 / 100 * 12) = 0.06
(12 / 100 * 0.5) = 0.0
(12.0 / 100 * 0.5) = 0.06
(12 / 100.0 * 0.5) = 0.06

Wie gesagt: die Genauigkeit einer Operation wird durch die Genauigkeit ihrer Operanden definiert. Daher ergibt 12/100 IMMER(!) 0, egal wo im Term es steht.

Jetzt weiß ich es.

Falsch, denn sobald du mit 0 Multiplizierst ist das Ergebnis IMMER 0, aber du beweist ja auch:
(12.0 / 100 * 0.5) = 0.06 //Wäre 12.0 / 100 = 0, wäre das Ergebnis auch 0!
(12 / 100.0 * 0.5) = 0.06 //Wäre 12 / 100.0 = 0, wäre das Ergebnis auch 0!
Somit musst du die erforderliche Anzahl der Kommastellen in der Rechnung angeben, damit nicht abgeschnitten wird!
Ergo fehlt bei der Rechnung (12 / 100 * 0.5) = 0.0 nur eine Kommastelle und hätte drei mögliche Varianten um das richtige Ergebnis zu erhalten:

• (12.0 / 100 * 0.5) müsste = 0.06
• (12 / 100.0 * 0.5) müsste = 0.06
• (12 / 100 * 0.50) müsste = 0.06

Edit wegen Schokohases Post: Wenn die Reihenfolge scheinbar bei MS SQL einen Unterschied in der Rechnung bzw. im Ergebnis macht, sollte man sich ggf. nochmal mit der Rechnungslogik in MS SQL befassen, denn hier scheint es doch noch mehr Besonderheiten zu geben worauf zu achten ist. (Danke für den Link )

[TigerLilly]

@schokohase: Ja, stimmt, ich hab´s ungenau formuliert, es kommt ja auf die Reihenfolge der Auswertung an. In deinem Beispiel wird 12/100 ja gar nicht ausgewertet.

[TigerLilly]

Zitat von Moombas:

• (12.0 / 100 * 0.5) = 0.06
• (12 / 100.0 * 0.5) = 0.06
• (12 / 100 * 0.50) = 0.06

Das 3te ist falsch, da kommt auch 0 raus, weil 12/100 sich zu 0 berechnet.

[Schokohase]

Zitat von TigerLilly:

Ja, stimmt, ich hab´s ungenau formuliert, es kommt ja auf die Reihenfolge der Auswertung an. In deinem Beispiel wird 12/100 ja gar nicht ausgewertet.

Wieso wird in meinem Beispiel 12/100 nicht ausgewertet?

Du meinst sicherlich, in meinem Beispiel kommt es bei der Berechnung (die von links nach rechts erfolgt) nicht zu der Integer-Division von 12 und 100.

Es wird also erst 0.5 * 12 errechnet (= 6.0)
und dann 6.0/100 (= 0.06)

[Moombas]

Entfernt, da falsch.

[TigerLilly]

Zitat von Moombas:

Code:

select (12/100)*0.5 = 0.06 //Dank Schokohase konnte ich es testen.

Nein, das ergibt auch 0. Also zumindest beim MSSQL.

Zitat:

Also wie ich bereits am Anfang sagte erkennt MS SQL den Bruch nicht und du musst ihn einklammern!

Nein, das hat mit bruch erkennen nichts zu tun, sondern mit der Genauigkeit der Berechnung. Zwei ganzzahlige Operatoren haben ein ganzzahliges Ergebnis. Der bruch wird schon richtig gerechnet, aber nicht mit der erwarteten Genauigkeit.

[Schokohase]

Zitat von Moombas:

Code:

select (12/100)*0.5 = 0.06 //Dank Schokohase konnte ich es testen.

Ja, können wir auch SQLfiddle und sehen 0

[Moombas]

Bekloppt, habe die Seite neu geladen und das nun nochmal eingegeben und erhalte nun AUCH 0.... dann habe ich dahingehend nichts gesagt -.- (Anwender Fehler, habe den Code von links nicht nach rechts NEU kopiert^^)

Dennoch scheint man mehr als die "normalen" Rechenregeln in MS SQL bedenken zu müssen.

Zitat von TigerLilly:

Zitat von Moombas:

• (12.0 / 100 * 0.5) = 0.06
• (12 / 100.0 * 0.5) = 0.06
• (12 / 100 * 0.50) = 0.06

Das 3te ist falsch, da kommt auch 0 raus, weil 12/100 sich zu 0 berechnet.

Also muss im Bruch auch mindestens eine Zahl eine Kommazahl sein, damit er mit Kommastellen rechnet (!?) und du somit das richtige Ergebnis bekommst. Wobei dann wirklich egal ist wie viele Kommastellen man in der Rechnung angibt:

select 12 / 100 = 0;
select 12 / 100.0 = 0.12;