Einzelnen Beitrag anzeigen

Benutzerbild von Moombas
Moombas

Registriert seit: 22. Mär 2017
Ort: bei Flensburg
525 Beiträge
 
FreePascal / Lazarus
 
#30

AW: MS SQL Genauigkeit in der Termauswertung

  Alt 13. Jun 2019, 09:07
Bekloppt, habe die Seite neu geladen und das nun nochmal eingegeben und erhalte nun AUCH 0.... dann habe ich dahingehend nichts gesagt -.- (Anwender Fehler, habe den Code von links nicht nach rechts NEU kopiert^^)

Dennoch scheint man mehr als die "normalen" Rechenregeln in MS SQL bedenken zu müssen.

  • (12.0 / 100 * 0.5) = 0.06
  • (12 / 100.0 * 0.5) = 0.06
  • (12 / 100 * 0.50) = 0.06
Das 3te ist falsch, da kommt auch 0 raus, weil 12/100 sich zu 0 berechnet.
Also muss im Bruch auch mindestens eine Zahl eine Kommazahl sein, damit er mit Kommastellen rechnet (!?) und du somit das richtige Ergebnis bekommst. Wobei dann wirklich egal ist wie viele Kommastellen man in der Rechnung angibt:

select 12 / 100 = 0;
select 12 / 100.0 = 0.12;
Der Weg ist das Ziel aber man sollte auf dem Weg niemals das Ziel aus den Augen verlieren.

Geändert von Moombas (13. Jun 2019 um 09:25 Uhr)
  Mit Zitat antworten Zitat