Einzelnen Beitrag anzeigen

TigerLilly

Registriert seit: 24. Mai 2017
Ort: Wien, Österreich
1.211 Beiträge
 
Delphi 11 Alexandria
 
#28

AW: MS SQL Genauigkeit in der Termauswertung

  Alt 13. Jun 2019, 08:51
Code:
select (12/100)*0.5 = 0.06 //Dank Schokohase konnte ich es testen.
Nein, das ergibt auch 0. Also zumindest beim MSSQL.

Zitat:
Also wie ich bereits am Anfang sagte erkennt MS SQL den Bruch nicht und du musst ihn einklammern!
Nein, das hat mit bruch erkennen nichts zu tun, sondern mit der Genauigkeit der Berechnung. Zwei ganzzahlige Operatoren haben ein ganzzahliges Ergebnis. Der bruch wird schon richtig gerechnet, aber nicht mit der erwarteten Genauigkeit.
  Mit Zitat antworten Zitat