Einzelnen Beitrag anzeigen

Benutzerbild von dizzy
dizzy

Registriert seit: 26. Nov 2003
Ort: Lünen
1.932 Beiträge
 
Delphi 7 Enterprise
 
#14

Re: Plötzlich auftretenes Rundungsproblem

  Alt 15. Dez 2004, 16:43
Zitat von Jelly:
Das ganze Problem hängt wohl mit der Floatarithmetik zusammen. In was für einen Datentyp wird denn 3,45*3/0,9 gespeichert... Probier doch mal double oder extended, und kuck was dann bei raus kommt.
Genau dort würde ich den "Fehler" (es ist eigentlich nur eine Ungenauigkeit) vermuten. Ich hatte hier mal was zur Speicherung von Fließkommazahlen geschrieben - das erklärt evtl. das Verhalten.

Es kann nämlich durchaus sein, dass du 9.315 hinschreibst, aber gerechnet wird (aus technischen Gründen) u.U. mit soetwas wie 9.314999999956. Dann stimmte das Abrunden wieder.

Der Typ "Currency" könnte imho hilfreich bei der Problemlösung sein.

Gruss,
Fabian
Fabian K.
INSERT INTO HandVonFreundin SELECT * FROM Himmel
  Mit Zitat antworten Zitat