Thema: Delphi probleme mit double

Einzelnen Beitrag anzeigen

Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.034 Beiträge
 
Delphi 12 Athens
 
#8

Re: probleme mit double

  Alt 25. Jul 2006, 15:34
dann versuch dir mal den wert mit der maximalen genauigkeit anzuzeigen ... die normalen "konvertierungsfunktionen zeigen ja nur einen Teil der möglichen stellen an, aber selbst dann kann immernoch gerundet werden, so das du eh nie genau sehen wirst, was wirklich in der Variable drinsteckt.


0.0037999999999 wurd nunmal als 0.0038 angezeigt, oder auch
0.0037999999998
0.0037999999997
0.00380000000001
... halt alles was für die Anzeige enstsprechend gerundet wird.

Die einzige Lösung (für deine Datentypen) wurde bereits gesagt.
nicht direkt vergleichen, sondern nur püfen, ob es nah an deinem gewünschten Wert liegt.

Du könntest natürlich auch auf Datentypen umsteigen, welche nicht (oder zumindestens in deinem Wertebereich) zu wertverfälschungen neiden, z.B. Aufgrund von Rundung.

Oder du skalierst die dine Werte in einen Integer, oder einen anderen Nicht-Fließkommatyp.
Als beispiel wäre da Currency zu nennen, welcher rein zufällig genau/makimal vier Nachkommastellen zur Verfügung hat.

Wenn mehr benötigt werden, muß du halt selber entsprechende skalieren.
Garbage Collector ... Delphianer erzeugen keinen Müll, also brauchen sie auch keinen Müllsucher.
my Delphi wish list : BugReports/FeatureRequests
  Mit Zitat antworten Zitat