AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

probleme mit double

Ein Thema von kandl · begonnen am 25. Jul 2006 · letzter Beitrag vom 26. Jul 2006
Antwort Antwort
Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.339 Beiträge
 
Delphi 12 Athens
 
#1

Re: probleme mit double

  Alt 25. Jul 2006, 14:34
dann versuch dir mal den wert mit der maximalen genauigkeit anzuzeigen ... die normalen "konvertierungsfunktionen zeigen ja nur einen Teil der möglichen stellen an, aber selbst dann kann immernoch gerundet werden, so das du eh nie genau sehen wirst, was wirklich in der Variable drinsteckt.


0.0037999999999 wurd nunmal als 0.0038 angezeigt, oder auch
0.0037999999998
0.0037999999997
0.00380000000001
... halt alles was für die Anzeige enstsprechend gerundet wird.

Die einzige Lösung (für deine Datentypen) wurde bereits gesagt.
nicht direkt vergleichen, sondern nur püfen, ob es nah an deinem gewünschten Wert liegt.

Du könntest natürlich auch auf Datentypen umsteigen, welche nicht (oder zumindestens in deinem Wertebereich) zu wertverfälschungen neiden, z.B. Aufgrund von Rundung.

Oder du skalierst die dine Werte in einen Integer, oder einen anderen Nicht-Fließkommatyp.
Als beispiel wäre da Currency zu nennen, welcher rein zufällig genau/makimal vier Nachkommastellen zur Verfügung hat.

Wenn mehr benötigt werden, muß du halt selber entsprechende skalieren.
Ein Therapeut entspricht 1024 Gigapeut.
  Mit Zitat antworten Zitat
Antwort Antwort


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 16:13 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz