Round gibt unterschiedliche Nachkommastellen zurück

[p80286]

Zitat von messie:

Zitat von p80286:

Interessant wird das doch erst, wenn Du diesen Wert darstellen willst, und da gibt es Format.

Ich habe gelesen, dass es das nicht mehr gibt. Wo müsste ich denn suchen?

Äh in Delphi?

Zitat von messie:

Ausgangswert ist 0.3 gewesen (gelesen als String '0.3' aus einer Datei).

die Frage ist, was ist der Inhalt von Table.Output und was ist der Typ?

Gruß
K-H

[messie]

Table.Output ist ein Float.

Ich habe (in anderen Programmen) öfter mit Iterationen zu tun und da bin ich schon häufiger über das Nachkommastellengeraffel gestolpert. Deshalb würde ich es gerne exakt gerundet in die DB einlesen.

Im Moment ist die Datenmenge direkt an ein TCRDBGrid angebunden, da ist kein Delphi zwischen. Ob es in dem Grid selbst Formatstrings gibt? Oder ist die 0815-Lösung () die einzige?

Grüße, Messie

[p80286]

Schade da kann ich Dir nicht weiter helfen, aber angeblich wird der Source Code mitgeliefert, vielleicht wirst Du da fündig.

Gruß
k-H

[Medium]

Wieder ein mal die Ungenauigkeit von Floats. Die DP ist voll davon

Ob du in der Query rundest oder nicht ist quasi egal: Zur Übergabe in dein Programm muss der Wert ja doch wieder in einen Float gepackt werden, wodurch die prinzipbedingte Ungenauigkeit wieder zuschlägt. Die einzig sinnvolle Stelle für die Rundung ist genau der Zeitpunkt der Darstellung, d.h. entweder DisplayFormat bei DataSets oder mittels FloatToStrF() oder Format() wenn du den String selber bauen möchtest.

[DanielJ]

Hallo,

0.3 ist eben in eime Float nich speicherbar.
Alternativ währe hier eventuell ein Festkommaformat angebracht - In Firebird z.B Numeric(18,4) und in Delphi z.B. Currency.

LG,
Daniel

[messie]

Moin,

Numeric ist eine gute Idee. Das erklärt mir zwar noch nicht, warum das Round doch das Rundungsgeraffel liefert aber für den Alltagsgebrauch ist das ok

Danke, Messie

[DanielJ]

Zitat von messie:

as erklärt mir zwar noch nicht, warum das Round doch das Rundungsgeraffel liefert aber für den Alltagsgebrauch ist das ok

Das Round liefert dir exakte 0.3, aber das Speichern in einem Float macht es wieder zu nichte. Wie gesagt, ein Float kann nicht jeden Wert exakt repräsentieren - das ist auch der Grund warum Delphi dir CompareValue und SameValue anbietet.
Willst du exakte Dezimalwerte, brauchst du ein Festkommaformat.

Wissenschafliche Abhandlung zu dem Thema Klick

Dies sollte man zumindest in Grundzügen verstehen, sonst verzapft man schnell einige Bugs!