Round gibt unterschiedliche Nachkommastellen zurück

[messie]

Moin,

ich habe einen View, in dem ich mit Round die Nachkommastellen für die Darstellung optimieren möchte.
Aber mir gibt z.B.

Code:

select Round(TABLE.OUTPUT,2) FROM TABLE

statt der erwarteten 0.30 im Flamerobin 0.300000 zurück. Im Programm stehen dann sogar 15 Nachkommastellen.

Beide rufe ich mit

Code:

select * from VIEW

auf.

Kann mir jemand erklären, wie das zusammen hängt?

Grüße, Messie

[Morphie]

Ist laut Doku doch genau so gewollt:
http://www.firebirdsql.org/refdocs/l...unc-round.html

Zitat:

ROUND(123.654, 1) returns 123.700 (not 123.7)
ROUND(8341.7, -3) returns 8000.0 (not 8000)
ROUND(45.1212, 0) returns 45.0000 (not 45)

Edit: du könntest uns noch verraten, was TABLE.OUTPUT für einen Wert hat

[Neutral General]

Ist es nicht total egal wie viele Nachkommastellen du hast wenn eh alle weiteren Stellen Nullen sind? 0,3 und 0,300000000000 sind der gleiche Wert. Und darstellen kannst du den Wert nachher ja wie du willst.

[messie]

Zitat von Neutral General:

Ist es nicht total egal wie viele Nachkommastellen du hast wenn eh alle weiteren Stellen Nullen sind? 0,3 und 0,300000000000 sind der gleiche Wert. Und darstellen kannst du den Wert nachher ja wie du willst.

Ja, aber ich bekomme 0,300000011920929

Für die Darstellung: gibt es so etwas wie ein FormatFloat?

Grüße, Messie

[p80286]

Zitat von messie:

statt der erwarteten 0.30 im Flamerobin 0.300000 zurück. Im Programm stehen dann sogar 15 Nachkommastellen.

?Ja und?

Interessant wird das doch erst, wenn Du diesen Wert darstellen willst, und da gibt es Format.

Zitat von messie:

Ja, aber ich bekomme 0,300000011920929

Und dann nochmal gefragt, was ist der Ausgangswert?


Gruß
K-H

[messie]

Zitat von p80286:

Interessant wird das doch erst, wenn Du diesen Wert darstellen willst, und da gibt es Format.

Ich habe gelesen, dass es das nicht mehr gibt. Wo müsste ich denn suchen?

Ausgangswert ist 0.3 gewesen (gelesen als String '0.3' aus einer Datei).

Grüße, Messie

[p80286]

Zitat von messie:

Zitat von p80286:

Interessant wird das doch erst, wenn Du diesen Wert darstellen willst, und da gibt es Format.

Ich habe gelesen, dass es das nicht mehr gibt. Wo müsste ich denn suchen?

Äh in Delphi?

Zitat von messie:

Ausgangswert ist 0.3 gewesen (gelesen als String '0.3' aus einer Datei).

die Frage ist, was ist der Inhalt von Table.Output und was ist der Typ?

Gruß
K-H

[user0815]

Delphi-Quellcode:

procedure TDatenmodul.QueryAfterOpen(DataSet: TDataSet);
begin
  (DataSet.FieldByName('FELD') as TFloatField).DisplayFormat := '0.00';
end;

[messie]

Table.Output ist ein Float.

Ich habe (in anderen Programmen) öfter mit Iterationen zu tun und da bin ich schon häufiger über das Nachkommastellengeraffel gestolpert. Deshalb würde ich es gerne exakt gerundet in die DB einlesen.

Im Moment ist die Datenmenge direkt an ein TCRDBGrid angebunden, da ist kein Delphi zwischen. Ob es in dem Grid selbst Formatstrings gibt? Oder ist die 0815-Lösung () die einzige?

Grüße, Messie

[p80286]

Schade da kann ich Dir nicht weiter helfen, aber angeblich wird der Source Code mitgeliefert, vielleicht wirst Du da fündig.

Gruß
k-H