Rundung bei Verwendung von DisplayFormat

[Neumann]

Ich vermute mal, dass es sich um Fastreport handelt. Dessen Variablen sind zunächst erst mal vom Typ Variant und werden intern dann - wenn eine Zahl erkannt oder erwartet wird in den Typ Double umgewandelt.

Vielleicht ist da das Problem. Abhilfe ist, dem Report immer schon vorher gerundete Werte zu übergeben. Es gibt doch die Funktion Roundto die das macht, damit habe ich keine Probleme in der Hinsicht.

[Ralf Kaiser]

Nein. Es handelt sich um ReportBuilder.

Aber ich werde morgen mal recherchieren ob die intern so ähnlich arbeiten.

[Dejan Vu]

Zitat von Ralf Kaiser:

Zitat von Dejan Vu:

Das Problem ist, das 0.375 nicht exakt darstellbar ist.

Das sollte aber doch bei dem angegebenen Literal "0.375000000000" nicht der Fall sein.

Das stimmt zufällig, da hast Du Recht. Übrigens auch ohne die '000000'.

Ich war zu sehr auf 0.735 getrimmt.... Wenn das wirklich bei 0.375 so ist, dann ist das wirklich merkwürdig.

Das Einzige, was ich mir vorstellen kann, sind unterschiedliche Rundungsverfahren (Bankers Rounding vs. 'Normal'). Aber das hast Du ja schon gecheckt... Mystisch.

[Medium]

Nur noch mal um das klar zu stellen, auch wenn es hier glatt darstellbar ist: Es ist völlig egal wie viele Nullen du deinem Literal anhängst. Wenn ein Wert nicht perfekt in einem IEEE Float abgebildet werden kann, kann er es einfach nicht. Egal welche esoterischen Literale einem da noch so einfallen. Geht. Nicht.

(Da der konkrete Wert hier aber exakt darstellbar wäre, muss irgendwo auf dem Weg vom Programm auf den Report-Canvas etwas seltsames passieren.)