Einzelnen Beitrag anzeigen

marabu

Registriert seit: 6. Apr 2005
10.109 Beiträge
 
#7

Re: runden bis auf 2 stellen hinterm komma, 0 nicht wegschne

  Alt 27. Sep 2007, 14:54
Hallo Frank,

Zitat von Sourcemaker:
... Du denkst auch daran das Round das sogenannte Bankers´s Rounding durchführt und nicht kaufmännisch rundet? ...
wer behauptet denn sowas? die FPU ist auf rmNearest eingestellt, was dem half-up mode entsprechen sollte.

Zitat von Sourcemaker:
... Mit Deiner Funktion gerundet ergibt 0,425 0,42 anstatt wie kaufmännisch zu erwarten 0,43 ...
Das Ergebnis ist 0.42 - aber nicht aufgrund eines Banker's Rounding:

Delphi-Quellcode:
var
  d: Double;
begin
  d := 0.425; // 0,424999999999999989
  ShowMessage(Format('%.18f', [d]));
end;
Hier liegt kein Rundungs- sondern ein Abbildungsproblem vor.

Freundliche Grüße
  Mit Zitat antworten Zitat