Trunc liefert falschen Wert

[DevidEspenschied]

Hallo,

irgendwie scheint Trunc bei mir nicht ganz korrekt zu rechnen. Wenn ich einen Real-Wert von 9.7 x 10 multipliziere und daraus einen Integer mache, sollte es 97 sein, Trunc macht daraus aber 96:

Delphi-Quellcode:

var ErgTemp : Real;
    ErgTempInt : Integer;
begin
  ErgTemp:=9.7;
  ErgTempInt:=Trunc(ErgTemp * 10);
  ShowMessage(IntToStr(ErgTempInt));
end;

Hat jemand eine Idee, woran das liegen könnte? Vielen Dank.

[Medium]

floats ungenauigkeit

-> Nimm besser Round()

[Mavarik]

Deswegen:

Delphi-Quellcode:

var ErgTemp : Real;
     ErgTempInt : Integer;
begin
   ErgTemp:=9.7;
   ErgTemp := ErgTemp * 10;
   ErgTempInt:=Trunc(ErgTemp);
   ShowMessage(IntToStr(ErgTempInt));
end;

Mavarik

[Der schöne Günther]

Also ich kriege wie erwartet 97 raus

[mm1256]

Komisch...

Delphi-Quellcode:

var ErgTemp : Real;
    ErgTempInt : Integer;
begin
  ErgTemp:=9.7;
  ErgTempInt:=Trunc(ErgTemp * 10);
  ShowMessage(IntToStr(ErgTempInt));
end;

...gibt bei mir auch 96. Warum das bei dir 97 sind, ist mir ein Rätsel

[Der schöne Günther]

Oh, es wird wieder lustig. Herzlich Willkommen zu einer neuen Ausgabe von

Compiler - Magic

Auf Win64 kommt bei mir 97 heraus. Bei Win32 kommt 96 heraus. Wer probiert iOS und Android aus?

[Insider2004]

9.7*10=96.999999999999999 -> trunc -> 96.

stimmt doch! bitte lesen: Dezimalsysten <-> Binärsystem

[mm1256]

Und warum dann mit Win32 und Win64 zwei unterschiedliche Werte. Hab es soeben auch nachvollziehen können.

[p80286]

Darf ich mal dezent auf #2 hinweisen?
oder anders herum trunc(96.9999999999999999999) ist nun mal 96 und trunc(97.0000000000000000001) ist 97!

Gruß
K-H

[Insider2004]

Zitat von mm1256:

Und warum dann mit Win32 und Win64 zwei unterschiedliche Werte. Hab es soeben auch nachvollziehen können.

Real darfst du nicht nehmen. Nur Double. Auch nich Extended.