Nur x Nachkommastellen von Float

[Michael II]

Zitat von mmw:

Hallo,

als Korrektur zu #3, (mit DOUBLE gab's Probleme)

Delphi-Quellcode:

function GetDigits(const AValue: Extended; Digits: Integer): Integer;

var
    value:Extended;
    value1:Real;

begin
   value:=frac(AValue)*intpower(10,digits);
   value1:=value;
   Result := trunc(value1);
end;

Gruß

Hoi mmw,

das Problem bleibt. Wenn ein Dezimalbruch eine unendlich binäre Darstellung hat (also binär irgend ein periodischer Bruch ist), dann kannst du den dezimalen Wert binär mit den Formaten single, double, extended nicht genau abspeichern. Das System kann nur die nächstkleinere oder nächstgrössere (durch das Format (extended) vorgegebene) mögliche Zahl abspeichern. (siehe weiter oben)
In deinem Fall treten zum Beispiel zwischen 99.000001 und 99.999999 natürlich wiederum die "gleichen" 496 Probleme auf. U.a. wird für GetDigitsNeu( 99.101000, 3 ).ToString) 100 ausgegeben.
Dies geschieht auch, wenn du die von dir vorgeschlagene Konversion nach real (als double implementiert) weglässt und mit extended rechnest. Extended erlaubt dir lediglich eine grössere Stellengenauigkeit als double.

[Michael II]

Für extended kannst du das Epsilon so addieren:

Delphi-Quellcode:

function plusepsilone(e : extended):extended;
var h : System.TExtended80Rec absolute e;
begin
   h.Frac := h.Frac+1;
   Result := e;
end;

(Hinweis: Prüft nicht, ob h.frac maximal = 1111.....111 ist.)

[Uwe Raabe]

Das geht dann aber auch etwas schlanker:

Delphi-Quellcode:

uses
  System.Sysutils;

...

function plusepsilone(const e : extended):extended;
begin
   Result := e;
   Result.Frac := Result.Frac+1;
end;

Könnte man auch noch als inline deklarieren.