Einzelnen Beitrag anzeigen

ruedi

Registriert seit: 2. Jul 2007
6 Beiträge
 
Delphi 7 Enterprise
 
#1

Großer Hex-String in Dezimal String wandeln, rundungsfehler

  Alt 2. Jul 2007, 10:51
Hallo

Ich muss Hex-Strings dieser größe: E0169402086427A9 ins Dezimal-System wandeln. (E0169402086427A9 -> 16147256250435119017). Dafür habe ich eine Funktion geschrieben die soweit funktioniert. Wird jedoch in der Anwendung ein neues Fenster erstellt, oder z.B. die Funkion LoadFromFile ausgeführt, wird während der Berechnung automatisch gerundet (1 Stelle geht verloren) und das neue Ergebnis lautet: 1614725625043512000

Wäre froh wenn mir jemand dabei helfen könnte. Ich habe schon eine Lösung über die Compiler-Schalter gesucht, aber auch ohne erfolg.

Aufruf z.B. mit: MessageDLG(RFIDHexToNummer('E0169402086427A9'),mtI nformation,[mbOK],0);

Delphi-Quellcode:
function RFIDHexToNummer(karte:string):string;
var s:string;
    z:extended;
begin
 //Karte z.B.: E0169402086427A9

 s:=Karte;
 z:=hexstrtoextended(s);

 s:=floattostrf((z/100),ffGeneral,22,0);
 s:=s+floattostrf((round(frac(z/100)*100)),ffGeneral,22,0);

 result:=s;
end;



Function HexStrToExtended(s1:String):extended;
Var d1:extended; i:Integer;
    hexhelp:array[0..15] of extended;
    x:integer;
Begin
 debugschreiben('###############################');

 hexhelp[0]:=1;
 hexhelp[1]:=16;
 hexhelp[2]:=256;
 hexhelp[3]:=4096;
 hexhelp[4]:=65536;
 hexhelp[5]:=1048576;
 hexhelp[6]:=16777216;
 hexhelp[7]:=268435456;
 hexhelp[8]:=4294967296;
 hexhelp[9]:=68719476736;
 hexhelp[10]:=1099511627776;
 hexhelp[11]:=17592186044416;
 hexhelp[12]:=281474976710656;
 hexhelp[13]:=4503599627370496;
 hexhelp[14]:=72057594037927936;
 hexhelp[15]:=1152921504606846976;

 d1:=0;

 trim(s1);
 for i:= length(s1)-1 downto 0 do
  begin
   case s1[length(s1)-i] of
    '0': x:=0;
    '1': x:=1;
    '2': x:=2;
    '3': x:=3;
    '4': x:=4;
    '5': x:=5;
    '6': x:=6;
    '7': x:=7;
    '8': x:=8;
    '9': x:=9;
    'A': x:=10;
    'B': x:=11;
    'C': x:=12;
    'D': x:=13;
    'E': x:=14;
    'F': x:=15;
   end;

   d1:=d1+(hexhelp[i]*x);

  end;

 result:=d1;
end;
  Mit Zitat antworten Zitat