Einzelnen Beitrag anzeigen

MarLe

Registriert seit: 13. Jan 2005
83 Beiträge
 
Delphi XE2 Professional
 
#15

Re: HEX-string (Zweierkomplement) in Dezimal-string wandeln

  Alt 23. Mär 2006, 15:32
Die Funktionen rechnen nur bei negativen Werten richtig.

Delphi-Quellcode:
Hex2Dec:
$55C8 -> 43576 falsch
$007F -> 65409 falsch
$0001 -> 65535 falsch
$FFFF -> -1 richtig
$FFF0 -> -16 richtig

Dec2Hex:
+21960 -> $AA2F falsch
  +127 -> $FF81 falsch
    +1 -> $FFFF falsch
    -1 -> $FFFF richtig
   -16 -> $FFF0 richtig

korrekte Werte wären:
$55C8 <-> +21960
$007F <-> +127
$0001 <-> +1
$FFFF <-> -1
$FFF0 <-> -16
Ich denke mal ich muss bei Hex2Dec vorher das Highbit (0 oder 1) auswerten.
Bei Dec2Hex das Vorzeichen, oder???
  Mit Zitat antworten Zitat