Registriert seit: 6. Apr 2005
10.109 Beiträge
|
Re: Großer Hex-String in Dezimal String wandeln, rundungsfeh
2. Jul 2007, 11:59
Hallo ruedi,
kennst du denn die Funktion IfThen() nicht? Wenn der Testcode "cheerio" ausgibt, dann funktioniert die round trip conversion mittels Int64. Wird "rats" ausgegeben, dann habe ich heute mein erstes Problem.
Bei einem Hex-String mit 16 Nibbles = 8 Bytes dürfte ein Int64 (64 Bit = 8 Byte) noch keine Probleme haben. Irgendwann kann es ein Vorzeichenproblem bei der Zahlendarstellung geben, aber intern bleibt es beim QuadWord.
Freundliche Grüße
|