Delphi Großer Hex-String in Dezimal String wandeln, rundungsfehler

Thema durchsuchen

Ansicht

Themen-Optionen

Großer Hex-String in Dezimal String wandeln, rundungsfehler

Ein Thema von ruedi · begonnen am 2. Jul 2007 · letzter Beitrag vom 2. Jul 2007

Vorheriger Beitrag

Nächster Beitrag

marabu

Registriert seit: 6. Apr 2005
10.109 Beiträge

Re: Großer Hex-String in Dezimal String wandeln, rundungsfeh

2. Jul 2007, 11:59

Hallo ruedi,

kennst du denn die Funktion IfThen() nicht? Wenn der Testcode "cheerio" ausgibt, dann funktioniert die round trip conversion mittels Int64. Wird "rats" ausgegeben, dann habe ich heute mein erstes Problem.

Bei einem Hex-String mit 16 Nibbles = 8 Bytes dürfte ein Int64 (64 Bit = 8 Byte) noch keine Probleme haben. Irgendwann kann es ein Vorzeichenproblem bei der Zahlendarstellung geben, aber intern bleibt es beim QuadWord.

Freundliche Grüße