Einzelnen Beitrag anzeigen

marabu

Registriert seit: 6. Apr 2005
10.109 Beiträge
 
#9

Re: Großer Hex-String in Dezimal String wandeln, rundungsfeh

  Alt 2. Jul 2007, 14:25
Hallo ruedi,

sobald deine Hex-Strings größer als der größte interne Datentyp werden, kannst du HexToBin() einsetzen. In deinem Beitrag #1 hattest du nichts davon geschrieben, dass die Hex-Strings länger als 16 Zeichen werden könnten. Tut mir leid, wenn ich dich da auf einen Holzweg geführt haben sollte. Um so etwas zu vermeiden musst du dein technisches Problem genauer (Wertebereiche etc.) beschreiben. Wenn dir das schwer fällt, dann hilft manchmal auch die Beschreibung des fachlichen Problems. Oft findet sich dann jemand, der sich in der fachlichen Domäne zu Hause fühlt.

Das Ergebnis für dein Hex-Beispiel ist tatsächlich -2299487823274432599. Int64 wertet das höchste Bit als Vorzeichen-Bit, sodass die Darstellung dich vielleicht irritiert. Intern ist die Umwandlung natürlich korrekt gelaufen.

Wozu brauchst du das Ergebnis?
Warum ist eine Darstellung als Ganzzahl notwendig?

Freundliche Grüße
  Mit Zitat antworten Zitat