AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

Datentyp "Int64" fehlerhaft?

Ein Thema von Delphi-Laie · begonnen am 18. Jun 2017 · letzter Beitrag vom 19. Jun 2017
 
Delphi-Laie

Registriert seit: 25. Nov 2005
1.474 Beiträge
 
Delphi 10.1 Berlin Starter
 
#9

AW: Datentyp "Int64" fehlerhaft?

  Alt 19. Jun 2017, 11:53
+9223372036854775808 überschreitet halt den Wertebereich von Int64. Deshalb ist das nicht darstellbar. Was willst Du denn am Ende erreichen?
Das ist mir auch gerade klargeworden. Ist 2^63, int64 geht aber nur bis 2^63-1.

Dieser Wert entsteht - und zwar im Visual Studio ohne Vorzeichen - wen die C(++?)-Funktion

Code:
int CLZ(uint64_t x) {
  printf("");
  int n;
  if (x == 0) {
    return 64;
  }
  n = 0;
  if (x <= 0x00000000FFFFFFFFL)
   {n = n + 32;
   x = x << 32;}
  if (x <= 0x0000FFFFFFFFFFFFL)
   {n = n + 16;
   x = x << 16;}
  if (x <= 0x00FFFFFFFFFFFFFFL)
   {n = n + 8;
   x = x << 8;}
  if (x <= 0x0FFFFFFFFFFFFFFFL)
   {n = n + 4;
   x = x << 4;}
  if (x <= 0x3FFFFFFFFFFFFFFFL)
   {n = n + 2;
   x = x << 2;}
  if (x <= 0x7FFFFFFFFFFFFFFFL)
   {n = n + 1;}
  return n;
}
mit 2048 aufgerufen wird. Sie entstammt diesem Projekt und wird zur Berechnung der optimalen Länge von zu verschmelzenden Teilarrays benötigt. Die wollte ich mit Delphi nachbilden. Bis 2047 ist auch in Delphi alles in Ordnung, ab 2048 aber nicht mehr, weil dieser zitierte Wert negativ wird und das Minuszeichen nicht beseitigt werden kann, und zwar auch nicht mit dem Datentyp UInt64 (in Delphi 7). Ich werde weiter forschen.

Gruß

Delphi-Laie
  Mit Zitat antworten Zitat
 

 

Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 05:30 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz