AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Sprachen und Entwicklungsumgebungen Sonstige Fragen zu Delphi Delphi Problem mit überlauf bzw. division durch null
Thema durchsuchen
Ansicht
Themen-Optionen

Problem mit überlauf bzw. division durch null

Ein Thema von 13Joe37 · begonnen am 20. Okt 2008 · letzter Beitrag vom 21. Okt 2008
 
nahpets
(Gast)

n/a Beiträge
 
#9

Re: Problem mit überlauf bzw. division durch null

  Alt 20. Okt 2008, 15:29
Hallo,

da hast Du quasi einen Rechenfehler:

i ist ein LongInt und der kann Werte bis maximal 2147483647 annehmen.

65536 * 65536 ist aber 4294967296, das ist doch ein bisserl mehr, als in i reinpasst.
Weißt Du nun i einen Wert größer als 2147483647 zu, so tritt der Effekt auf, dass alle Bits, die zuviel sind, links rüberkippen und nicht berücksichtigt werden.

Schreib Dir mal 'ne Testprogramm mit folgendem Aufbau:
Delphi-Quellcode:
Var
          l : LongInt;
          d : Double;
begin
  // erster Test
  l := 2147483647; // Mehr geht nicht in LongInt
  ShowMessage(IntToStr(l));
  l := l + 1; // und jetzt tuen wir da einen mehr rein, als reingeht.
  ShowMessage(IntToStr(l));
  // zweiter Test
  l := 2147483647; // Mehr geht nicht in LongInt
  l := l + l; // und das addieren wir zu uns selbst (= 2 * mehr geht nicht)
  ShowMessage(IntToStr(l));
  l := l + 2; // und da tuen wir jetzt noch zwei drauf
  ShowMessage(IntToStr(l));
  // dritter Test
  d := 2147483647; // Mehr geht nicht in LongInt
  d := d + 2147483647; // Mehr geht nicht in LongInt + Mehr geht nicht in LongInt
  d := d + 2; // + 2
  ShowMessage(FloatToStr(d));
  // vierter Test
  d := 65536; // unser Problemwert
  d := d * 65536; // * unserem Problemwert
  ShowMessage(FloatToStr(d));
end;
und beobachte die angezeigten Ergebnisse. Danach wird Dir klar, warum 65536 * 65536 manchmal 0 ist.
Und überprüf' bei Gelegenheit mal, ob die Ergebnisse von Zahlen, die größer als 65536 bei Dir sind, wirklich stimmen.
  Mit Zitat antworten Zitat
 


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 10:16 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz