fakultät ausrechnen - Exception wenn Wert zu groß wird

[BUG]

Solange wir kein 64bit-Delphi haben hat selbst Int64 doch einen viel größeren positiven Wertebereich als Cardinal, oder :gruebel:

Code:

Int64       Cardinal
--------    --------
2^(64-1) >> 2^(32)

MfG,
Bug

[Chemiker]

Hallo BUG,

das schon, aber es bringt in dem Fall nichts, weil alle Zahlen größer 20 nicht mehr in einem 32-Bit-Register dargestellt werden können. Und dem Fall ist meiner Meinung Cardinal der bessere Typ.

Bis bald Chemiker

[mirage228]

Also das verstehe ich noch nicht so ganz. 20! kann mit Cardinal nicht dargestellt werden (Integer Overflow), mit Int64 jedoch schon. Falls Du die übrigen Variablen meinst.... als UpperLimit und die lokale Variable i. Ja, die als Int64 zu machen wäre sinnlos. Da ist ein vorzeichenloser Integer (Cardinal z.B.) besser geeignet.

[Chemiker]

Hallo mirage228,

vergesst am besten was ich geschrieben habe, ich fürchte das lag etwas an dem erhöhten Bierkonsum gestern.

Bis bald Chemiker

[Stevie]

Zitat:

Zitat von Luckie

Ja das stimmt. Es kann natürlich zu einem Stacküberlauf kommen bevor der Wertebereich überwschritten wird. :gruebel:

Imo stimmt da was anderes nicht - wegen einer Rekursionstiefe von etwas über 20 bei einer solch trivialen Funktion fliegt noch lange nicht der Stack auseinander.
Warum löst du eigentlich etwas rekursiv, was auch ganz einfach iterativ möglich ist?

[sirius]

Zitat:

Zitat von Stevie

Imo stimmt da was anderes nicht - wegen einer Rekursionstiefe von etwas über 20 bei einer solch trivialen Funktion fliegt noch lange nicht der Stack auseinander.

Das liegt wohl daran, dass Luckie die Bereichsüberprüfung ausgeschaltelt hat. Dann gibt er eine schöne große Zahl ein. Hat x Rekursionsaufrufe, Result stimmt schon lange nicht mehr (wegen Überlauf) und dann kommt sein Fehler.

[Luckie]

Jupp, die Bereichsprüfung ist abgeschaltet. Ich denke da nie dran, weil die standardmäßig nicht aktiviert ist.