"invalid floating point operation" finde den Fehler nicht

[p80286]

Zitat von St0rmhunter:

@DeddyH

Zitat:

Bist Du einmal durchgesteppt und hast Dir die aktuellen Variableninhalte einmal angesehen?

Mit durchsteppen hast du bestimmt das mit F7 gemeint, also den nächsten Befehl immer erst nach F7 ausführen oder? Wenn ja ... das klappt bei mir irgendwie nicht

irgendwie?
was klappt denn da nicht? gibt es eine Fehlermeldung?
vllt hilft es unter den Projektoptionen / Compiler dem Debugger auf die Sprünge zu helfen?

Zitat von St0rmhunter:

Dann wo denkst du denn sind Zwischenvariablen angebracht? Wüsste nicht wo es hilfreich wäre oder nützlich wäre.
Und zu der Idee mit der minimalen Fehlerbehandlung, sry aber ich weiß nicht was du damit meinst?

Hier z.B.
for j:=2 to strtoint(edit3.text) do

Delphi-Quellcode:

maxj:=strtoint(edit3.text);
if maxj<2 then showmessage('vertan');
for j:=2 to maxj do

Zitat:

strtoint(edit2.text) // Division durch 0

Auch ist die Division durch 0 nicht "möglich" weil in edit2 nur positive Zahlen geschrieben werden sollen. Klar wenn der Nutzer 0 reinschreibt isses ne Division durch 0, aber normalerweise stehen da nur positive Zahlen im Feld.
[/QUOTE]

"normalerweise" ist nicht das gleiche wie NIE!

Normalerweise scheint im Sommer die Sonne und es ist warm (die Frage ist nur wo, und warm ist ziemlich relativ )

Gruß
K-H

[Bummi]

sorry für meinen Extendedlapsus
die Grenze für Trunc liegt bei 9223372036854775807 = 2^63 - 1 , ab genau welcher Version auch für Int64 implementiert wurde weiß ich allerdings nicht

[Bjoerk]

So ist es.

Das wird nicht compiliert:

Delphi-Quellcode:

  ShowMessage (FloatToStr(Trunc(High(Int64)+1)));
  ShowMessage (FloatToStr(Int(High(Int64)+1)));

[St0rmhunter]

Ok danke für die Tipps mit den Showmessages =)

Das mit F7 funktioniert einfach nicht, ich kann f7 drücke oder übers menu gehen und es passiert einfach nichts, das meinte ich mit funktioniert irgendwie nicht ^^

So der Fehler wird dann bei Trunc( liegen, da meine zahlen meistens viel größer sind wie z.B. 142^23 oder ähnlich groß.
Hätte jemand eine Idee wie ich denn bei so großen Zahlen den Rest berechnen kann? Der Windows Rechner kanns ja

Für Trunc( sind die Zahlen zu groß mod ist nicht für Extended ...
Hätte keine Idee mehr, einer von euch?

Aber soweit schonmal danke für eure Hilfe

[Bummi]

Um mit F7 steppen zu können muß Du im Code vorher Breakpoints setzen, F5 oder Mausklick links neben dem Quelltext, wenn Du XE verwendest nicht über den grünen Pfeil, sondern über den grünen Pfeil mit Käfer starten.

Theoretisch gäbe es die Funktion Frac aus der Unit Math, die taugt aber für derart große Zahlen auch nicht mehr.

Gegf. arbeitest Du Dich da mal ein:

http://www.delphi-forum.de/viewtopic...hlight=bignum2

[gammatester]

Ohne Angaben, was Du eigentlich berechnen willst, kann man nur spekulieren. Einiges scheint doch ohne nähere Angaben verbesserungwürdig.

Wenn Du Fließkomma rechnest, wozu der Zwischenschritt über integer, d.h. warum nimmst Du trunc und nicht floor aus der Math-Unit?

Wenn Du als eigentliches Ziel allerdings wirklich zB 142^23 mod 997 berechnen willst, ist Dein Ansatz ziemlich daneben. Nehmen wir an, Du willst b^a mod m berechnen, mit Integerwerten a,b,m. Wenn Du schon a^b in einer Schleife durch Ausmultiplizieren potenzieren und nicht mit schneller Exponentation berechnen willst, reduzierst Du in jedem Schritt mod also

Delphi-Quellcode:

r := b;
for i:=2 to a do begin
  r := r*b mod m;
end;

Wenn Du allerdings nicht Integer sondern Fließkomma rechnen willst, ist eine Lösung

Delphi-Quellcode:

r := power(b,a);
r := r - floor(r/m);

[Bjoerk]

Zitat von St0rmhunter:

Ok danke für die Tipps mit den Showmessages =)

Das mit F7 funktioniert einfach nicht, ich kann f7 drücke oder übers menu gehen und es passiert einfach nichts, das meinte ich mit funktioniert irgendwie nicht ^^

So der Fehler wird dann bei Trunc( liegen, da meine zahlen meistens viel größer sind wie z.B. 142^23 oder ähnlich groß.
Hätte jemand eine Idee wie ich denn bei so großen Zahlen den Rest berechnen kann? Der Windows Rechner kanns ja

Für Trunc( sind die Zahlen zu groß mod ist nicht für Extended ...
Hätte keine Idee mehr, einer von euch?

Aber soweit schonmal danke für eure Hilfe

Sieht nach RSA-Verschlüsselung aus. Probier mal so:

Delphi-Quellcode:

implementation

{$Q+}

function PowerAndMod(A, E, M: int64): int64;
begin
  if (A > MaxInt) or (E > MaxInt) then
    raise Exception.Create('int64 Overflow');
  Result:= 1;
  try
    while E > 0 do
      if E mod 2 <> 0 then
      begin
        Result:= (Result*A) mod M;
        E:= E-1;
      end
      else
      begin
        A:= (A*A) mod M;
        E:= E div 2;
      end;
  except
    raise Exception.Create('int64 Overflow');
  end;
end;

[St0rmhunter]

So vielen Dank an alle Helfer, war noch Unterwegs in letzter Zeit und hatte keine Zeit für die Programmierung des Programms.

Die Lösung von Gammatester war genau das was ich brauchte jetzt funktioniert endlich auch alles =)

Delphi-Quellcode:

r := b;
for i:=2 to a do begin
  r := r*b mod m;
end;

Nochmal ein großes Danke an alle Helfer, dieses tollen Forums