"invalid floating point operation" finde den Fehler nicht

[Bummi]

sorry für meinen Extendedlapsus
die Grenze für Trunc liegt bei 9223372036854775807 = 2^63 - 1 , ab genau welcher Version auch für Int64 implementiert wurde weiß ich allerdings nicht

[Bjoerk]

So ist es.

Das wird nicht compiliert:

Delphi-Quellcode:

  ShowMessage (FloatToStr(Trunc(High(Int64)+1)));
  ShowMessage (FloatToStr(Int(High(Int64)+1)));

[St0rmhunter]

Ok danke für die Tipps mit den Showmessages =)

Das mit F7 funktioniert einfach nicht, ich kann f7 drücke oder übers menu gehen und es passiert einfach nichts, das meinte ich mit funktioniert irgendwie nicht ^^

So der Fehler wird dann bei Trunc( liegen, da meine zahlen meistens viel größer sind wie z.B. 142^23 oder ähnlich groß.
Hätte jemand eine Idee wie ich denn bei so großen Zahlen den Rest berechnen kann? Der Windows Rechner kanns ja

Für Trunc( sind die Zahlen zu groß mod ist nicht für Extended ...
Hätte keine Idee mehr, einer von euch?

Aber soweit schonmal danke für eure Hilfe

[Bummi]

Um mit F7 steppen zu können muß Du im Code vorher Breakpoints setzen, F5 oder Mausklick links neben dem Quelltext, wenn Du XE verwendest nicht über den grünen Pfeil, sondern über den grünen Pfeil mit Käfer starten.

Theoretisch gäbe es die Funktion Frac aus der Unit Math, die taugt aber für derart große Zahlen auch nicht mehr.

Gegf. arbeitest Du Dich da mal ein:

http://www.delphi-forum.de/viewtopic...hlight=bignum2

[gammatester]

Ohne Angaben, was Du eigentlich berechnen willst, kann man nur spekulieren. Einiges scheint doch ohne nähere Angaben verbesserungwürdig.

Wenn Du Fließkomma rechnest, wozu der Zwischenschritt über integer, d.h. warum nimmst Du trunc und nicht floor aus der Math-Unit?

Wenn Du als eigentliches Ziel allerdings wirklich zB 142^23 mod 997 berechnen willst, ist Dein Ansatz ziemlich daneben. Nehmen wir an, Du willst b^a mod m berechnen, mit Integerwerten a,b,m. Wenn Du schon a^b in einer Schleife durch Ausmultiplizieren potenzieren und nicht mit schneller Exponentation berechnen willst, reduzierst Du in jedem Schritt mod also

Delphi-Quellcode:

r := b;
for i:=2 to a do begin
  r := r*b mod m;
end;

Wenn Du allerdings nicht Integer sondern Fließkomma rechnen willst, ist eine Lösung

Delphi-Quellcode:

r := power(b,a);
r := r - floor(r/m);

[Bjoerk]

Zitat von St0rmhunter:

Ok danke für die Tipps mit den Showmessages =)

Das mit F7 funktioniert einfach nicht, ich kann f7 drücke oder übers menu gehen und es passiert einfach nichts, das meinte ich mit funktioniert irgendwie nicht ^^

So der Fehler wird dann bei Trunc( liegen, da meine zahlen meistens viel größer sind wie z.B. 142^23 oder ähnlich groß.
Hätte jemand eine Idee wie ich denn bei so großen Zahlen den Rest berechnen kann? Der Windows Rechner kanns ja

Für Trunc( sind die Zahlen zu groß mod ist nicht für Extended ...
Hätte keine Idee mehr, einer von euch?

Aber soweit schonmal danke für eure Hilfe

Sieht nach RSA-Verschlüsselung aus. Probier mal so:

Delphi-Quellcode:

implementation

{$Q+}

function PowerAndMod(A, E, M: int64): int64;
begin
  if (A > MaxInt) or (E > MaxInt) then
    raise Exception.Create('int64 Overflow');
  Result:= 1;
  try
    while E > 0 do
      if E mod 2 <> 0 then
      begin
        Result:= (Result*A) mod M;
        E:= E-1;
      end
      else
      begin
        A:= (A*A) mod M;
        E:= E div 2;
      end;
  except
    raise Exception.Create('int64 Overflow');
  end;
end;

[St0rmhunter]

So vielen Dank an alle Helfer, war noch Unterwegs in letzter Zeit und hatte keine Zeit für die Programmierung des Programms.

Die Lösung von Gammatester war genau das was ich brauchte jetzt funktioniert endlich auch alles =)

Delphi-Quellcode:

r := b;
for i:=2 to a do begin
  r := r*b mod m;
end;

Nochmal ein großes Danke an alle Helfer, dieses tollen Forums