"Ungueltige Gleitkommaoperation" bei Round

[MrAtoZ]

Moin moin,

ich versuche eine große Gleitkommazahl (128^107 / 187) mittels Round zukürzen,

Delphi-Quellcode:

//tmp,i sind vom Typ Extended
tmp:=Round(i / n);

bekomme aber immer die Fehlermeldung:

Zitat:

"Im Projekt ...ist eine Exception der Klasse EInvalidOP aufgetreten. Meldung 'Ungültige Gleitkommaoperation'....blablaaa"

Kann mir einer von euch vllt sagen was ich da machen kann!?

gruss
Mr.AtoZ

[fLaSh11]

Warum rundest du eine Gleitkommazahl und speicherst das Ergebnis des Rundens wieder in eine Variable vom Typen Extended?

[kolbaschedder]

Hallo,

Bei der Berechnung von 128^107 landet man irgendwo im Bereich 2^225. Geteilt durch 187 ändert daran auch nicht viel. round liefert einen int64 zurück. Dessen Gültigkeitsbereich liegt irgendwo bei 2^63. Das Ergebnis deiner Berechnung liegt also weit ausserhalb eines int64.
Leider fällt mir gerade auch keine Funktion ein, welche einen Extended-Typ rundet. Ausserdem würde er sowieso das korrekte Ergebnis nicht speichern können.

MfG

Kolbi

[fLaSh11]

Wenn du das ganze als wissenschaftliche Zahl (z.B. 1,9*10^1990) vorliegen hast, dann müsste das wie folgt gehen: (einfach Basis und Expo getrennt behandeln)

Delphi-Quellcode:

var
  b: extended; //Basis
  e: integer;  // Exponent
  n: integer; //Teiler
  x: integer;
  h: string;
begin
  b := 1.9;
  e := 1990;
  n := 187;

  //(b*10^e / n)
  h := IntToStr(n);
  x := Length(h) - 1;
  h := h[1]+','+Copy(h,2,Length(h));

  e := e - x;
  b := b / StrToFloat(h);
end;

Achtung: Das hab ich mir jetzt grad so ausgedacht, theoretisch müsste es aber funktionieren. Die Zahl muss in wissenschaftlicher schreibweise sein.

//Edit: b kannste dann nach belieben runden!

[MrAtoZ]

danke schon mal für die Hilfe aber so wirklich wars das noch nicht.

Zitat:

Warum rundest du eine Gleitkommazahl und speicherst das Ergebnis des Rundens wieder in eine Variable vom Typen Extended?

Warum nach tmp...weil sie da war und es so anschaulicher ist.

Also ich mache das weil es die MOD-Funktion leider nicht mit Gleitkommazahlen geht. Daher bereche ich den REST so:

(i^r) / s -> (53^3) / 187 = 796,13368983957219251336898395722

Nehme nur den Teil vor dem Komma und Multipliziere ihn mit s, Ziehe die Summe dann von 53^3 ab und bekomme so den Rest

-> 53^3 - (796*187) = 148877 -148852 = 25 = 53^3 MOD 187

Was ja alles kein Problem ist solange der Exponent klein ist. Zum Testen rechne ich quasi 128^107 MOD 187 was 82 ergebensoll.