"Ungueltige Gleitkommaoperation" bei Round

[MrAtoZ]

danke schon mal für die Hilfe aber so wirklich wars das noch nicht.

Zitat:

Warum rundest du eine Gleitkommazahl und speicherst das Ergebnis des Rundens wieder in eine Variable vom Typen Extended?

Warum nach tmp...weil sie da war und es so anschaulicher ist.

Also ich mache das weil es die MOD-Funktion leider nicht mit Gleitkommazahlen geht. Daher bereche ich den REST so:

(i^r) / s -> (53^3) / 187 = 796,13368983957219251336898395722

Nehme nur den Teil vor dem Komma und Multipliziere ihn mit s, Ziehe die Summe dann von 53^3 ab und bekomme so den Rest

-> 53^3 - (796*187) = 148877 -148852 = 25 = 53^3 MOD 187

Was ja alles kein Problem ist solange der Exponent klein ist. Zum Testen rechne ich quasi 128^107 MOD 187 was 82 ergebensoll.