Einzelnen Beitrag anzeigen

Maximus

Registriert seit: 26. Okt 2003
169 Beiträge
 
#6

Re: Überlauf bei Fließkommoperation

  Alt 12. Apr 2005, 17:56
So bis her bin ich zu dem Ergebniss gekommen das er abschmiert weil Vx bzw. Vy zu groß werden.
Mein Programm hat Werte für Vx/Vy ausgespuckt in ca. der größenordnung 5,6894^*10^4600 (5,6894E4600 - E beudeutet doch hoffentlich auch *10^)

Wenn diese dan in der Formel ax = k*vx² auch noch quadriert werden dan überschreitet das natürlich den Extended Bereich
(Extended: 3.4 x 10^-4932 .. 1.1 x 10^4932)

So der Fehler ist gefunden, doch wie kann ich ihn beheben?

*angestrengt nachdenkt*

MFG
Maximus
  Mit Zitat antworten Zitat