großer extended

[Daniel]

Zitat:

Zitat von theomega

Bei Funktionen wie x hoch 2 und einem x von 350 ist ein extended einfach zu klein.

Also - das kann ich einfach nicht begreifen. 350 ^2 ist doch nichts anderes als 350 * 350. Und das ist nach dem Windows-Taschenrechner genau 122500. Bei Werten dieser Größenordnung gibt es keine Probleme mit dem Datentyp Extended. Wirklich nicht :-).
Selbst wenn wir es umdrehen und 2 ^350 daraus machen, so erhält man 2.3 * 10^105. Und selbst das lässt sich mit dem Datentyp "extended" darstellen. Der Wertebereich laut D6-Hilfe: "3.6 x 10^–4951 .. 1.1 x 10^4932". Das entspricht etwa einer 10 mit 4900 Nullen! Ohne Frage gibt es Anwendungsfälle, in denen man mehr Stellen braucht, aber bei so großen Zahlen werden die Nachkommastellen absolut irrelevant...

Grüße,
Daniel

[theomega]

Ich habe das falsch angesehen, es liegt nicht am extended sondern am paintbox, die hat probleme mit Linien die weit im negativbereich liegen.