Registriert seit: 31. Mai 2007
129 Beiträge
|
Re: Speichern von Grafiken
7. Mär 2008, 00:34
Wenn es wirklich vom Typ Real ist, ist das schlecht. Du solltest lieber Extended benutzen, da hast du erstens 80bit große Fließkommazahlen (statt nur 48bit wie bei Real), und zweitens ist dieses das native Format des Prozessors.
Mit 80bit Genauigkeit, kannst du dann wesentlich weiter reinzoomen. Aber auch diese Zahlen stoßen irgendwann an ihre Grenzen. Für noch größere Genauigkeit kannst du dir selbst eigene Fließkommazahlen oder Brüche definieren (was beides recht einfach ist), aber die Rechenzeit wächst (vor allem bei letzterer Variante) enorm.
|