Einzelnen Beitrag anzeigen

Puhbaehr
(Gast)

n/a Beiträge
 
#7

Re: DirectX 9 - (Verständnis-)Problem mit Pi

  Alt 11. Mai 2006, 13:16
Mmh... verstehe... habe gestern auch bei einem Test gemerkt, dass es an den Fließkommazahlen liegt.

In der Delphi-Hilfe steht, dass der Typ Single 7-8 Stellen aufnehmen kann.
Die Zahl Pi beinhaltet aber 10 Stellen.
Nehme ich für D3DX_PI den Typ Double (dieser kann 15-16 Stellen aufnehmen) wird Pi korrekt dargestellt.
Allerdings bringt mir das nicht viel, denn rechne ich sowie die Units von DirectX anschließend mit Single weiter so wird das Ergebnis wieder nicht korrekt.

Bei einem Kreis, selbst wenn er größer ist, spielt es keine Rolle ob 7 oder 8 Stellen nach dem Komma ungenau sind.
Aber ob es auch keine Rolle spielt wenn ich eine Karte mit (X, Y) = 1000 x 1000 Punkten habe und sich dabei bei jedem Pixel der Wert um 0,000000087 vergrößert... ok, das wären es selbst bei 1000 Punkten nur eine Verschiebung um 0,000087 Punkten. Also werde ich das so hinnehmen.

Vielen Dank für die Hilfe!

Gruß, Robert
  Mit Zitat antworten Zitat