Einzelnen Beitrag anzeigen

Benutzerbild von nailor
nailor

Registriert seit: 12. Dez 2002
Ort: Karlsruhe
1.989 Beiträge
 
#3

Re: Fließkommazahl oder Ganzzahl schneller zu berechnen ?

  Alt 5. Jun 2005, 13:35
im allgemeinen ist beim prozessor (CPU) der integer-teil schneller als die FloatingPoint unit. auf einem 32bit system sollten int16 nicht merklich schneller verarbeitet werden als int32. bei int64 gibt's (gab's) zumindest bei delphi große probleme.
die GPU (also die grafikkarte) ist auf kommazahlen optimiert und fühlt sich im allgemeinen ans bein gepinkelt, wenn man mit integern arbeiten will, also hier genau andersrum als bei der CPU.
Michael N.
http://nailor.devzero.de/code/sharpmath/testing/ --- Tests, Feedback, Anregungen, ... aller Art sehr willkommen!
::: don't try so hard - it'll happen for a reason :::
  Mit Zitat antworten Zitat