Registriert seit: 24. Sep 2010
737 Beiträge
|
AW: 32bit FixedPoint Math und multiplikation mit Kehrwert
24. Mai 2012, 12:18
@jfheins: ja für multiplikationen > 0.
aber mach mal
FixedPointU = (1 shl 16) div FixpointU
FixedPointA * FixedPointU
das wird nicht funktionieren. Die zahl wird größer, nie kleiner.
@shmia wie? einfach die mittigen 32bit rausschnibbeln und als ergebnis nutzen?
Da man Trunc nicht auf einen Integer anwenden kann, muss dieser zuerst in eine Float kopiert werden
|