Einzelnen Beitrag anzeigen

Benutzerbild von Memnarch
Memnarch

Registriert seit: 24. Sep 2010
737 Beiträge
 
#5

AW: 32bit FixedPoint Math und multiplikation mit Kehrwert

  Alt 24. Mai 2012, 12:18
@jfheins: ja für multiplikationen > 0.

aber mach mal

FixedPointU = (1 shl 16) div FixpointU

FixedPointA * FixedPointU

das wird nicht funktionieren. Die zahl wird größer, nie kleiner.

@shmia wie? einfach die mittigen 32bit rausschnibbeln und als ergebnis nutzen?
Da man Trunc nicht auf einen Integer anwenden kann, muss dieser zuerst in eine Float kopiert werden
  Mit Zitat antworten Zitat