Delphi 32bit FixedPoint Math und multiplikation mit Kehrwert

Thema durchsuchen

Ansicht

Themen-Optionen

32bit FixedPoint Math und multiplikation mit Kehrwert

Ein Thema von Memnarch · begonnen am 24. Mai 2012 · letzter Beitrag vom 24. Mai 2012

Vorheriger Beitrag

Nächster Beitrag

Memnarch

Registriert seit: 24. Sep 2010
737 Beiträge

AW: 32bit FixedPoint Math und multiplikation mit Kehrwert

24. Mai 2012, 11:18

@jfheins: ja für multiplikationen > 0.

aber mach mal

FixedPointU = (1 shl 16) div FixpointU

FixedPointA * FixedPointU

das wird nicht funktionieren. Die zahl wird größer, nie kleiner.

@shmia wie? einfach die mittigen 32bit rausschnibbeln und als ergebnis nutzen?

Da man Trunc nicht auf einen Integer anwenden kann, muss dieser zuerst in eine Float kopiert werden