Einzelnen Beitrag anzeigen

Benutzerbild von jfheins
jfheins

Registriert seit: 10. Jun 2004
Ort: Garching (TUM)
4.579 Beiträge
 
#7

AW: 32bit FixedPoint Math und multiplikation mit Kehrwert

  Alt 24. Mai 2012, 12:41
@jfheins: ja für multiplikationen > 0.
das wird nicht funktionieren. Die zahl wird größer, nie kleiner.
Ach so, ja wenn beide Operanden Fixkommazahlen sind klappt das natürlich nicht so einfach... mein Fehler

In dem Fall brauchst du ein 64bit Zwischenergebnis, aber dann klappt das auch ohne Probleme.
  Mit Zitat antworten Zitat