Thema: Delphi Rundungs problem?

Einzelnen Beitrag anzeigen

Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.211 Beiträge
 
Delphi 12 Athens
 
#4

AW: Rundungs problem?

  Alt 1. Jun 2017, 18:49
AlphaCoef ist ein gerundetes Zwischenergebnis.
Bei 16 ist das natürlich größer und somit die Rundung geringer.
Aber die Rundung ist dennoch bei 8 und 16 drin, nur eben nicht gleich groß.


pBits.rgbBlue := (pBits.rgbBlue * 255) div pBits.rgbReserved; = pBits.rgbBlue := MulDiv(pBits.rgbBlue, 255, pBits.rgbReserved);
aber da deine Werte so klein sind, dass es keinen Überlauf gibt, wäre MulDiv egal (unnötig).
$2B or not $2B

Geändert von himitsu ( 1. Jun 2017 um 18:55 Uhr)
  Mit Zitat antworten Zitat