Thema: Delphi Rundungs problem?

Einzelnen Beitrag anzeigen

EWeiss
(Gast)

n/a Beiträge
 
#3

AW: Rundungs problem?

  Alt 1. Jun 2017, 18:41
Zitat:
je mehr, um so größer rgbReserved ist, bei beiden Versionen, aber kleiner, bei großem Multiplikator, also ja ... die 2.
Wenn ich dich richtig verstehe die 2. Version mit Shift 16 verwenden.
Die shift 8 könnte also ein Rundungs Problem generieren?

Zitat:
Aber warum das "gerundete" Zwischenergebnis und nicht gleich direkt gerechnet?
auf was beziehst du das bei welchen der 3 Varianten. ?

Danke.

gruss
  Mit Zitat antworten Zitat