Thema: Delphi Rundungs problem?

Einzelnen Beitrag anzeigen

EWeiss
(Gast)

n/a Beiträge
 
#7

AW: Rundungs problem?

  Alt 1. Jun 2017, 20:02
Hallo A.Weiss

deine Funktion "Berechne Farbwert'" hängt ja von 2 Parametern Alpha und Farbwert ab.

Wenn die Werte von Alpha und Farbwert in [0..255] liegen, dann schreib doch rasch eine Routine

for Alpha := 0 to 255 do
for FarbWert := 0 to 255 do...

und berechne Farbwert' einerseits nach deiner alten "float basierten Version" und andererseits nach deinen beiden neuen "int Versionen" und vergleiche die Resultate.

Dann weisst du ganz genau was Sache ist.
Danke das habe ich ja gemacht.

bitmap: 4096x4096
elapsed: 2763 bei Verwendung von single.
elapsed: 627 und ULong.

es geht mir darum ob nun eine Rundungsfehler auftreten kann oder nicht..
Ich konnte keinen ausmachen aber es wird mir so im C++ Forum berichtet
Nun wem oder was soll man nun glauben.

Also unter C++ soll er auftreten und in Delphi nach meinen Tests aber nicht.
Was stimmt denn nun.

gruss
  Mit Zitat antworten Zitat