Single wert ist unterschiedlich obwohl gleich

[gammatester]

Der Wert für 0.68 als Single ist 0.680000007152557373046875. Also ist er in der DLL richtig.

Wie ist rScale deklariert? Der Ausdruck `rScale > SCALE_DEFAULT` wird je nach Compiler als Double oder Extended ausgewertet.

Speichere die Differenz mal als Single und schau das Ergbenis an.

Wie gesagt: die Auswertung erfolgt mit Double/Extended, hier die Werte für Double

Code:

0.68000000715  -> 0.68000000714999997430965095190913416445255279541015625
0.68           -> 0.68000000000000004884981308350688777863979339599609375

und für Extended

Code:

0.68000000715  -> 0.68000000715000000000524243981558925042918417602777481079102
0.68           -> 0.68000000000000000000650521303491302660404471680521965026855

[EWeiss]

Zitat von gammatester:

Der Wert für 0.68 als Single ist 0.680000007152557373046875. Also ist er in der DLL richtig.
Wie ist rScale deklariert?

rScale ist natürlich als Single definiert.

Zitat:

Der Ausdruck `rScale > SCALE_DEFAULT` wird je nach Compiler als Double oder Extended ausgewertet

Was muss ich jetzt tun?
Hatte noch nie so ein Problem.

OK habe es selbst herausgefunden. Danke!

Delphi-Quellcode:

const
  SCALE_DEFAULT: single = 0.68;

Noch nie ein ähnliches Problem gehabt.

gruss

[gammatester]

Zitat von EWeiss:

Zitat:

Der Ausdruck `rScale > SCALE_DEFAULT` wird je nach Compiler als Double oder Extended ausgewertet

Was muss ich jetzt tun?
Hatte noch nie so ein Problem.

Versuch mal Folgendes:

Delphi-Quellcode:

tmpsingle := rScale - SCALE_DEFAULT;
if tmpsingle > 0 then ...

oder wahrscheinlich besser definiere SCALE_DEFAULT als single

Delphi-Quellcode:

const
  SCALE_DEFAULT: single = 0.68;

[EWeiss]

Zitat von gammatester:

Zitat von EWeiss:

Zitat:

Der Ausdruck `rScale > SCALE_DEFAULT` wird je nach Compiler als Double oder Extended ausgewertet

Was muss ich jetzt tun?
Hatte noch nie so ein Problem.

Versuch mal Folgendes:

Delphi-Quellcode:

tmpsingle := rScale - SCALE_DEFAULT;
if tmpsingle > 0 then ...

Ich habe es so gelöst.. Danke.

Delphi-Quellcode:

const
   SCALE_DEFAULT: single = 0.68;

gruss

[gammatester]

Zitat von EWeiss:

Ich habe es so gelöst.. Danke.

Delphi-Quellcode:

const
   SCALE_DEFAULT: single = 0.68;

gruss

Freut mich zu lesen, mein Edit hatte sich mit Deiner Antwort gekreuzt.

[EWeiss]

Zitat von gammatester:

Zitat von EWeiss:

Ich habe es so gelöst.. Danke.

Delphi-Quellcode:

const
   SCALE_DEFAULT: single = 0.68;

gruss

Freut mich zu lesen, mein Edit hatte sich mit Deiner Antwort gekreuzt.

Macht ja nichts
Danke trotzdem.
Die kleine Abfrage hat bei mir 35% CPU Auslastung verursacht weil es immer true war.

gruss

[jaenicke]

Wenn das an einer Stelle wichtig ist, würde ich immer zusätzlich zum Vergleich IsZero benutzen um mit einem genügend kleinen Epsilon die Gleichheit auszuschließen.