Einzelnen Beitrag anzeigen

EWeiss
(Gast)

n/a Beiträge
 
#3

AW: Single wert ist unterschiedlich obwohl gleich

  Alt 17. Jun 2018, 22:27
Der Wert für 0.68 als Single ist 0.680000007152557373046875. Also ist er in der DLL richtig.
Wie ist rScale deklariert?
rScale ist natürlich als Single definiert.

Zitat:
Der Ausdruck `rScale > SCALE_DEFAULT` wird je nach Compiler als Double oder Extended ausgewertet
Was muss ich jetzt tun?
Hatte noch nie so ein Problem.

OK habe es selbst herausgefunden. Danke!

Delphi-Quellcode:
const
  SCALE_DEFAULT: single = 0.68;
Noch nie ein ähnliches Problem gehabt.

gruss

Geändert von EWeiss (17. Jun 2018 um 22:39 Uhr)
  Mit Zitat antworten Zitat