Einzelnen Beitrag anzeigen

rabatscher

Registriert seit: 13. Dez 2007
Ort: Bruck an der Mur
69 Beiträge
 
#3

AW: FormatFloat 32bit / 64bit

  Alt 23. Apr 2024, 14:17
Soweit ich weiss wird ein Variant als "Extended" Datentyp abgespeichert.

Das ist in Win32 10Byte extended und in Win64 wird dieser in ein Double (8Byte) gemappt.

-> daher wird es definitiv unterschiede geben, da auch die interne Darstellung der Zahl anders ist.

zur Info: Win64 baut vor allem auf SSE Befehle auf, die alle bis max double funktionieren, während
Win32 die "alte" FPU benutzt.

Eventuell kann es helfen, die Win32 Genauigkeit von 10Byte Extended auf 8 Byte herunterzusetzen (keine Ahnung obs funktioniert...):

procedure SetDoublePrecission;
var fpuCtrlWord: word;
begin
// set only double precission for compatibility
fpuCtrlWord := Get8087CW;
// set bits 8 and 9 to "10" -> double precission calculation instead of extended!
fpuCtrlWord := fpuCtrlWord or $0300;
fpuCtrlWord := fpuCtrlWord and $FEFF;
Set8087CW(fpuCtrlWord);
end;
  Mit Zitat antworten Zitat