Einzelnen Beitrag anzeigen

Amateurprofi

Registriert seit: 17. Nov 2005
Ort: Hamburg
1.062 Beiträge
 
Delphi XE2 Professional
 
#13

AW: Datentypen und Genauigkeitsverluste?

  Alt 20. Jul 2012, 20:13
Wandelt der Compiler den integer in
1024 oder korrekt in 1024.0 um? Es geht um Nachkommaverluste auf die 8 Stelle
mfg
Genaugenommen in 0.16E48
Das wären dann 160000000000000000000000000000000000000000000000 ????

Genau genommen ist es so, dass die Double Werte mit FLD xx und der Integerwert mit FILD xx in die FPU geladen werden und dort mit der Genauigkeit der FPU (80 Bit, davon 64 Mantisse, 15 Exponent, 1 Vorzeichen) verarbeitet werden.
Gruß, Klaus
Die Titanic wurde von Profis gebaut,
die Arche Noah von einem Amateur.
... Und dieser Beitrag vom Amateurprofi....
  Mit Zitat antworten Zitat