Registriert seit: 12. Jan 2006
45 Beiträge
Delphi 6 Professional
|
Re: Signifikante Stellen
19. Dez 2006, 20:45
ok, aber in der Hilfe wird ja ein Bereich von 11-12 signifikante Stellen angegeben!?
Was mir gerade so auffällt, in der Delphi 6 Hilfe wurden bei den reellen Typen die minus Zeichen
vergessen.
So stehts in der Hilfe:
Typ Bereich
Real48 2.9 x 10^39 .. 1.7 x 10^38
Single 1.5 x 10^45 .. 3.4 x 10^38
Double 5.0 x 10^324 .. 1.7 x 10^308
Extended 3.6 x 10^4951 .. 1.1 x 10^4932
Comp 2^63+1 .. 2^63 1
Currency 922337203685477.5808.. 922337203685477.5807
In einem Buch steht "Genauigkeit" anstatt "signifikante Stellen".
Was heißt den jetzt genau "signifikante Stellen/Genauigkeit von 11-12 Stellen"?
Rechnet Delphi den ungenau nach den 11-12 Stellen? (Real48 hat ja im negativen Bereich 40 Nachkommastellen,
dann müssten ja 28 Stellen ungenau sein?)
|