Genauigkeit Extended - Hilfe widerspricht sich

[Cöster]

Hi!

In der Delphi-5-Standard-Hilfe ist angegeben, dass Extended 19-20 signifikante Stellen besitzt. Der Turbo Delphi Explorer schreibt dagegen etwas von 10-20.
Was ist denn nun richtig?

[malo]

In dem Fall würd ich tatsächlich eher auf Turbo Delphi hören. Borland hat das wohl nicht umsonst geändert ;)

[3_of_8]

19-20. Lässt ich leicht nachrechnen.

Extended hat 64 Bit Mantisse. 2^64=1.8*10^19, also ~19 dezimale Stellen.

[malo]

Zitat:

Zitat von 3_of_8

19-20. Lässt ich leicht nachrechnen.

Extended hat 64 Bit Mantisse. 2^64=1.8*10^19, also ~19 dezimale Stellen.

Wikipedia? Signifikante Stellen

Es ging nämlich um die Genauigkeit des Datentyps ;)

[Jonny5K]

Hi,

also bei mir (Delphi 7) sind es 20 Stellen.

Kannst du aber auch einfach Testen:

Delphi-Quellcode:

procedure Test;
var
  ext1, ext2: Extended;
begin
  ext1 := 0.12345678901234567891;//0.123456789012345678901
  ext2 := 0.12345678901234567892;//0.123456789012345678902
  if (ext1 = ext2) then
    showmessage('Gleich! => Weniger als 20 Stellen.')
  else
    showmessage('Ungleich! => Mehr oder 20 Stellen.');
end;

Also wenn ich das so laufen lasse, dann bekomme ich die Meldung "Mehr oder Stellen".
Wenn du die Auskommentierten Zahlen benutzt, sollte der Vergleich true ergeben und es sind dann
weniger als 21 stellen.

Gruß
Jonny

[3_of_8]

Zitat:

Zitat von malo

Zitat:

Zitat von 3_of_8

19-20. Lässt ich leicht nachrechnen.

Extended hat 64 Bit Mantisse. 2^64=1.8*10^19, also ~19 dezimale Stellen.

Wikipedia? Signifikante Stellen

Es ging nämlich um die Genauigkeit des Datentyps ;)

Ähm... und?

Ich weiß, was signifikante Stellen sind. Wenn du es schon so genau nimmst, musst du sagen 0-20 signifikante Stellen, denn die Zahl 0 lässt sich ja auch darstellen. Genauso wie 1, 11, 111, 1111, 11111 usw.