Thema: FloatToStrF

Einzelnen Beitrag anzeigen

Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.184 Beiträge
 
Delphi 12 Athens
 
#3

AW: FloatToStrF

  Alt 11. Aug 2011, 15:27
Es geht nicht mehr.

Die Anzeige (bei FloatToStr, Format und Co.) wird über einen Int64 berechnet und da passen nunmal nur bis zu 18 Dezimalstellen rein.
(teilweise auch 19, solange die höchste Dezimalzahl <= 2 ist).

immerhin hat die zahl nur 4 significant Digits
Das schon, aber hier zählen die "sichtbaren" Dezimalstellen.

PS: es sind zwar 4 signifikante Dezimalstellen,
aber intern wird binär gerechnet und da sieht es ein klein bissl anders aus.



Fazit: selber berechnen/ausgeben
$2B or not $2B

Geändert von himitsu (11. Aug 2011 um 15:34 Uhr)
  Mit Zitat antworten Zitat