![]() |
Re: int64 * Dezimalzahl - wie geht das?
bei tausenden von stellen dürften 8 geltende ziffern schon eine _SEHR_ große ungenauigkeit machen. (zwar nicht vom relativen fehler her, aber wenn man immer eins hochzählen will, könnte es kritisch werden)
|
Re: int64 * Dezimalzahl - wie geht das?
Das versuchte ich durch meine etwas ketzerische Aussage:
Zitat:
ja deutlich zu machen. Das taugt dann eher für Abschätzungen als für Hochpräzisionsalgebra :zwinker:. Aber je nach dem wie groß die Werte wirklich werden, kann die Genauigkeit ja trotzdem ausreichen. Mehrere tausend, oder auch schon hundert Stellen sind ja eher selten... mann müsste schon "EINE_SEHR_GROSSE_ZAHL * Max(Int64);" rechnen um da überhaupt dran zu kommen. |
Alle Zeitangaben in WEZ +1. Es ist jetzt 23:02 Uhr. |
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz