Delphi-PRAXiS
Seite 2 von 2     12   
40 Beiträge dieses Themas auf einer Seite anzeigen

Delphi-PRAXiS (https://www.delphipraxis.net/forum.php)
-   Klatsch und Tratsch (https://www.delphipraxis.net/34-klatsch-und-tratsch/)
-   -   Windows-Taschenrechner-Problem (https://www.delphipraxis.net/160544-windows-taschenrechner-problem.html)

himitsu 18. Mai 2011 18:36
AW: Windows-Taschenrechner-Problem
 
vielleicht rundet das Arbeits-Blackberry einfach nur noch schlechter.
bei weniger als 19 (oder 39) Nachkommastellen kommt beim Windowstaschenrechner auch wieder 0 raus.

Win7 + Standardansicht = -1,068281969439142e-19 = -0,0000000000000000001068
Win7 + wissenschaftliche Ansicht = -8,1648465955514287168521180122928e-39 = -0,00000000000000000000000000000000000000816

Als Ergebnis einer Wurzelberechnung und mit den Rundungsproblemen der binären Zahlen ist das doch schon recht OK.

Jumpy 18. Mai 2011 20:21
AW: Windows-Taschenrechner-Problem
 
Zitat:
Zitat von Coffeecoder (Beitrag 1101589)
Mathematisch gesehen ergibt: sqrt(4) - 2 = 2 - 2 = 0.
Damit seid ihr alle einverstanden!
Nur um mal Klugzuscheißen:
Mathematisch gesehen ergibt: sqrt(4) +/- 2 :wink:


Alle Zeitangaben in WEZ +1. Es ist jetzt 02:14 Uhr.
Seite 2 von 2     12   
40 Beiträge dieses Themas auf einer Seite anzeigen

Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz