AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

Genaugkeit von Fließkommazahlen

Ein Thema von sarte · begonnen am 31. Mai 2010 · letzter Beitrag vom 31. Mai 2010
Antwort Antwort
Seite 2 von 2     12   
Benutzerbild von Neutral General
Neutral General

Registriert seit: 16. Jan 2004
Ort: Bendorf
5.219 Beiträge
 
Delphi 10.2 Tokyo Professional
 
#11

Re: Genaugkeit von Fließkommazahlen

  Alt 31. Mai 2010, 17:46
Klar geht das. Aber man muss sich die (einzelnen) Stellen halt zwischendrin abspeichern und Stelle für Stelle berechnen. Das passt halt in keinen einzelnen Datentyp.
Michael
"Programmers talk about software development on weekends, vacations, and over meals not because they lack imagination,
but because their imagination reveals worlds that others cannot see."
  Mit Zitat antworten Zitat
sarte

Registriert seit: 23. Mai 2008
Ort: Australien
66 Beiträge
 
Delphi 7 Enterprise
 
#12

Re: Genaugkeit von Fließkommazahlen

  Alt 31. Mai 2010, 18:28
Gehe ich denn recht in der Annahme, dass der Datentyp Extended 79 Bit hat (1 Vorzeichenbit + 63 Bit Matisse + 15 Bit Exponent) und somit eine Genauigkeit von 19 Stellen?
  Mit Zitat antworten Zitat
Benutzerbild von Neutral General
Neutral General

Registriert seit: 16. Jan 2004
Ort: Bendorf
5.219 Beiträge
 
Delphi 10.2 Tokyo Professional
 
#13

Re: Genaugkeit von Fließkommazahlen

  Alt 31. Mai 2010, 18:31
Der Datentyp Extended ist 10 Bit groß
Michael
"Programmers talk about software development on weekends, vacations, and over meals not because they lack imagination,
but because their imagination reveals worlds that others cannot see."
  Mit Zitat antworten Zitat
Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.184 Beiträge
 
Delphi 12 Athens
 
#14

Re: Genaugkeit von Fließkommazahlen

  Alt 31. Mai 2010, 18:38
jupp

PS: Die Verteilung von Mantisse und Basis ist auch so ausgelegt, daß die 18-19 Dezimalstellen gerade so in einen Int64 reinpassen.
$2B or not $2B
  Mit Zitat antworten Zitat
Taggs

Registriert seit: 20. Nov 2009
8 Beiträge
 
#15

Re: Genaugkeit von Fließkommazahlen

  Alt 31. Mai 2010, 18:59
Zitat von Neutral General:
Der Datentyp Extended ist 10 Bit groß
Ich glaube du meinst 10 Byte / 80 Bit, oder?
  Mit Zitat antworten Zitat
Benutzerbild von Neutral General
Neutral General

Registriert seit: 16. Jan 2004
Ort: Bendorf
5.219 Beiträge
 
Delphi 10.2 Tokyo Professional
 
#16

Re: Genaugkeit von Fließkommazahlen

  Alt 31. Mai 2010, 18:59
Oh ja. Du hast Recht.
Michael
"Programmers talk about software development on weekends, vacations, and over meals not because they lack imagination,
but because their imagination reveals worlds that others cannot see."
  Mit Zitat antworten Zitat
Antwort Antwort
Seite 2 von 2     12   


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 08:00 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz