AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Sprachen und Entwicklungsumgebungen Object-Pascal / Delphi-Language Delphi Problem mit Extended und 13 Nachkommastellen?
Thema durchsuchen
Ansicht
Themen-Optionen

Problem mit Extended und 13 Nachkommastellen?

Ein Thema von hitzi · begonnen am 31. Jan 2010 · letzter Beitrag vom 31. Jan 2010
Antwort Antwort
Benutzerbild von hitzi
hitzi

Registriert seit: 2. Jan 2003
Ort: Eibau
768 Beiträge
 
Delphi 2010 Professional
 
#1

Problem mit Extended und 13 Nachkommastellen?

  Alt 31. Jan 2010, 14:35
Hallo,

laut Hilfe müsste der Datentyp Extended doch bis zu 20 Stellen verarbeiten können. Wenn ich allerdings einer Extended Variabel zum Beispiel den Wert 46,3622360229492 zuweise, steht danach nur der Wert 46,362236023 in der Variabel. Woran liegt das? Gibt es eine Möglichkeit Zahlen mit dieser Genauigkeit zu benutzen?

Viele Grüße
Thomas
Besucht doch mal http://www.hitziger.net
  Mit Zitat antworten Zitat
Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.184 Beiträge
 
Delphi 12 Athens
 
#2

Re: Problem mit Extended und 13 Nachkommastellen?

  Alt 31. Jan 2010, 14:43
Sicher, daß da nicht mehr drinstehn?

Wo hast'e dir diesen Wert den anzeigen lassen?
$2B or not $2B
  Mit Zitat antworten Zitat
Benutzerbild von hitzi
hitzi

Registriert seit: 2. Jan 2003
Ort: Eibau
768 Beiträge
 
Delphi 2010 Professional
 
#3

Re: Problem mit Extended und 13 Nachkommastellen?

  Alt 31. Jan 2010, 14:46
Weiß nicht, wie das Dingens richtig heißt, deshalb erklär ich's mal.
Ich hab einen Breakpoint nach der Zuweisung gesetzt und bin dann mit der Maus über die Variable gegangen. Dann kann man sich ja den Inhalt der Variable anzeigen lassen.
Thomas
Besucht doch mal http://www.hitziger.net
  Mit Zitat antworten Zitat
mkinzler
(Moderator)

Registriert seit: 9. Dez 2005
Ort: Heilbronn
39.861 Beiträge
 
Delphi 11 Alexandria
 
#4

Re: Problem mit Extended und 13 Nachkommastellen?

  Alt 31. Jan 2010, 14:48
Möglichweise wird im Debugger kein Extended verwendet. Lass die mal den Wert im Programm anzeigen.
Extended sollte eine 19 stellige Genauigkeit aufweisen
Markus Kinzler
  Mit Zitat antworten Zitat
Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.184 Beiträge
 
Delphi 12 Athens
 
#5

Re: Problem mit Extended und 13 Nachkommastellen?

  Alt 31. Jan 2010, 14:50
Jupp, der Debugger zeigt nur als Double an.

Delphi-Quellcode:
var
  X: Extended;
begin
  X := 46.3622360229492;
  Edit1.Text := Format('%.18n', [X]);
$2B or not $2B
  Mit Zitat antworten Zitat
Benutzerbild von hitzi
hitzi

Registriert seit: 2. Jan 2003
Ort: Eibau
768 Beiträge
 
Delphi 2010 Professional
 
#6

Re: Problem mit Extended und 13 Nachkommastellen?

  Alt 31. Jan 2010, 15:08
Oha ... da kann ich ja lange Suchen Danke für den Hinweis.
Thomas
Besucht doch mal http://www.hitziger.net
  Mit Zitat antworten Zitat
Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.184 Beiträge
 
Delphi 12 Athens
 
#7

Re: Problem mit Extended und 13 Nachkommastellen?

  Alt 31. Jan 2010, 16:43
Schon gehört?
Mit der nächsten Delphi-Compilerversion soll Extended verschwinden ... Was machen wir dann, wenn uns Double zu klein ist?
$2B or not $2B
  Mit Zitat antworten Zitat
mkinzler
(Moderator)

Registriert seit: 9. Dez 2005
Ort: Heilbronn
39.861 Beiträge
 
Delphi 11 Alexandria
 
#8

Re: Problem mit Extended und 13 Nachkommastellen?

  Alt 31. Jan 2010, 16:46
Ich nehme an dass dann Double auch "breiter" sein wird
Markus Kinzler
  Mit Zitat antworten Zitat
Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.184 Beiträge
 
Delphi 12 Athens
 
#9

Re: Problem mit Extended und 13 Nachkommastellen?

  Alt 31. Jan 2010, 17:04
Nee, ich glaub die FPU hat sich in den 64-Bit-CPUs nicht verändert, also müßte das dann doch gleich bleiben?
$2B or not $2B
  Mit Zitat antworten Zitat
Antwort Antwort


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 08:12 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz