![]() |
Datentypen und Genauigkeitsverluste?
Hallo zusammen,
ich habe folgenden Code
Delphi-Quellcode:
Die Variablen px, lp1 und lp2 sind vom Typ Double. width ist vom Typ Integer. Wäre es besser width
px:= width / (lp1-lp2);
vorher in ein Double umzuwandeln um höhere Genauigkeit zu erzielen? mfg |
AW: Datentypen und Genauigkeitsverluste?
Das muß nicht sein, das übernimmt Delphi für Dich.
Nur frage ich mich was Du unter Genauigkeit verstehst. ggf. solltest Du Dir für Deine Ansprüche eine Math. Bibliothek zulegen? Gruß K-H |
AW: Datentypen und Genauigkeitsverluste?
Wandelt der Compiler den integer in
1024 oder korrekt in 1024.0 um? Es geht um Nachkommaverluste auf die 8 Stelle mfg |
AW: Datentypen und Genauigkeitsverluste?
Genaugenommen in 0.16E48
|
AW: Datentypen und Genauigkeitsverluste?
@markus
danke für deine Antwort, nur nutzt sie mir leider nichts. Ich komme aus dem java umfeld und dort führt es zu großen Ungenauigkeiten wenn man z.B. 2 * 2,5 berechnen möchte und die 2 nicht als 2.0 schreibt. Es kommt dadurch zu großen Fehlern weil der Nachkommateil bei der Berechnung nicht einbezogen wird. mfg |
AW: Datentypen und Genauigkeitsverluste?
Zitat:
|
AW: Datentypen und Genauigkeitsverluste?
Zitat:
Die Ursache dafür ist, dass in java (und vielen Sprachen, die mit C verwandt sind) der Divisionsoperator überladen ist. Und falls man zwei Integer dividiert kommt eben ein Integer als Ergebnis 'raus. Das ist bei der Multiplikation zwar auch so, macht da aber keine Probleme - denn deine 2,5 sind ja bereits ein float. Und damit wird die ganze Rechnung mit floats durchgeführt! Deshalb ergibt z.B.: 1/120 = 1 1.0/8 = 1/8.0 = 0.125 2*2.5 = 5.0 In Delphi ist der / Operator ausschließlich Gleitkommazahl-Operator - Die Integerdivision geht mit div. Zitat:
|
AW: Datentypen und Genauigkeitsverluste?
@Jfheinz
warum wird dann an vielen Stellen darauf hingewiesen, das man wenn man mit einem Fließkommawert multiplizieren will man z.b. 2.0 anstatt 2 schreiben soll. Der Compiler kann doch nicht richen was gemeint ist? Ich bin da unter Java schonmal böse auf die Nase gefallen. Double:= Double * Double; -> zb. X:= 1,15478 * 2 vs. X:= 1,15478 * 2.0 (2 und 2.0 sind in dem Fall konstanten) mfg |
AW: Datentypen und Genauigkeitsverluste?
Zitat:
Gruß K-H |
AW: Datentypen und Genauigkeitsverluste?
Was genau ist an der Antwort "mit / rechnet Delphi immer mit Double, egal wie die Zahl da steht" noch missverständlich?
|
AW: Datentypen und Genauigkeitsverluste?
Zitat:
Grund: Auf der Menge der ganzen Zahlen int kann man Addition, Subtraktion und Multiplikation durchführen, ohne die Menge zu verlassen. Damit das mit der Division auch klappt, muss man das ganze aber auf den Körper der rationalen Zahlen erweitern. (Ganze Zahlen = int, rationale Zahlen = Float) Wenn man also zwei Integer multipliziert, kommt stets eine ganze Zahl raus. Sobald an einer Rechnung in Java ein Float beteiligt ist, wird das Ergebnis der Rechnung ebenfalls ein Float sein. (Und nicht vorher!) Bei deinem Beispiel: Zitat:
Falls du tatsächlich mal auf die Nase gefallen bist, lag es vielleicht gerade an der ![]() |
AW: Datentypen und Genauigkeitsverluste?
@jfheinz
vielleicht ist er ja auch über den Unterschied zwischen Currency und Double gestolpert. Da wird zwar immer wieder darauf hingewiesen, aber oft genug wird Currency als "so 'n neumodisches Zeug" angesehen. Gruß K-H |
AW: Datentypen und Genauigkeitsverluste?
Zitat:
Zitat:
Genau genommen ist es so, dass die Double Werte mit FLD xx und der Integerwert mit FILD xx in die FPU geladen werden und dort mit der Genauigkeit der FPU (80 Bit, davon 64 Mantisse, 15 Exponent, 1 Vorzeichen) verarbeitet werden. |
AW: Datentypen und Genauigkeitsverluste?
Double hat 15–16 signifikante Stellen, demnach kann man, unabhängig vom möglichen Wertebereich (5.0 * 10^-324 bis 1.7 * 10^+308) auf jeden Fall 15 aufeinanderfolgende Dezimalstellen definitiv/sicher verwenden.
Bei 8 Nachkommastellen also noch 7 Vorkommastellen (15-8=7) ... -9999999.99999999 bis +9999999.99999999 |
AW: Datentypen und Genauigkeitsverluste?
Wie es bei Java ist, weiß ich nicht, aber bei SQL werden zumindest explizite Datentypen nicht konvertiert.
SQL-Code:
Bei den ersten beiden Varianten muss eine explizite Typkonvertierung vorgenommen werden, um zum gewünschten Ergebnis zu kommen.
select cast (1 as int)/2
--versus select myIntField/2 from myTable -- versus select 1/2 Sicherheitshalber sollten Konstanten stehts als Gleitkomma geschrieben werden, also:
SQL-Code:
Vielleicht meint er das.
select cast (1 as int)/2.0
--versus select myIntField/2.0 from myTable -- versus select 1.0/2.0 -- Hier eigentlich nicht nötig Wie schon erwähnt: In Delphi ist-das-nicht-n-ö-t-i-g :stupid: |
Alle Zeitangaben in WEZ +1. Es ist jetzt 04:45 Uhr. |
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz