![]() |
Datentypen und Genauigkeitsverluste?
Hallo zusammen,
ich habe folgenden Code
Delphi-Quellcode:
Die Variablen px, lp1 und lp2 sind vom Typ Double. width ist vom Typ Integer. Wäre es besser width
px:= width / (lp1-lp2);
vorher in ein Double umzuwandeln um höhere Genauigkeit zu erzielen? mfg |
AW: Datentypen und Genauigkeitsverluste?
Das muß nicht sein, das übernimmt Delphi für Dich.
Nur frage ich mich was Du unter Genauigkeit verstehst. ggf. solltest Du Dir für Deine Ansprüche eine Math. Bibliothek zulegen? Gruß K-H |
AW: Datentypen und Genauigkeitsverluste?
Wandelt der Compiler den integer in
1024 oder korrekt in 1024.0 um? Es geht um Nachkommaverluste auf die 8 Stelle mfg |
AW: Datentypen und Genauigkeitsverluste?
Genaugenommen in 0.16E48
|
AW: Datentypen und Genauigkeitsverluste?
@markus
danke für deine Antwort, nur nutzt sie mir leider nichts. Ich komme aus dem java umfeld und dort führt es zu großen Ungenauigkeiten wenn man z.B. 2 * 2,5 berechnen möchte und die 2 nicht als 2.0 schreibt. Es kommt dadurch zu großen Fehlern weil der Nachkommateil bei der Berechnung nicht einbezogen wird. mfg |
AW: Datentypen und Genauigkeitsverluste?
Zitat:
|
AW: Datentypen und Genauigkeitsverluste?
Zitat:
Die Ursache dafür ist, dass in java (und vielen Sprachen, die mit C verwandt sind) der Divisionsoperator überladen ist. Und falls man zwei Integer dividiert kommt eben ein Integer als Ergebnis 'raus. Das ist bei der Multiplikation zwar auch so, macht da aber keine Probleme - denn deine 2,5 sind ja bereits ein float. Und damit wird die ganze Rechnung mit floats durchgeführt! Deshalb ergibt z.B.: 1/120 = 1 1.0/8 = 1/8.0 = 0.125 2*2.5 = 5.0 In Delphi ist der / Operator ausschließlich Gleitkommazahl-Operator - Die Integerdivision geht mit div. Zitat:
|
AW: Datentypen und Genauigkeitsverluste?
@Jfheinz
warum wird dann an vielen Stellen darauf hingewiesen, das man wenn man mit einem Fließkommawert multiplizieren will man z.b. 2.0 anstatt 2 schreiben soll. Der Compiler kann doch nicht richen was gemeint ist? Ich bin da unter Java schonmal böse auf die Nase gefallen. Double:= Double * Double; -> zb. X:= 1,15478 * 2 vs. X:= 1,15478 * 2.0 (2 und 2.0 sind in dem Fall konstanten) mfg |
AW: Datentypen und Genauigkeitsverluste?
Zitat:
Gruß K-H |
AW: Datentypen und Genauigkeitsverluste?
Was genau ist an der Antwort "mit / rechnet Delphi immer mit Double, egal wie die Zahl da steht" noch missverständlich?
|
Alle Zeitangaben in WEZ +1. Es ist jetzt 23:10 Uhr. |
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz