Datentypen und Genauigkeitsverluste?

[tralala]

Hallo zusammen,

ich habe folgenden Code

px:= width / (lp1-lp2); Die Variablen px, lp1 und lp2 sind vom Typ Double. width ist vom Typ Integer. Wäre es besser width
vorher in ein Double umzuwandeln um höhere Genauigkeit zu erzielen?

mfg

[p80286]

Das muß nicht sein, das übernimmt Delphi für Dich.
Nur frage ich mich was Du unter Genauigkeit verstehst.
ggf. solltest Du Dir für Deine Ansprüche eine Math. Bibliothek zulegen?

Gruß
K-H

[tralala]

Wandelt der Compiler den integer in

1024 oder korrekt in 1024.0 um? Es geht um Nachkommaverluste auf die 8 Stelle

mfg

[mkinzler]

Genaugenommen in 0.16E48

[tralala]

@markus

danke für deine Antwort, nur nutzt sie mir leider nichts. Ich komme aus dem java umfeld und dort führt
es zu großen Ungenauigkeiten wenn man z.B. 2 * 2,5 berechnen möchte und die 2 nicht als 2.0 schreibt.
Es kommt dadurch zu großen Fehlern weil der Nachkommateil bei der Berechnung nicht einbezogen wird.

mfg

[nahpets]

Zitat von tralala:

@markus

danke für deine Antwort, nur nutzt sie mir leider nichts. Ich komme aus dem java umfeld und dort führt
es zu großen Ungenauigkeiten wenn man z.B. 2 * 2,5 berechnen möchte und die 2 nicht als 2.0 schreibt.
Es kommt dadurch zu großen Fehlern weil der Nachkommateil bei der Berechnung nicht einbezogen wird.

mfg

Dieser Effekt ist mir unter Delphi nicht bekannt.

[Amateurprofi]

Zitat von tralala:

Wandelt der Compiler den integer in
1024 oder korrekt in 1024.0 um? Es geht um Nachkommaverluste auf die 8 Stelle
mfg

Zitat von mkinzler:

Genaugenommen in 0.16E48

Das wären dann 160000000000000000000000000000000000000000000000 ????

Genau genommen ist es so, dass die Double Werte mit FLD xx und der Integerwert mit FILD xx in die FPU geladen werden und dort mit der Genauigkeit der FPU (80 Bit, davon 64 Mantisse, 15 Exponent, 1 Vorzeichen) verarbeitet werden.

[himitsu]

Double hat 15–16 signifikante Stellen, demnach kann man, unabhängig vom möglichen Wertebereich (5.0 * 10^-324 bis 1.7 * 10^+308) auf jeden Fall 15 aufeinanderfolgende Dezimalstellen definitiv/sicher verwenden.
Bei 8 Nachkommastellen also noch 7 Vorkommastellen (15-8=7) ... -9999999.99999999 bis +9999999.99999999

[Furtbichler]

Wie es bei Java ist, weiß ich nicht, aber bei SQL werden zumindest explizite Datentypen nicht konvertiert.

SQL-Code:

select cast (1 as int)/2
--versus
select myIntField/2 from myTable
-- versus
select 1/2

Bei den ersten beiden Varianten muss eine explizite Typkonvertierung vorgenommen werden, um zum gewünschten Ergebnis zu kommen.

Sicherheitshalber sollten Konstanten stehts als Gleitkomma geschrieben werden, also:

SQL-Code:

select cast (1 as int)/2.0
--versus
select myIntField/2.0 from myTable
-- versus
select 1.0/2.0 -- Hier eigentlich nicht nötig

Vielleicht meint er das.

Wie schon erwähnt: In Delphi ist-das-nicht-n-ö-t-i-g