Zahlenvergleich vom Typ Real

[jus]

Oder du nimmst gleich Ganzzahltyp Int64 oder so, falls dein Zahlenbereich es zu läßt. Ich hatte vor einigen Jahren mal ein Projekt gehabt, wo ich die Gesamtsumme von den gekauften Aktien(mit 4-stellige Kommazahlen) ausrechnen mußte, also eigentlich eine simple Aufgabe und bin auch auf das Problem gestossen, dass die Gleitkommadarstellung bei einigen Zahlen nicht genau arbeiten, wenn man exakt vergleicht. Habe einfach alles mit 10000 multipliziert, da es sich bei mir um 4-stellige Kommazahlen gehandelt haben, und den Vergleich mit Int64 gemacht.

lg,
jus

[himitsu]

Zitat von Sidi61:

verstehe ich jetzt nicht

Rundungsfehler bei Division ja, aber bei Addition??

Weil Fließkommatypen eben per se bereits aus Multiplikationen/Divisionen bestehen.

http://docwiki.embarcadero.com/RADSt...)#Reelle_Typen

Zitat von jus:

Oder du nimmst gleich Ganzzahltyp Int64 oder so, ...

Rate mal was ein Currency ist.
Das ist ein Int64, wo die letzten 4 Dezimalstellen als Nachkomma genutzt werden, also /10000 .

Wenn du das selber mit einem Int64 machst, mußt du z.B. bei Multiplikationen und Divisionen aufpassen, dass danach die Nachkommastellen stimmen. Ebenso mußt du bei Multiplikation mit Überläufen aufpassen.

[jus]

Zitat von himitsu:

...

Zitat von jus:

Oder du nimmst gleich Ganzzahltyp Int64 oder so, ...

Rate mal was ein Currency ist.
Das ist ein Int64, wo die letzten 4 Dezimalstellen als Nachkomma genutzt werden, also /10000 .

Wenn du das selber mit einem Int64 machst, mußt du z.B. bei Multiplikationen und Divisionen aufpassen, dass danach die Nachkommastellen stimmen. Ebenso mußt du bei Multiplikation mit Überläufen aufpassen.

Ok, wenn Currency es genauso macht, ist es ja gut, muß ich gestehen, hatte ich nicht gewußt. Ich hatte damals nur Multiplikationen Kommazahl mit Ganzzahl gebraucht. Mir ist es damals auch nur deswegen aufgefallen, weil mein Algorithmus nur bei bestimmten Zahlen abgestürzt ist.

lg,
jus