Nachkommastellen von Extended abschneiden um Integer zu erhalten

[dummzeuch]

Zitat von himitsu:

Abgesehn davon, dass Extended "ursprünglich" nie dafür gedacht war von Entwicklern zur Speicherung genutzt zu werden,
weswegen es das anfangs in vielen anderen Sprachen (C++) garnicht gab, bzw. teilweise immernoch nicht gibt.

Merkt man jetzt, dass es in Bezug auf Win64 und Multiplatform (Android/iOS) wieder nicht mehr gibt.

Kann man von der Verwendung von Extended sowieso nur ausdrücklich von abraten.

Das würde aber hier keinen Unterschied machen, da dasselbe Problem auch mit Single oder Double auftritt.

[Uwe Raabe]

Das Problem ist hier eigentlich die Verwendung von Trunc statt Round bzw. RoundTo. Zur internen Darstellung einer Float-Zahl wird die nächstgelegene Zahl verwendet, die mit der aktuellen Auflösung darstellbar ist. In den Fällen, wo das nicht exakt machbar ist, kann die dargestellte Zahl kleiner oder größer als die gewünschte Zahl sein, je nachdem welche näher dran liegt. Bei einer kleineren Zahl liefert ein Trunc dann aber nicht das erwartete Ergebnis.

Leider gibt es kein Allheilmittel für dieses Problem, da es immer von der aktuellen Bedeutung der Zahl und deren Verwendung abhängt. Unter der Annahme, dass eine Genauigkeit von zwei Nachkommastellen ausreicht, kann man ein RoundTo auf die zwei Stellen machen und darauf dann das Trunc loslassen. Alternativ multipliziert man mit 1000, macht ein Round auf Integer mit anschließendem DIV 10. Es gibt viele Wege, aber für alle braucht es etwas Kontext.

[Amateurprofi]

Zitat von himitsu:

Zitat:

+0.5

Bei 0.9 würde dann aber +1 rauskommen.

Trunc(1.9) = 1
Trunc(1.9+0.5) = 2


Aber ja, ein +0.00…001 und dann Trunc, wäre eine mögliche Lösung, allerdings nur, wenn es kleiner ist, als real vorkommende Nachkommastellen.
Oder vielleicht auch ein RoundTo mit einem passenden SetFPURoundMode.
Oder ...

Recht hast Du.
Ausrede für Helden: Es ging um 24.1*10, nicht um 1.9.

[Kostas]

Die Werte die ich über RS232 bekommen sind Strings mit keiner, einer oder zwei Nachkommastellen. Nach dem Empfang werden die sie in einen Array of Record, da es noch weitere Daten pro Datensatz gibt. Das Feld für den Zahlenwert werde ich jetzt vom extended auf Real umstellen. Wie gesagt, die Einzelwerte die ich bekomme sind im Bereich von 0.0 bis 799.99 Maximal können 100 einzelne Werte zusammenaddiert werden. In die Datenbank muss ich dann eh ein Integer speichern. Die Auswertungen können jedoch ohne Nachkommastellen, mit einer oder zwei Nachkommastellen notwendig sein.

Vielen lieben Dank für die aktive Hilfe.

[jaenicke]

Zitat von Kostas:

Das Feld für den Zahlenwert werde ich jetzt vom extended auf Real umstellen.
[..]
In die Datenbank muss ich dann eh ein Integer speichern.

Wie schon geschrieben:
Warum bleibst du nicht einfach gleich bei Integer? Dann hast du doch keinerlei Probleme mehr damit.

[TomyN]

Oder Ceil oder Floor aus Math, da ist wenigstens klar, was sie machen. Es gibt im Übrigen auch RoundTo (nicht Round Two , vielleicht hilft das

[Blup]

Integer und mit einem zusätzlich einen Faktor ist wahrscheinlich die beste Lösung.
Genau das macht auch Currency (Faktor ist 1000).
Leider beherscht Delphi nicht von Haus aus Numeric(), dass arbeitet in Datenbanken genau wie Currency, aber man kann die Anzahl der Vor-und Nachkommastellen angeben.