Teilen

[SirThornberry]

Hallo TimoB, gib deinem Beitrag bitte einen aussagekräftigen Titel entsprechend den Forenregeln

[TimoB]

sorry wegen derm themenbezeichnung.
das round (zahl - 0,5) kann mir auch nicht weiterhelfen. z.b. 0,99999955 -0,5 = 0,49999955 und damit auch 0

[SirThornberry]

der neue Titel ist ja auch nicht gerade grob das Problem beschreibend Aber wenigstens war der Wille vorhanden?!

[taaktaak]

Ich begreife nicht ganz, was hier so schwer fällt.
Und insbesondere nicht, warum du es nicht mit Format() versuchst!

Also, hier mal ein Beispiel

Delphi-Quellcode:

label1.caption:=floattostr(3.7/3.7);              // label zeigt 1
 label2.caption:=floattostr(3.7/3.70101010);       // label zeigt 0,9997270....
 label3.Caption:=format('%2.0f',[3.7/3.70101010])  // label zeigt 1

Abgesehen davon, dass 3.7 / 3.7 tatsächlich 1 ergibt, kann mit Format() dein Rundungsproblem gelöst werden

Korrekter, als den Rundungsfehler am Ende zu korrigieren, wäre es, die Berechnung schrittweise durchzugehen und die Zwischenergebnisse zu überprüfen. Vielleicht muss ja ein krummer Wert 'rauskommen, vielleicht aber auch nicht.

Gute Nacht für Heute

[BUG]

Zitat von Phoenix:

Auf ganze Zahl abrunden: Round(Zahl - 0.5);

Was dann wieder trunc entspricht.

@Topic:

IMHO liegt das ganze an der Ungenauigkeit der Gleitkommazahlen. Wenn sich 3,7 mit dem Datentyp nicht genau darstellen lassen, kommt eben auch nicht 1 heraus.

2 mögliche Lösungen:

• Nimm eine andere Einheit z.B. Millimeter und rechne mit Ganzzahlen.
• Addiere vor dem Abrunden einen Toleranzwert (1 mm oder weniger [einfach mal probieren]).

Evtl. könnte es bei Lösung zwei auch nützlich sein, einen anderen Datentypen mit höherer Genauigkeit, z.B. Double oder Currency zu wählen, wenn der Toleranzwert möglichst klein sein soll.

[edit]Aber taaktaaks Lösung ist einfacher und vermutlich die passende für dein Problem.,gibt aber im manchen Fällen, z.B. 2.25, Kommazahlen aus, nicht wie sinnvollerweise gefordert, Ganzahlen.[/edit]

MfG,
Bug

[Medium]

Zitat von taaktaak:

label1.caption:=floattostr(3.7/3.7); // label zeigt 1

Ich gehe stark davon aus, dass der Compiler die Literale bereits zur Compiletime optimiert, und zusätzlich rechnet der TE noch zuvor mit seinen Werten herum. Er hat ja nicht 3.7 als Literal im Code, und auch keine Variablen denen er beiden je direkt diesen Wert zuweist, sondern es ist ein Ergebnis einer Rechnung, und diese kann durch die Funktionsweise von Floats bereits ungenau sein, und dies zieht sich dann eben durch.
Das ist einfach nur wieder ein Fall von "kenne deine Typen, und wisse um ihre Schwächen" . Wenn es auf hundertprozentige Genauigkeit ankommt, kommst du um Ganzzahltypen nicht herum. Man büßt dafür allerdings die maximale Anzahl der Nachkommastellen ein, und handelt sich sobald mehr als nur Addieren/Subtrahieren vor kommt erneut Fehler durch die nötige Rundung ein.
Manchmal ist es aber auch schon genug, die Rechnungen umzustellen, anders zu klammern, und generell Operatoren zu minimieren. Ob und wo das reicht ist aber von Fall zu Fall sehr unterschiedlich.