![]() |
System.Frac / System.Int / Math.SimpleRoundTo - komische Ergebnisse
Hallo zusammen,
ich verzweifle gerade an den Methoden System.Frac und System.Int und auch an Math.SimpleRoundTo Die liefern bei mir für manche Zahlen in meinen Augen komplett irrsinnige Werte zurück. Woran liegt das?
Code:
var
val : Extended; frac : Extended; frac2 : Extended;
Code:
Ich kann mir diese Ergebnisse überhaupt nicht erklären; dass es mal durch Bit-Darstellung / Umwandlungen zu kleinen Abweichungen kommt, verstehe ich ja noch - aber so krass? :shock:
val := 22.649;
val := val * 100; // 2264.9 drin val := System.Int( val ); // 2264.0 frac := System.Frac( val ); // 0.9 frac2 := frac * 10.0; // 9.0 frac2 := System.Int( frac2 ); // Ergebnis ist 8.0 - wieso das????? // auch komisch: frac2 := frac * 10.0 // 9.0 frac2 := System.Frac( frac2 ); // Ergebnis ist 1.0 - wieso das????? Achja, das ganze ist mit Delphi7 (ist ein Alt-Programm, muss ich leider immer noch verwenden), das dann unter Win10-x64 ausgeführt wird... EDIT: noch ein Ergänzung: eigentlich brauche ich das ganze, um eine eigene Methode für das Runden von Nachkommastellen zu schreiben, weil die Bibliotheksfunktionen alle für mich nicht brauchbare Sachen (z.B. "Banker's rounding") machen:
Code:
Eigentlich ganz trivial: ich möchte beim runden auf eine bestimmte Nachkommastelle, dass wenn die nächste Stelle < 4 ist abrunden und wenn sie 5 oder größer ist, aufrunden.
val := 22.65;
val := Math.SimpleRoundTo( 22.65, -1 ); // erwartet hätte ich 22.7 als Ergebnis, ich bekomme aber 22.6 - warum??? Und zwar unabhängig davon ob die zu rundende Stelle eine gerade oder ungerade Zahl ist oder ob die gesamte Zahl positiv oder negativ ist oder ob heute schönes oder schlechtes Wetter ist... |
AW: System.Frac / System.Int / Math.SimpleRoundTo - komische Ergebnisse
Result := trunc((aval * power(10, astellen)) + 0.5) / power(10, astellen)
Suchst du sowas? Edith: hatte + 0.5 vergessen! |
AW: System.Frac / System.Int / Math.SimpleRoundTo - komische Ergebnisse
Vielleicht ist hier ja was Passendes für dich dabei. Die Unit ist schon lange weit verbreitet und allgemein anerkannt.
![]() Gibt's sogar noch im alten Code Central: ![]() |
AW: System.Frac / System.Int / Math.SimpleRoundTo - komische Ergebnisse
Zitat:
Daher bleibt unter Delphi 7 wirklich nur eine Fremdbibliothek oder eigene Funktionen zu verwenden. Alternativ schreibst du DLLs in einer neuen Delphiversion und bindest diese ein. |
AW: System.Frac / System.Int / Math.SimpleRoundTo - komische Ergebnisse
Hallo Bodenseematze,
Du könntest auch die Unit AMath.pas (= Accurate floating point math unit) von unserem einstigen Gammatester (Wolfgang Ehrhardt) verwenden. Seinen umfangreichen Nachlaß mit exzellenten Routinen für präzises Rechnen findest Du entweder hier: ![]() und auch dort: ![]() AMath.pas ersetzt komplett Delphi’s System.Math.pas und verbessert zahlreiche Fehler und Unzulänglichkeiten. Es ist kompatibel mit "REQUIREMENTS : BP7, D2-D7/D9-D10/D12/D17-D18/D25, FPC, VP, WDOSX" und auch mit noch neuereren Delphi-Versionen. Ich benutze es seit vielen Jahren und bin vollkommen zufrieden damit. :-D |
AW: System.Frac / System.Int / Math.SimpleRoundTo - komische Ergebnisse
Vielen Dank für Eure Antworten - ich bin begeistert, dass man hier noch so aktiv ist :-D
Zitat:
und wieder Rückwandeln in Extended auch einige Werte, bei denen es zu falschen Ergebnissen kam; deswegen bin ich ja umgeschwenkt auf Frac() und Int() - die aber noch schlechtere Ergebnisse gebracht haben :pale: Momentan habe ich eine Variante programmiert, die ist sozusagen von hinten durch's Knie... ...da ich in den Ergebnissen meiner Berechnungen maximal 4 Nachkommastellen (meistens nur zwei oder drei) brauche, teile ich die Zahlen jetzt (in einer eigenen Klasse) in einen Vorkomma-, einen Nachkommateil auf - jeweils als 32-Bit unsigned integer plus einem Flag als Vorzeichen. Die Extraktion der Vor- und Nachkommateile erfolgt dadurch, dass ich das per Format (mit definierten FormatSettings) in einen String schreibe und dort die Einzelteile parse (deswegen die Aussage "von hinten durch's Knie") :stupid: Funktioniert ganz gut - ist aber eigentlich ein übler Hack... Ich werde mir auf jeden Fall die von Euch vorgeschlagenen Code-Bibliotheken mal anschauen. Etwas Offtopic: in dem Projekt war der ursprüngliche Code noch in Delphi5 verfasst (mit noch älteren Teilen, die noch aus Turbo Pascal für DOS-Zeiten stammen) - das habe ich inzwischen auf Delphi7 "hochgeschoben". Ich würde das ja auch gerne auf noch neuere Delphi-Versionen bringen - aber ich denke, das wird schwierig: - es ist natürlich noch 32-Bit Code - es wird noch Crystal Reports v9 mit deren VCL-Wrapper verwendet (bzw. einer stark gepatchten Version) - es sind Datenbankzugriffe enthalten, die über die BDE an eine MS-SQL Server Instanz gehen (diese ist inzwischen aktuell) - teilweise greift Crystal Reports in den Reports auf direkt auf diese MS-SQL Server-Instanz für die Daten zu aber - teilweise erfolgt der Austausch vom Programm an Crystal Reports auch über aufbereitete Daten, die ebenfalls über BDE an lokale Paradox-Tabellen erfolgen Und ich denke, da ist die größte Schwierigkeit - Crystal braucht weiterhin Paradox und ich habe noch nichts gefunden, mit dem ich in Delphi (einfach) die Paradox-Zugriffe, die über die BDE gehen, ersetzen könnte, so dass die Reportdateien nicht (oder nicht wesentlich) geändert werden müssen... Ich habe schonmal Versuche mit RAD Studio 11 Alexandria gemacht - da hat aber zum Einen nichts (mit dem Projekt) funktioniert und zum Anderen hatte ich schon beim Testen einige Abstürze der IDE (mal ganz abgesehen von der schwierigen Handhabung wg. Lizenzserver) - was mir kein gutes Gefühl vermittelt hat... |
AW: System.Frac / System.Int / Math.SimpleRoundTo - komische Ergebnisse
Die BDE funktioniert schon noch mit Delphi 11 (es gibt dafür einen separaten Installer im Downloadcenter). Auch Crystal Reports funktioniert noch mit neueren Delphiversionen, es gibt nur keinen neueren Wrapper mehr, so dass man die alte Unit selbst anpassen muss.
Dass das keine ideale und zukunftsgerichtete Konstellation ist, ist dir ja selbst klar. Der Umstieg von Delphi 7 erfordert aber eher aus anderen Gründen viel Arbeit. Je nachdem wie sauber zwischen PChar und PWideChar usw. getrennt wurde, ist der Umstieg auf ein Unicode-Delphi ein hoher Aufwand und birgt Risiken hinsichtlich bei der Umstellung nicht erkannter Probleme. Wir haben damals zwar den Umstieg relativ schnell geschafft, aber haben noch lange danach noch Bugs gefunden, die darauf zurückzuführen waren. Das lag aber auch an Strings, die als Bytepuffer missbraucht wurden, und ähnlichen Punkten. Ein weiteres großes Problem war, dass in den Quelltexten oft with benutzt wurde, was bei einer solchen Umstellung die Hölle sein kann (einer der Gründe, weshalb ich dringendst von der Nutzung in neuen Quelltexten abrate). Insofern hängt das weitere Vorgehen sehr davon ab, wie lange das Programm noch genutzt werden soll und wie wichtig es ist. Da du von "Alt-Programm" gesprochen hast, würde ich eher zur schon angesprochenen DLL-Lösung raten, sprich neue Teile in neueren Delphiversionen schreiben und in das alte Programm einklinken. Dabei fällt mir ein, dass eine Version für ältere Delphiversionen für mein ![]() |
AW: System.Frac / System.Int / Math.SimpleRoundTo - komische Ergebnisse
Probier mal das Ganze mit dem Datentyp Currency.
Vielleicht ist das genau das, was du brauchst. Ich hoffe Delphi 7 hat schon Currency als Datentyp gehabt. Liebe Grüße Incocnito |
AW: System.Frac / System.Int / Math.SimpleRoundTo - komische Ergebnisse
Den Typen gibt es schon ewig.
Intern ist es einfach ein umgebogener Int64, wo die letzten 4 Dezimalstellen als Nachkommastellen benutzt werden. |
AW: System.Frac / System.Int / Math.SimpleRoundTo - komische Ergebnisse
Zitat:
Zitat:
Außerdem kommt auch bei dieser beim Aufruf
Code:
als Ergebnis
AMath.Frac( 9.0 )
Code:
Wieso? Ich verstehe das nicht :(
1.0
Ich habe die Enterprise-Version von Delphi7 - da ist ja der Quellcode dabei, aber ich finde den Code von Frac() dort nicht... (nur in der von SynopseRTL gepatchten Version - und dort steht "{$IFDEF NEWRTL}" drüber, was erst ab Delphi 2005 definiert ist...) |
Alle Zeitangaben in WEZ +1. Es ist jetzt 11:02 Uhr. |
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz