Single runden

[Scurra]

Zitat:

Der Wert der da herauskommt hat welche Bedeutung?

Ich habe ein Dokument, in dem sich Formen (Rechtecke, Bilder o. ä.) befinden. Ich möchte beispielsweise die Positionen der Formen oder die Seitenränder (z. B. in cm) o. ä. speichern und später wieder abrufen können. Da die Werte, die ich auslesen kann, aber immer x-Stellen lang sind und ich nicht so eine hohe Genauigkeit brauche, runde ich die Zahlen lieber.

Natürlich sollte immer nach der gleichen Vorschrift gerundet werden, aber solche Grenzfälle mit .5 bestehen meistens (meistens wird wohl auch bei .5 nach meiner Erwartung gerundet) meine Testcases... Dass da etwas nicht richtig funktioniert, ist mir aber erst durch Testcases (mit dUnit) aufgefallen.

[BadenPower]

Wenn Dir ein Double reicht, dann kannst Du folgendes machen, um die richtigen gerundeten Werte zu erhalten:

Delphi-Quellcode:

var
  x2: Double;
  y2: Double;
begin
  SetPrecisionMode(pmDouble);
  SetRoundMode(rmTruncate);

  x2 := 44.99995;
  y2 := 4.99995;

  ShowMessage(FloatToStr(SimpleRoundTo(x2, -4)));
  ShowMessage(FloatToStr(SimpleRoundTo(y2, -4)));
end;

Deine Gleitkomma-Variablen müssen allerdings vom Typ Double sein.

[Scurra]

Funktioniert das wirklich?

ShowMessage(FloatToStr(SimpleRoundTo(x2, -4))); Das liefert bei mir 44,9999 (anstatt 45).

Was mir sonst gerade einfällt: Es ist zwar umständlich, aber falls das mit dem Runden einfach nicht klappt, muss man eben "von Hand" runden: Man frägt ab, ob die fürs Runden entscheidende Ziffer (z. B. 5. Ziffer hinter dem Punkt/Komma) eine 1, 2, 3 oder 4 ist, dann soll abgerundet werden, bei 5, 6, 7, 8 oder 9 soll aufgerundet werden und bei 0 soll die Zahl nur abgeschnitten werden. Eine einfachere und elegantere Lösung würde ich bevorzugen

[BadenPower]

Zitat von Scurra:

Funktioniert das wirklich?

Ja:
getestet auf WinXP mit Delphi2007.

Nein:
getestet auf WinXP mit Lazarus.

[Scurra]

Ok, dann bin ich froh, dass es wahrscheinlich nur an Lazarus liegt, dass es bei mir nicht funktioniert. Ich habe mir jetzt einmal genau angeschaut, was SetPrecisionMode und SetRoundMode bedeutet. Für Single funktioniert das ganze vmtl., wenn ich SetPrecisionMode(pmSingle) verwende. Gibt es eine Möglichkeit, abzufragen, ob eine Zahl Single oder Double ist. Ich habe es mit

Delphi-Quellcode:

var
  x1: Single

if x1 is Single then ...

versucht, aber führt zu einem Fehler: Class or interface type expected, but got "Single".

Ansonsten könnte ich wohl auch 2 überladene Versionen der Funktion verwenden:

Delphi-Quellcode:

function(aValue: Single; aPrecision: Integer): Single; overload;
function(aValue: Double; aPrecision: Integer); Double; overload;

Noch eine Frage zum Rundungsmodus rmTruncate: In der Hilfe steht hierzu: Truncates the value, rounding positive numbers down and negative numbers up.

Warum wird dann 44.6 (positive Zahl) auf 45 aufgerundet?

Danke für deine/eure Hilfe!

[BadenPower]

Zitat von Scurra:

Noch eine Frage zum Rundungsmodus rmTruncate: In der Hilfe steht hierzu: Truncates the value, rounding positive numbers down and negative numbers up.

Warum wird dann 44.6 (positive Zahl) auf 45 aufgerundet?

Die deutsche Hilfe sagt da aber etwas anderes:

Code:

Schneidet den Wert ab. Positive Werte werden auf-, negative Werte abgerundet.

[Sir Rufo]

Ich hatte da auch noch was
http://docwiki.embarcadero.com/RADSt...ositive_Zahlen