AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

Plötzlich auftretenes Rundungsproblem

Ein Thema von Sourcemaker · begonnen am 15. Dez 2004 · letzter Beitrag vom 16. Dez 2004
 
Benutzerbild von Sourcemaker
Sourcemaker

Registriert seit: 3. Sep 2003
Ort: Westoverledingen
264 Beiträge
 
Delphi 11 Alexandria
 
#15

Re: Plötzlich auftretenes Rundungsproblem

  Alt 16. Dez 2004, 12:40
Tut mit leid das ich mich erst jetzt wieder einschalte war total im Stress.

Dir Rechnung sollte lauten 3,45*3*0,9=9,315 anstatt 3,45*3/0,9=9,315. Sorry.

Ich konnte mittlerweile die Sache aufklären:
Ich rufe an bestimmten Programmpunkten eine externe DLL auf die in CaVo (Visual Object)
geschrieben ist und ich rufe nicht FormatFloat direkt auf sondern eine Funktion:

Delphi-Quellcode:
function FormStr(const v: Variant; nLen: integer; nDec: integer = 0): string;
var
   cFormat : string;
procedure MakeFormat;
begin
   if nLen > 3 then
      cFormat := '#,'+cFormat;
end;
begin
   if nDec = 0 then
   begin
      cFormat := '##0';
      MakeFormat;
   end
   else
   begin
      cFormat := '##0.'+Replicate('0',nDec);
      nLen := nLen-nDec-1;
      MakeFormat;
   end;
   Result := FormatFloat(cFormat,v);
end;
Diese Funktion bekommt den Zahlenwert als Variant übertragen und funktioniert solange ich nicht
die besagte DLL aufgerufen habe. Ich habe noch eine weitere ähnliche Funktion die mit Str arbeitet
wo es zum gleichen Problem kommt.
Die Lösung liegt zum einen in der Verwendung von Currency-Variablen (wo es möglich ist) zum anderen auf die angesprochenen Funktionen bezogen auf zusätzliche Rundungsfunktionen.
Delphi-Quellcode:
function FormStr(v: Variant; nLen: integer; nDec: integer = 0): string;
var
   cFormat : string;
procedure MakeFormat;
begin
   if nLen > 3 then
      cFormat := '#,'+cFormat;
end;
begin
   if nDec = 0 then
   begin
      cFormat := '##0';
      MakeFormat;
   end
   else
   begin
      cFormat := '##0.'+Replicate('0',nDec);
      nLen := nLen-nDec-1;
      MakeFormat;
   end;
   case VarType(v) of
   varCurrency : v := MyRoundC(v,nDec);
   varInteger : ;
   else v := MyRound(v,nDec);
   end;
   Result := FormatFloat(cFormat,v);
end;

function MyRoundC(nZahl:Currency;nDec:integer):Currency;
var
  i: integer;
begin
  for i := 1 to nDec do nZahl := nZahl * 10;
  nZahl := Int(nZahl + iif(nZahl > 0, 0.5, -0.5));
  for i := 1 to nDec do nZahl := nZahl / 10;
  Result := nZahl;
end;
Wie gesagt damit löse ich die Probleme aber interessieren würde es mich doch was die ext. DLL
mit den Variants anstellt. Falls also jemand eine Idee hat ...
Ist die Round-Funktion Ok oder gibt es bessere Lösungen ?

Grüße

Frank
Frank
  Mit Zitat antworten Zitat
 


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 13:11 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz