Einzelnen Beitrag anzeigen

Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.184 Beiträge
 
Delphi 12 Athens
 
#19

Re: qwertz543221 kleine String-Math-Lib

  Alt 12. Jun 2009, 20:51
Zitat von qwertz543221:
result:=result+floattostr(trunc(power(10,stellen)));
keine String-Operation (das +), sondern deiner summe-Funktion

Delphi-Quellcode:
// c = Stellen

function tform1.Quotient(a, b: AnsiString): AnsiString;
var
  c: Int64;
begin
  if b = '0then System.Error(reDivByZero);
  Result := '0';
  c := 0;
  while Length(b) < Length(a) do
  begin
    c := c + 1;
    b := b + '0'; // b := produkt(b, '10');
  end;
  while c >= 0 do
  begin
    while vergleich(b, a) <= 0 do
    begin
      Result := summe(Result, inttostr(trunc(power(10, c))));
      a := differenz(a, b);
    end;
    c := c div 10; // a := quotient(a, '10');
    Delete(b, Length(b), 1); // b := quotient(b, '10');
  end;
end;
Aber durch deine wiederholte Vermischung mit Extended begrenzt du die maximale Rechengröße auf 19 Stellen.
In diesem Fall ist es zum Glück nur die Differenz zwischen Stellen von a und b,
aber über die ganze Lib gesehen, wird somit der die maximale Zahlengröße in (abgesehn von der Addition und Subtraktion) auf 19 Dezimalstellen begrenzt und man könnte genausogut mit direkt Int64 arbeiten.

Extended hat zwar einen sehr großen Wertebereich, aber nur 19-20 signifikante Stellen.
heißt: es sind nur die erst 19 bis 20 Stellen gepspeichert und alle nachfolgenden Stellen snd Aufgrund der internen Struktur undefiniert und von Rundungsfehlern überschattet.


Darum mußt du aufpassen, daß du wärend der Berechnungen bei deinem Zahlentyp bleibst und keine der "kleinen" Standardtypen verwendest:
Delphi-Quellcode:
// c = 10^Stellen

function tform1.Quotient(a, b: AnsiString): AnsiString;
var
  c: AnsiString;
begin
  if b = '0then System.Error(reDivByZero);
  Result := '0';
  c := '1';
  while Length(b) < Length(a) do
  begin
    c := c + '0'; // c := produkt(c, '10');
    b := b + '0'; // b := produkt(b, '10');
  end;
  while c <> 'do
  begin
    while vergleich(b, a) <= 0 do
    begin
      Result := summe(Result, c);
      a := differenz(a, b);
    end;
    Delete(c, Length(c), 1); // a := quotient(a, '10');
    Delete(b, Length(b), 1); // b := quotient(b, '10');
  end;
end;
$2B or not $2B
  Mit Zitat antworten Zitat