TThreadPool funktioniert nicht korrekt bei meinem Test

[Der schöne Günther]

Zitat von NoGAD:

Bei Delphi 10.4 gibt es scheinbar keine Möglichkeit, mittels TThreadPool die Anzahl der Threads zu begrenzen, daher der Versuch über TSemaphore.

Habe ich auch nicht verstanden.
Genau das tust du doch schon in deinem
Dummy_ThreadPool.SetMaxWorkerThreads(Dummy_MaxTasks); Ist das nicht genau, was du willst?

Zitat von NoGAD:

Zitat von Der schöne Günther:

PS: Das eigentliche Abholen der Daten lässt sich sehr stark vereinfachen:

Ist das ein Thread?

Nein, das sollte nur zeigen, wie stark sich das eigentliche Abholen vom Server vereinfachen lässt, damit man sich nicht mehr mit Http-Returncodes und sonstwas herumschlagen muss. Anfrage raus, Json zurück, fertig.

Aber natürlich kann man das auch parallelisieren.
Hierzu würde ich aber einmal das Thema hier überfliegen, insbesondere die Beiträge des immer äußerst lesenswerten Herrn Raabe:
https://en.delphipraxis.net/topic/54...s-in-parallel/


Ich habe das einmal so runtergetippt wie ich das machen würde, hier fehlt natürlich noch deine Konvertierung des Json-Strings von der Google-API in deinen eigenen Typ TJSon_Items .

Delphi-Quellcode:

unit Unit1;

interface uses
   System.SysUtils,
   System.Classes,
   System.Threading,

   Data.Bind.Components,
   Data.Bind.ObjectScope,

   Vcl.Graphics,
   Vcl.Controls,
   Vcl.Forms,
   Vcl.Dialogs,
   Vcl.StdCtrls,

   REST.Types,
   REST.Client;

type
   TForm1 = class(TForm)
      button_serial: TButton;
      button_parallel: TButton;
      procedure button_serialClick(Sender: TObject);
      function getIsbnJson(const isbn: String): String;
      function getIsbnJsonAsync(const isbn: String): IFuture<String>;
      procedure button_parallelClick(Sender: TObject);
   end;

var
   Form1: TForm1;

const
   ISBNs: TArray<String> = [
      '978-3-77073-431-3',
      '978-0-59600-224-4',
      '3-630-61957-6',
      '978-3-89086-120-3',
      '978-3-89086-138-8'
   ];

implementation uses System.Diagnostics;

{$R *.dfm}

procedure TForm1.button_serialClick(Sender: TObject);
begin
   const stopwatch = TStopwatch.StartNew();
   for var isbn in ISBNs do
      getIsbnJson(isbn);
   stopwatch.Stop();
   ShowMessageFmt('Ms taken: %d ms', [stopwatch.ElapsedMilliseconds]);
end;

procedure TForm1.button_parallelClick(Sender: TObject);
begin
   var tasks: TArray<IFuture<String>> := [];

   const stopwatch = TStopwatch.StartNew();
   for var isbn in ISBNs do
      tasks := tasks + [getIsbnJsonAsync(isbn).Start()];
   for var task in tasks do
      task.Wait();
   stopwatch.Stop();

   ShowMessageFmt('Ms taken: %d ms', [stopwatch.ElapsedMilliseconds]);
end;

function TForm1.getIsbnJson(const isbn: String): String;
begin
   const request = TRESTRequest.Create(nil);
   try
      request.Resource := 'books/v1/volumes?q=isbn:{ISBN}';
      request.Params.AddItem('isbn', isbn, TRESTRequestParameterKind.pkURLSEGMENT);

      const client = TRESTClient.Create({Owner:}request);
      client.BaseURL := 'https://www.googleapis.com';
      client.SynchronizedEvents := False;
      request.Client := client;
      request.SynchronizedEvents := False;

      request.Execute();
      Result := request.Response.JSONText;
   finally
      request.Destroy();
   end;
end;

function TForm1.getIsbnJsonAsync(const isbn: String): IFuture<String>;
begin
   Result := TTask.Future<String>(
      function(): String
      begin
         Result := getIsbnJson(isbn);
      end
   );
end;

end.

[NoGAD]

Zitat von Der schöne Günther:

Delphi-Quellcode:

procedure TForm1.button_parallelClick(Sender: TObject);
begin
   var tasks: TArray<IFuture<String>> := [];

   const stopwatch = TStopwatch.StartNew();
   for var isbn in ISBNs do
      tasks := tasks + [getIsbnJsonAsync(isbn).Start()];
   for var task in tasks do
      task.Wait();
   stopwatch.Stop();

   ShowMessageFmt('Ms taken: %d ms', [stopwatch.ElapsedMilliseconds]);
end;

Hallo Günther,

bei wenigen Abfragen funktioniert Dein Code. Da ich aber die Anzahl der Abfragen begrenzen muss, müsste ich die Anzahl der Tasks begrenzen. Wie wäre das möglich?

Ich hatte mir überlegt, den Code zu ändern, um die Tasks erst zu sammeln und im Anschluss zu starten:

Delphi-Quellcode:

  for var isbn in ISBNs do
    tasks := tasks + [getIsbnJsonAsync(isbn)];

  for var task in tasks do
  begin
{ Hier könnte ich mittels Integer-Variable prüfen, wie viele Tasks gestartet wurden }
    task.Start();
{ Hier müsste ich prüfen, ob aktuell laufende Tasks schon beendet wurden }
  end;

Vielleicht wäre es einfacher, das über eine Message laufen zu lassen?


LG Mathias

[Der schöne Günther]

Zitat von NoGAD:

Da ich aber die Anzahl der Abfragen begrenzen muss, müsste ich die Anzahl der Tasks begrenzen. Wie wäre das möglich?

Klar- Das wäre eigentlich genauso, wie du es in deinem ersten Versuch bereits drin hattest: Du erstellst dir erst einmal deinen eigenen TThreadPool und setzt dann dort die Anzahl der Worker-Threads.

In Aufrufe wie TTask.Run(..) oder TTask.Future(..) gibst du als zusätzlichen Parameter dann einfach noch deinen selbst erstellten Threadpool an, die Tasks/Futures laufen dann in diesem Threadpool, in welchem nie mehr als X Tasks gleichzeitig ausgeführt werden.

PS: Rein aus Interesse- Was schwebt dir denn als maximale Anzahl der gleichzeitig laufenden Threads vor?

[NoGAD]

Zitat von Der schöne Günther:

PS: Rein aus Interesse- Was schwebt dir denn als maximale Anzahl der gleichzeitig laufenden Threads vor?

5-20.

Manchmal ist bei 8 schon Schluss, dann gibt es einen 429 (Too Many Requests) Fehler. Ich weiß noch nicht damit umzugehen.

Die Threads möchte ich ja nur für die Internetabfrage nutzen, um parallele Abfragen zu machen.

LG Mathias


PS: die tasks haben ja eine fortlaufene ID. Ich habe bemerkt, dass diese nicht zurückgesetzt wird, wenn ein task beendet wurde.

Somit erhöht sich die id bei einem weiteren Durchlauf.

Delphi-Quellcode:

  for var task in tasks do
    task._Release;

Löscht die tasks leider auch nicht.

[Uwe Raabe]

Ich finde, das ist ein klassischer Anwendungsfall für TParallel.For.
Über den zurückgegeben TLoopResult kannst du prüfen, ob alles abgearbeitet ist.
Wenn du einen eigenen ThreadPool übergibst, kannst du mit TThreadPool.SetMaxWorkerThreads die Anzahl gleichzeitig aktiver Tasks eingrenzen.

[Der schöne Günther]

Ich kann Google verstehen, acht ist schon viel. Vom Gefühl her hätte ich den Threadpool auf 4-8 begrenzt. Weiterhin muss es nicht einzig an "zu vielen gleichzeitig" liegen, es könnte genauso gut sein, dass "zu viele Einträge pro Zeit" übertragen wurden.

Die Entscheidung, ab wann der Server sagt "Junge, nimm mal den Fuß vom Gas" liegt allein beim Anbieter (Google). Du könntest in deiner Anwendung entweder die fehlgeschlagenen ISBNs in einer neuen Liste sammeln mit der man es dann noch einmal versucht oder nur die erfolgreichen aus der "To Do"-Liste entfernen.

Zitat von Uwe Raabe:

Ich finde, das ist ein klassischer Anwendungsfall für TParallel.For.
(...)

Stimmt, das hatte ich nicht auf dem Schirm. Das macht es noch einfacher, als von Hand Tasks/Futures in einem Array zu sammeln. 👍

[NoGAD]

Zitat von Uwe Raabe:

TLoopResult kannst du prüfen, ob alles abgearbeitet ist.

Welche unit benötige ich für TLoopResult?

In System.Threading gibt es das nicht unter Delphi 10.4

[jaenicke]

Zitat von NoGAD:

Welche unit benötige ich für TLoopResult?

In System.Threading gibt es das nicht unter Delphi 10.4

Doch, gibt es. Du hast offensichtlich in der Unit nicht danach gesucht. Es ist dort innerhalb von TParallel als nested type deklariert, sprich ist nach außen verfügbar als TParallel.TLoopResult.

// EDIT:
Es geht aber auch ohne...

Delphi-Quellcode:

  var LoopResult := TParallel.For(1, 10,
    procedure(i: Integer; State: TParallel.TLoopState)
    begin
      if i > 5 then
        State.Break;
    end);
  if LoopResult.Completed then
    ShowMessage('Durchgelaufen')
  else
  begin
    var BreakIndex: string := LoopResult.LowestBreakIteration;
    ShowMessage('Abgebrochen bei: ' + BreakIndex);
  end;

[NoGAD]

Hallo an euch alle.

Im Moment ist mir das einfach zu schwer, korrekt umzusetzen. Ich werde mir das für später aufheben und erst einmal zurück zur Einzelabfrage gehen, will heißen: Item für Item aus der ListBox.

Damit umgehe ich auch "Too many Requests".


Vielen lieben Dank für eure Hilfe!

LG Mathias

[Der schöne Günther]

Zitat von NoGAD:

Im Moment ist mir das einfach zu schwer, korrekt umzusetzen. Ich werde mir das für später aufheben und erst einmal zurück zur Einzelabfrage gehen, will heißen: Item für Item aus der ListBox.

Kann man absolut verstehen, würde ich ebenso machen- Performance-Optimierung ganz zum Schluss.

Wer behauptet, Programme zu parallelisieren sei einfach hat es ganz sicher selbst noch nicht verstanden.