TThreadPool funktioniert nicht korrekt bei meinem Test

[Der schöne Günther]

Zitat von NoGAD:

Da ich aber die Anzahl der Abfragen begrenzen muss, müsste ich die Anzahl der Tasks begrenzen. Wie wäre das möglich?

Klar- Das wäre eigentlich genauso, wie du es in deinem ersten Versuch bereits drin hattest: Du erstellst dir erst einmal deinen eigenen TThreadPool und setzt dann dort die Anzahl der Worker-Threads.

In Aufrufe wie TTask.Run(..) oder TTask.Future(..) gibst du als zusätzlichen Parameter dann einfach noch deinen selbst erstellten Threadpool an, die Tasks/Futures laufen dann in diesem Threadpool, in welchem nie mehr als X Tasks gleichzeitig ausgeführt werden.

PS: Rein aus Interesse- Was schwebt dir denn als maximale Anzahl der gleichzeitig laufenden Threads vor?

[NoGAD]

Zitat von Der schöne Günther:

PS: Rein aus Interesse- Was schwebt dir denn als maximale Anzahl der gleichzeitig laufenden Threads vor?

5-20.

Manchmal ist bei 8 schon Schluss, dann gibt es einen 429 (Too Many Requests) Fehler. Ich weiß noch nicht damit umzugehen.

Die Threads möchte ich ja nur für die Internetabfrage nutzen, um parallele Abfragen zu machen.

LG Mathias


PS: die tasks haben ja eine fortlaufene ID. Ich habe bemerkt, dass diese nicht zurückgesetzt wird, wenn ein task beendet wurde.

Somit erhöht sich die id bei einem weiteren Durchlauf.

Delphi-Quellcode:

  for var task in tasks do
    task._Release;

Löscht die tasks leider auch nicht.

[Uwe Raabe]

Ich finde, das ist ein klassischer Anwendungsfall für TParallel.For.
Über den zurückgegeben TLoopResult kannst du prüfen, ob alles abgearbeitet ist.
Wenn du einen eigenen ThreadPool übergibst, kannst du mit TThreadPool.SetMaxWorkerThreads die Anzahl gleichzeitig aktiver Tasks eingrenzen.

[Der schöne Günther]

Ich kann Google verstehen, acht ist schon viel. Vom Gefühl her hätte ich den Threadpool auf 4-8 begrenzt. Weiterhin muss es nicht einzig an "zu vielen gleichzeitig" liegen, es könnte genauso gut sein, dass "zu viele Einträge pro Zeit" übertragen wurden.

Die Entscheidung, ab wann der Server sagt "Junge, nimm mal den Fuß vom Gas" liegt allein beim Anbieter (Google). Du könntest in deiner Anwendung entweder die fehlgeschlagenen ISBNs in einer neuen Liste sammeln mit der man es dann noch einmal versucht oder nur die erfolgreichen aus der "To Do"-Liste entfernen.

Zitat von Uwe Raabe:

Ich finde, das ist ein klassischer Anwendungsfall für TParallel.For.
(...)

Stimmt, das hatte ich nicht auf dem Schirm. Das macht es noch einfacher, als von Hand Tasks/Futures in einem Array zu sammeln. 👍

[NoGAD]

Zitat von Uwe Raabe:

TLoopResult kannst du prüfen, ob alles abgearbeitet ist.

Welche unit benötige ich für TLoopResult?

In System.Threading gibt es das nicht unter Delphi 10.4

[jaenicke]

Zitat von NoGAD:

Welche unit benötige ich für TLoopResult?

In System.Threading gibt es das nicht unter Delphi 10.4

Doch, gibt es. Du hast offensichtlich in der Unit nicht danach gesucht. Es ist dort innerhalb von TParallel als nested type deklariert, sprich ist nach außen verfügbar als TParallel.TLoopResult.

// EDIT:
Es geht aber auch ohne...

Delphi-Quellcode:

  var LoopResult := TParallel.For(1, 10,
    procedure(i: Integer; State: TParallel.TLoopState)
    begin
      if i > 5 then
        State.Break;
    end);
  if LoopResult.Completed then
    ShowMessage('Durchgelaufen')
  else
  begin
    var BreakIndex: string := LoopResult.LowestBreakIteration;
    ShowMessage('Abgebrochen bei: ' + BreakIndex);
  end;

[NoGAD]

Hallo an euch alle.

Im Moment ist mir das einfach zu schwer, korrekt umzusetzen. Ich werde mir das für später aufheben und erst einmal zurück zur Einzelabfrage gehen, will heißen: Item für Item aus der ListBox.

Damit umgehe ich auch "Too many Requests".


Vielen lieben Dank für eure Hilfe!

LG Mathias

[himitsu]

vielleicht auch mal eine ganz abwägige Idee?

mehrere ISBNs in einer Anfrage zusammenfassen und mit nur einem Aufruf abfragen.

[Der schöne Günther]

Zitat von NoGAD:

Im Moment ist mir das einfach zu schwer, korrekt umzusetzen. Ich werde mir das für später aufheben und erst einmal zurück zur Einzelabfrage gehen, will heißen: Item für Item aus der ListBox.

Kann man absolut verstehen, würde ich ebenso machen- Performance-Optimierung ganz zum Schluss.

Wer behauptet, Programme zu parallelisieren sei einfach hat es ganz sicher selbst noch nicht verstanden.

[jaenicke]

Zitat von Der schöne Günther:

Wer behauptet, Programme zu parallelisieren sei einfach hat es ganz sicher selbst noch nicht verstanden.

Wobei es am schwierigsten ist, es hinterher zu ergänzen.

Wenn man konsequent Funktionalität kapselt, so dass diese möglichst keine Abhängigkeiten hat, hat man es später einfacher damit.