Pro Kern würde ich nur max 4 Threads starten.
Warum das? Du zwingst damit drei 3 Deiner Threads, auf den vierten zu warten. Das bedeutet, selbst wenn der vierte vorzeitig fertig wird, terminiert der Thread und verwirft den Rest seiner Rechenzeit, die dann an einen anderen Prozess geht.
Und da der
OS-Scheduler darauf achtet, die CPU-Ressourcen gleichmäßig auf die Prozesse (nicht Threads) zu verteilen, bekommen im gleichen Zeitraum acht Threads genau so viel Rechenzeit wie vier. Mit dem Unterschied, dass der Code in den restlichen vier solange blockiert ist und nicht abgearbeitet werden kann. Du bist also sogar langsamer wenn Du auch nur einen Thread zu viel erstellst.
Ideal ist genau ein einziger (lauffähiger) Thread pro Kern. Lauffähig heißt, er blockiert nicht wegen irgendwelchem I/O. Also wenn I/O, dann asynchrone APIs benutzen, damit nichts blockiert.
Jeder dieser Threads arbeitet in einer Endlosschleife Aufgaben ab, die über eine Queue synchronisiert werden. So kann man das Quantum (die CPU-Zeitscheibe, die der Thread zugeordnet bekommt), maximal ausnutzen. Im perfekten Fall sind alle physischen Kerne also mit Deinen Threads beschäftigt, und keiner Deiner Threads ist blockiert - somit bekommt man nur so die ideale Ressourcenauslastung hin.