LM Studio mit deepseek-r1-distill-qwen-7b

[dummzeuch]

Zitat von TiGü:

Na ja, du hast irgendeine Art abspeckte Version - die auf keinen Fall so leistungsfähig ist wie die Onlineversion - auf einen viel zu schmalbrüstigen Rechner laufen lassen.
Was also genau war deine Erwartungshaltung? Wenn du die Ferrari-Reifen auf den Trabi montierst, dann fährt der auch nicht schneller.

Meine Erwartungshaltung war: Gucken wir mal, ob und wie gut es trotzdem funktioniert. Ich hatte keinerlei Vorstellung, welche Hardware benötigt wird, nur die Behauptungen, man brauche irgendeine Monster-Grafikkarte.

Es hat unter diesen Umständen erstaunlich gut funktioniert, ist aber natürlich so nicht wirklich brauchbar. Wobei die "Performance" im direkten Chat sogar noch halbwegs erträglich war. Via API in der IDE ist es, weil synchron auf die Antwort gewartet und dabei die IDE blockiert wird, nicht brauchbar.

Ich werde es bei Gelegenheit mal auf einem schnelleren Rechner testen, aber die meisten, die mir zur Verfügung stehen, haben auch nur Intel-Grafik.