Einzelnen Beitrag anzeigen

Benutzerbild von dummzeuch
dummzeuch

Registriert seit: 11. Aug 2012
Ort: Essen
1.679 Beiträge
 
Delphi 10.2 Tokyo Professional
 
#12

AW: LM Studio mit deepseek-r1-distill-qwen-7b

  Alt 3. Apr 2025, 13:44
Na ja, du hast irgendeine Art abspeckte Version - die auf keinen Fall so leistungsfähig ist wie die Onlineversion - auf einen viel zu schmalbrüstigen Rechner laufen lassen.
Was also genau war deine Erwartungshaltung? Wenn du die Ferrari-Reifen auf den Trabi montierst, dann fährt der auch nicht schneller.
Meine Erwartungshaltung war: Gucken wir mal, ob und wie gut es trotzdem funktioniert. Ich hatte keinerlei Vorstellung, welche Hardware benötigt wird, nur die Behauptungen, man brauche irgendeine Monster-Grafikkarte.

Es hat unter diesen Umständen erstaunlich gut funktioniert, ist aber natürlich so nicht wirklich brauchbar. Wobei die "Performance" im direkten Chat sogar noch halbwegs erträglich war. Via API in der IDE ist es, weil synchron auf die Antwort gewartet und dabei die IDE blockiert wird, nicht brauchbar.

Ich werde es bei Gelegenheit mal auf einem schnelleren Rechner testen, aber die meisten, die mir zur Verfügung stehen, haben auch nur Intel-Grafik.
Thomas Mueller
  Mit Zitat antworten Zitat