Wer kein Abo bei einem KI-Anbieter will, viel Wert auf Datensicherheit legt und gegen den Energiehunger der bisherigen KI-Lösungen ist, für den kann ich folgende Lösung empfehlen.
Ich selber habe als KI das neue "Deeepseek-R1:70b"-Model im lokalen Netz im Einsatz.
Die KI läuft auf einem MacBook Pro mit M3 Max und 64 GB Hauptspeicher unter Ollama (Start mit "ollama serve").
Die Konfiguration im
RAD-Studio war sehr einfach.
BaseUrl: "http://macbook:11434"
Model: "deepseek-r1:70b"
Die Verbindung war sofort hergestellt.
Die Ergebnisse der Chat-Anfragen sind erstaunlich gut und vergleichbar mit GPT-O1 über die offizelle Web-Seite.
Die Performance ist leicht schlechter, aber mit dem "deepseek-r1:32b"-Model vergleichbar schnell.
Das "deepseek-r1:70b"-Model (43GB) liefert oft mehr Alternativen als das "deepseek-r1:32b"-Model (20GB).
Auch die aufgezeigten Lösungswege werden ausführlicher erklärt.