Ein LLM "Hello World" mit Delphi sieht für mich so aus:
Eine Delphi
Unit - zur Not mit einer Komponente - Läd Daten eines LLM und kann dann ohne externe Resourcen die Frage(n) beantworten.
Mavarik
Das Ollama Projekt ist wohl aktuell der Stand der Technik, würde ich nicht versuchen in Delphi nachzuentwickeln.
Das läuft aber auch rein textuell auf Kommandozeile, da könnte Delphi als Schicht darüber sinnvoll sein.