Ich hatte noch nen weiteren Use-Case vergessen, der steckt aber in meiner vorherigen längeren Antwort schon teilweise drin: Information extraction.
Wenn es darum geht, Dokumente in Systeme einzugeben, dann kann man das Dokument und die passende Struktur in ein LLM geben, und das zieht die Informationen dann daraus und bringt sie in eine passende strukturierte Form. Das machen wir gerade in einem größeren Projekt für sehr komplexe Dokumente, und es funktioniert erstaunlich gut, sofern das Prompt passt und das Model gut genug ist.
Das spart viel Zeit, und ist weniger Fehleranfällig als wenn ein Mensch das macht. Der braucht das jetzt nur noch zu kontrollieren. Und damit das sorgfältig und aufmerksam passiert, kann man ab und zu extra falsche Daten anzeigen. Ist zwar frech, funktioniert aber auch super.