Large Language Model (LLM)
Ein Large Language Model (LLM, deutsch großes Sprachmodell) ist ein KI-Modell, das mit sehr großen Textmengen trainiert wurde und Sprache verstehen und erzeugen kann. Bekannte Modellfamilien sind etwa Claude von Anthropic und GPT von OpenAI.
Wie ein Sprachmodell funktioniert
Ein LLM zerlegt Text in Tokens, das sind Wörter oder Wortteile. Beim Training lernt das Modell an riesigen Textmengen, welches Token in welchem Zusammenhang folgt. Dabei legt es im Wesentlichen keine Texte ab, sondern statistische Muster in Milliarden von Parametern. Beim Antworten erzeugt es Token für Token eine wahrscheinliche Fortsetzung zur Eingabe, dem sogenannten Prompt.
Die meisten heutigen LLMs basieren auf der Transformer-Architektur. Nach dem Grundtraining werden sie mit Beispielaufgaben und Bewertungen nachtrainiert, häufig auch mit Rückmeldungen von Menschen, damit sie Anweisungen befolgen und hilfreich antworten. Neuere Modelle verarbeiten neben Text auch Bilder und können über Schnittstellen Werkzeuge aufrufen.
Stärken und Grenzen
LLMs sind stark darin, Texte zusammenzufassen, umzuformulieren, zu übersetzen und unstrukturierte Inhalte wie E-Mails oder Dokumente einzuordnen. Auch beim Programmieren und beim Auswerten langer Dokumente nehmen sie viel Arbeit ab.
Die wichtigste Grenze: Ein LLM kann Aussagen erfinden, die überzeugend klingen, aber falsch sind. Man spricht von Halluzinationen. Außerdem kennt ein Modell nur den Wissensstand seines Trainings und nichts über dein Unternehmen, solange du ihm diese Informationen nicht mitgibst. Genau hier setzen Verfahren wie RAG an, die dem Modell passende Dokumente bereitstellen.
Worauf Unternehmen achten sollten
Für den Einsatz im Betrieb zählen weniger Ranglisten als praktische Fragen. Wo werden die Daten verarbeitet, und werden Eingaben zum Training verwendet? Für Geschäftskunden bieten die großen Anbieter eigene Tarife und Verträge zur Auftragsverarbeitung an. Die rechtliche Prüfung im Einzelfall ersetzt das nicht.
Außerdem unterscheiden sich Modelle bei Kosten und Geschwindigkeit deutlich. Für viele Aufgaben reicht ein kleineres, günstigeres Modell, ein großes lohnt sich dort, wo komplexe Zusammenhänge verstanden werden müssen. Wir testen Modelle deshalb mit echten Beispielen aus dem jeweiligen Ablauf, bevor wir uns festlegen.
Beispiel: Angenommen, in einem Sammelpostfach landen Anfragen und Reklamationen durcheinander. Ein LLM ordnet jede E-Mail einer Kategorie zu und zieht die wichtigsten Angaben heraus, etwa Kundennummer und Anliegen. Eine Automatisierung leitet die E-Mail danach an das zuständige Team weiter. Das Modell übernimmt die Einordnung, die Entscheidungen trifft weiterhin das Team.
