Ein LLM (Large Language Model, großes Sprachmodell) ist ein neuronales Netz, das auf riesigen Textmengen trainiert wurde und Text erzeugt, indem es Stück für Stück vorhersagt, was als Nächstes am wahrscheinlichsten folgt. Daraus ergeben sich Fähigkeiten wie Schreiben, Zusammenfassen, Übersetzen und Programmieren. Weil das Modell auf Wahrscheinlichkeit statt auf Wissensprüfung beruht, klingt es auch dann überzeugend, wenn es irrt.
Wie funktioniert ein LLM?
Ein LLM zerlegt Text in Tokens, kleine Wortstücke. Während des Trainings sieht es enorme Textmengen und lernt, das nächste Token möglichst gut vorherzusagen. Dabei entstehen Milliarden von Parametern, Zahlen, in denen sich Muster der Sprache, Zusammenhänge und Schreibstile niederschlagen. Die meisten heutigen Modelle beruhen auf der Transformer-Architektur, die 2017 im Fachartikel „Attention Is All You Need“ vorgestellt wurde.
Bei einer Anfrage, der Inferenz, berechnet das Modell das wahrscheinlichste nächste Token, hängt es an und wiederholt das Ganze, bis die Antwort fertig ist. Deshalb erscheint Text Wort für Wort. Anbieter rechnen häufig nach verarbeiteten Tokens ab; mehr dazu in Tokens und Kontextfenster erklärt.
| Phase | Was passiert | Wer leistet es | Folge für Sie |
|---|---|---|---|
| Training | Das Modell lernt aus riesigen Textmengen | Der Modellanbieter, mit hohem Rechenaufwand | Wissen hat einen Stichtag |
| Feinabstimmung | Das Modell lernt, Anweisungen zu befolgen | Der Anbieter | Es antwortet hilfsbereit, nicht unbedingt korrekt |
| Inferenz | Das Modell beantwortet Ihre Anfrage | Anbieter-Server oder Ihr eigener Rechner | Jede Nutzung verbraucht Rechenleistung |
| Kontext | Sie geben Dokumente und Anweisungen mit | Sie | Nur das Mitgegebene ist sicher bekannt |
Warum klingt ein LLM selbstsicher, auch wenn es irrt?
Ein LLM ist darauf trainiert, plausible Sprache zu erzeugen, nicht Wahrheit zu prüfen. Fehlt ihm eine Information, füllt es die Lücke oft mit etwas, das passend klingt. Das nennt man Halluzination. Hinzu kommt, dass es Unsicherheit selten von sich aus äußert. Wie Sie damit umgehen, beschreibt KI-Halluzinationen: Was sie sind und wie Sie Ihr Unternehmen schützen.
Weitere Grenzen: Das Wissen endet am Stichtag des Trainings, lange Dokumente werden nicht immer vollständig berücksichtigt, und dieselbe Frage kann unterschiedliche Antworten liefern. Vertrauliche Eingaben können bei manchen Tarifen gespeichert oder zum Training genutzt werden.
Wofür eignet sich ein LLM im Unternehmen?
LLMs eignen sich für Aufgaben, bei denen ein Mensch das Ergebnis prüft: Entwürfe für E-Mails und Texte, Zusammenfassungen langer Dokumente, Übersetzungen, das Sortieren und Beschriften von Anfragen oder das Herausziehen von Angaben aus Texten. Kommt Firmenwissen ins Spiel, etwa aus Handbüchern oder Preislisten, lässt man das Modell gezielt in Dokumenten nachschlagen. Diese Technik heißt Retrieval-Augmented Generation (RAG).
Weniger geeignet sind Aufgaben, bei denen ein Fehler unbemerkt bleibt und teuer wird, etwa Rechts- und Steuerauskünfte oder Zusagen an Kunden ohne Prüfung.
- Aufgabe gewählt, bei der ein Mensch das Ergebnis prüft
- Nötigen Kontext und das gewünschte Format in die Anfrage aufgenommen
- Zahlen, Namen und Quellen gegengeprüft
- Datenschutzbedingungen des Anbieters gelesen
- Keine vertraulichen Daten in Tarife eingegeben, die sie speichern oder trainieren
- Regel festgelegt, wer Ergebnisse freigibt
Wie wählen Sie ein Modell aus?
Modelle unterscheiden sich in Qualität, Tempo, Kosten, Datenschutzbedingungen und Anbindungsmöglichkeiten. Es gibt kein Modell, das für alles das beste ist. Testen Sie zwei oder drei Kandidaten mit Ihren eigenen Aufgaben und vergleichen Sie Ergebnis, Tempo und Preis. Eine Anleitung dazu finden Sie in Neues KI-Modell bewerten.
Fazit: Nützlich mit Prüfung
Ein LLM ist ein leistungsfähiges Sprachwerkzeug mit klaren Grenzen. Nutzen Sie es für Entwürfe und Routinearbeit, geben Sie Kontext mit und prüfen Sie die Ergebnisse. Wie Sie daraus einen Ablauf im Betrieb bauen, zeigt unsere KI-Automatisierung. Wenn Sie wissen möchten, was in Ihrem Fall sinnvoll ist, schildern Sie uns Ihre Aufgabe.
