Zum Inhalt springen

Was sind Large Language Models? LLMs einfach erklärt

Large Language Models sind KI-Modelle, die Sprache verstehen und erzeugen. Wie LLMs funktionieren, wo sie irren und wofür Unternehmen sie 2026 nutzen.

Kian Shahriyari8 Min. LesezeitAktualisiert am

Large Language Models (LLMs), auf Deutsch große Sprachmodelle, sind KI-Modelle, die Sprache verstehen und erzeugen. Sie wurden mit riesigen Textmengen trainiert und berechnen Stück für Stück, welche Fortsetzung eines Textes am wahrscheinlichsten passt. Bekannte LLMs sind GPT von OpenAI (die Grundlage von ChatGPT), Gemini von Google und Claude von Anthropic. Technische Grundlage fast aller LLMs ist die Transformer-Architektur aus dem Jahr 2017.

In diesem Artikel: wie ein LLM funktioniert, welche Modelle es 2026 gibt, wo LLMs Fehler machen und wann ein anderes Werkzeug die bessere Wahl ist.

Was ist ein Large Language Model?

Ein Large Language Model ist ein neuronales Netz, das auf Sprache spezialisiert ist. Es hat beim Training Milliarden von Sätzen gesehen und daraus gelernt, wie Wörter, Fakten und Argumente zusammenhängen. Mit diesem Wissen schreibt es Texte, fasst Dokumente zusammen, übersetzt, beantwortet Fragen und schreibt Programmcode.

"Large" bezieht sich auf zwei Dinge: die Menge der Trainingsdaten und die Zahl der Parameter, also der Stellschrauben im Modell. Große Modelle haben heute Hunderte Milliarden Parameter. Kleinere Modelle mit wenigen Milliarden Parametern laufen inzwischen auch auf einem einzelnen Server.

Ein LLM versteht Sprache nicht wie ein Mensch. Es erkennt Muster und setzt sie sehr überzeugend fort. Daraus folgt die wichtigste Eigenschaft für den Einsatz im Unternehmen: Eine flüssig formulierte Antwort ist noch keine richtige Antwort.

Wie funktioniert ein LLM?

Ein LLM zerlegt Text in Tokens, das sind Wortteile von meist drei bis vier Zeichen. Für jedes neue Token berechnet das Modell, welches Token am wahrscheinlichsten folgt, hängt es an und wiederholt das, bis die Antwort fertig ist. Die Transformer-Architektur sorgt dafür, dass das Modell dabei den gesamten bisherigen Text berücksichtigt und nicht nur das letzte Wort.

  1. 1

    Vortraining

    Das Modell liest große Mengen öffentlicher Texte und lernt, das jeweils nächste Token vorherzusagen. Dabei entsteht sein Wissen über Sprache und Welt.

  2. 2

    Feinabstimmung

    Menschen bewerten Antworten des Modells. Daraus lernt es, Anweisungen zu folgen, höflich zu antworten und bestimmte Inhalte abzulehnen.

  3. 3

    Anfrage

    Ihre Frage und alle mitgegebenen Texte landen im Kontextfenster. Das ist der Arbeitsspeicher des Modells für genau diese eine Anfrage.

  4. 4

    Antwort

    Das Modell erzeugt die Antwort Token für Token. Was nicht im Training oder im Kontextfenster stand, kann es nicht wissen.

Zwei Begriffe begegnen Ihnen bei jedem LLM-Projekt. Das Kontextfenster legt fest, wie viel Text das Modell pro Anfrage verarbeiten kann. Bei aktuellen Modellen sind das je nach Anbieter mehrere Hundert Seiten. Der Wissensstand ist der Zeitpunkt, an dem die Trainingsdaten enden. Alles danach kennt das Modell nur, wenn Sie es ihm in der Anfrage mitgeben.

Die Grundlage hat ein Forschungsteam von Google 2017 im Aufsatz Attention Is All You Need beschrieben. Fast alle heutigen Sprachmodelle bauen darauf auf.

Welche Large Language Models gibt es 2026?

Die führenden LLMs kommen 2026 von OpenAI, Anthropic und Google. Daneben gibt es offene Modelle, deren Gewichte frei verfügbar sind und die Sie auf eigenen Servern betreiben können. Die Modellnamen ändern sich alle paar Monate, die Anbieter und Modellfamilien bleiben.

AnbieterModellfamilieBetriebGut zu wissen
OpenAIGPT (ChatGPT)Cloud, auch über Microsoft AzureGrößte Verbreitung, viele Werkzeuge drumherum
AnthropicClaudeCloud, auch über AWS und Google CloudStark bei langen Dokumenten und Programmcode
GoogleGeminiCloudEng verzahnt mit Google Workspace
Mistral AIMistralCloud in der EU oder eigener ServerEuropäischer Anbieter, offene und kommerzielle Modelle
Meta, Alibaba und andereLlama, Qwen und weitereEigener ServerOffene Gewichte, volle Kontrolle über die Daten

Für die meisten Unternehmensaufgaben ist nicht das "beste" Modell entscheidend, sondern wo es läuft und welche Daten es sehen darf. Ein mittelgroßes Modell auf einem Server in Deutschland ist für viele Dokumentenaufgaben die bessere Wahl als das größte Modell eines US-Anbieters ohne passende Verträge.

Wo machen Large Language Models Fehler?

LLMs erfinden Fakten, wenn ihnen Information fehlt. Diese Halluzinationen sind kein seltener Ausrutscher, sondern eine direkte Folge der Funktionsweise: Das Modell erzeugt immer die wahrscheinlichste Fortsetzung, auch wenn es die Antwort nicht kennt. Eine erfundene Paragrafennummer klingt genauso sicher wie eine echte.

Die typischen Fehlerquellen:

  • Fehlendes Wissen: Interne Dokumente, aktuelle Preise und alles nach dem Wissensstand kennt das Modell nicht.
  • Verlorene Details in langen Texten: Forschende haben gezeigt, dass Modelle Informationen am Anfang und am Ende eines langen Textes am zuverlässigsten nutzen und in der Mitte deutlich schlechter (Liu et al. 2023, "Lost in the Middle").
  • Rechnen und Zählen: Summen, Fristen und Datumsabstände berechnet ein LLM unzuverlässig, wenn es dafür kein Werkzeug nutzen kann.
  • Überzeugender Ton: Das Modell formuliert eine falsche Antwort genauso selbstsicher wie eine richtige.

Die wirksamste Gegenmaßnahme heißt RAG: Das System sucht vor jeder Antwort die passenden Stellen in Ihren Dokumenten und gibt sie dem Modell mit. Das Modell antwortet dann aus diesen Stellen und nennt sie. Bei einzelnen Dokumenten geht es noch direkter: Unser Produkt dokumentenchat gibt dem Modell den ganzen Bescheid oder Vertrag mit, verlangt zu jeder Aussage die Fundstelle und lässt Beträge von einem Rechenwerkzeug berechnen statt vom Modell selbst.

Wofür setzen Unternehmen LLMs ein?

57 Prozent der Unternehmen in Deutschland mit mindestens 20 Beschäftigten setzen 2026 Künstliche Intelligenz ein, ein Jahr zuvor waren es 36 Prozent. Das ergab eine repräsentative Befragung von 603 Unternehmen im Auftrag des Bitkom. Den größten Teil davon machen Anwendungen mit Sprachmodellen aus.

Die Einsätze, die sich in der Praxis bewähren, haben eines gemeinsam: Ein LLM übernimmt Lese- und Schreibarbeit, ein Mensch entscheidet.

  • Fragen an Dokumente: Mitarbeitende fragen in eigenen Worten, das System antwortet aus Handbüchern, Verträgen und Richtlinien und nennt die Fundstelle. Wie das aufgebaut wird, beschreibt unser Artikel über das eigene ChatGPT.
  • Dokumente einordnen und auslesen: Eingehende PDFs werden erkannt, den richtigen Vorgängen zugeordnet und die Angaben in Ihre Software übertragen. Bei DEMV Systems verarbeitet eine solche Pipeline täglich tausende Versicherungsdokumente.
  • Zusammenfassen und Entwürfe schreiben: Protokolle, Antwortentwürfe für den Kundenservice, Produkttexte. Für veröffentlichte Inhalte gelten seit August 2026 Transparenzpflichten aus dem EU AI Act.
  • Mehrschrittige Abläufe: Wenn das Modell zusätzlich Werkzeuge bedient, etwa eine Suche oder Ihr CRM, spricht man von KI-Agenten.

Wann ist ein LLM das falsche Werkzeug?

Ein LLM ist das falsche Werkzeug, wenn die Aufgabe immer gleich aussieht und das Ergebnis exakt stimmen muss. Für das Auslesen eines Standardformulars ist ein spezialisiertes Modell schneller, günstiger und genauer. Wir raten deshalb davon ab, jede Dokumentenaufgabe mit einem großen Sprachmodell zu lösen, nur weil es gerade verfügbar ist.

Ein Beispiel aus unserer Praxis: Für TaxiFusion lesen wir Fahrzeugscheine aus. Dort arbeitet bewusst kein Sprachmodell, sondern ein eigenes Erkennungsmodell. Es braucht rund 2,3 Sekunden je Fahrzeugschein, liest auch schlechte Scans und läuft ganz ohne Cloud auf eigener Infrastruktur. Die ganze Geschichte steht in der Case Study zur Fahrzeugschein-Analyse.

AufgabePassendes WerkzeugWarum
Feste Felder aus immer gleichen Formularen lesenTexterkennung mit spezialisiertem ModellSchnell, günstig, lokal betreibbar, kein Halluzinationsrisiko
Freie Fragen zu eigenen Dokumenten beantwortenLLM mit RAGVersteht Formulierungen, nennt die Fundstelle
Unterschiedliche Dokumente einordnen und Angaben extrahierenLLM mit Texterkennung, unklare Fälle an MenschenKommt mit wechselnden Layouts zurecht
Mehrschrittige Vorgänge mit mehreren SystemenKI-Agent mit FreigabeschrittenPlant Schritte und bedient Werkzeuge
Berechnungen, Summen, FristenKlassischer Code, vom LLM aufgerufenExakt und nachvollziehbar

Cloud oder eigener Server?

Ein LLM aus der Cloud ist schneller eingerichtet, ein LLM auf eigenen Servern gibt Ihnen die volle Kontrolle über die Daten. Welche Variante passt, hängt davon ab, welche Daten das Modell sieht und welche Verträge Sie mit dem Anbieter schließen können.

Bei Cloud-Modellen brauchen Sie einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO und sollten klären, in welcher Region die Daten verarbeitet werden und ob der Anbieter sie zum Training nutzt. Offene Modelle laufen dagegen vollständig auf Servern in Deutschland oder bei Ihnen im Haus. Die Abwägung mit Vor- und Nachteilen beider Wege steht im Artikel Das eigene ChatGPT.

Wie sind Large Language Models entstanden?

2017 stellte Google den Transformer vor. 2018 folgte das erste GPT-Modell von OpenAI, das bereits zusammenhängende Texte schreiben konnte. Mit ChatGPT erreichten LLMs Ende 2022 die breite Öffentlichkeit. Seitdem erscheinen im Abstand weniger Monate neue Modellgenerationen, und offene Modelle haben den Abstand zu den kommerziellen Spitzenmodellen deutlich verkleinert.

Lösungen von SymbolicLabs

Wir setzen LLMs dort ein, wo sie Lese- und Schreibarbeit abnehmen, und binden sie an die Software an, mit der Ihr Team ohnehin arbeitet. Wo ein kleineres Modell oder klassischer Code die Aufgabe besser löst, sagen wir das.

  • LeistungKI-Anbindungen

    Wir binden Sprachmodelle an Ihre Software an, für Dokumente, Wissen und Abläufe, betrieben in Deutschland oder auf Ihren Servern.

  • ArtikelWas ist RAG?

    Wie ein LLM aus Ihren eigenen Dokumenten antwortet und die Quelle nennt.

  • Werkzeugdokumentenchat (öffnet in neuem Tab)

    Ein LLM-Produkt von uns zum Ausprobieren: Es erklärt Bescheide und Verträge und zeigt zu jeder Antwort die Stelle im Dokument.

Häufig gestellte Fragen (FAQ)

Was ist ein Large Language Model einfach erklärt?

Ein Large Language Model ist ein KI-Modell, das mit sehr vielen Texten trainiert wurde und daraus gelernt hat, Sprache zu verstehen und selbst zu schreiben. Es sagt Stück für Stück voraus, welches Wort am wahrscheinlichsten folgt. ChatGPT, Gemini und Claude sind bekannte Beispiele.

Was ist der Unterschied zwischen ChatGPT und einem LLM?

ChatGPT ist eine Anwendung, das LLM ist das Modell darin. OpenAI betreibt mit ChatGPT eine Chatoberfläche, die auf die GPT-Modelle zugreift. Dieselben Modelle lassen sich über eine Schnittstelle auch in eigene Software einbinden.

Warum erfinden LLMs manchmal Fakten?

LLMs erzeugen immer die wahrscheinlichste Fortsetzung eines Textes, auch wenn ihnen die richtige Information fehlt. Sie haben keine eingebaute Prüfung, ob eine Aussage stimmt. Abhilfe schafft ein System, das dem Modell die passenden Dokumente mitgibt und zu jeder Antwort die Quelle zeigt.

Kann man ein LLM lokal betreiben?

Ja. Offene Modelle wie Llama, Qwen oder Mistral lassen sich auf eigenen Servern betreiben, Werkzeuge wie Ollama machen den Einstieg einfach. Für den produktiven Einsatz mit mehreren Nutzern brauchen Sie einen Server mit passender Grafikkarte und jemanden, der Updates und Betrieb übernimmt.

Ist die Nutzung von LLMs DSGVO-konform möglich?

Ja, wenn Sie den Anbieter und den Betrieb passend wählen. Bei Cloud-Modellen brauchen Sie einen Vertrag zur Auftragsverarbeitung, eine Verarbeitung in der EU und den Ausschluss der Nutzung Ihrer Daten zum Training. Bei offenen Modellen auf eigenen Servern verlassen die Daten Ihr Haus nicht.

Was kostet der Einsatz eines LLM im Unternehmen?

Ein Pilot mit Ihren echten Daten kostet bei uns 5.000 bis 15.000 Euro, ein angebundenes Produktivsystem beginnt bei 15.000 Euro. Dazu kommen laufende Kosten für das Modell: Cloud-Modelle rechnen pro Token ab, offene Modelle kosten Serverbetrieb. Was in Ihrem Fall realistisch ist, zeigt die Preisübersicht für KI-Anbindungen.

Reden wir über Ihr Projekt.

Buchen Sie direkt 30 Minuten per Video, oder schreiben und rufen Sie an. Antwort innerhalb eines Werktags.

Freie Termine werden gesucht
Mo
Di
Mi
Do
Fr
Sa
So
Verfügbare Zeiten

Verfügbarkeit wird geladen …

Kian ShahriyariAntwort innerhalb eines Werktags

30 Minuten per Video: eine ehrliche Ersteinschätzung Ihres Vorhabens, kostenlos und unverbindlich.

Unverbindliche Anfrage: Der Termin wird nach kurzer Prüfung per E-Mail bestätigt.

Was Sie vorhaben, was Sie heute stört und bis wann es fertig sein soll: Das genügt für den Einstieg.

Kian Shahriyari
Kian ShahriyariGeschäftsführer

Mo bis Fr, 9 bis 18 Uhr. Aus Hamburg, für ganz Deutschland.