Was verlangt die KI-Kennzeichnungspflicht?
Artikel 50 des EU AI Act verpflichtet Sie seit dem 2. August 2026 in vier Fällen zur Offenlegung: bei KI-Systemen, die mit Menschen interagieren, bei maschinenlesbar zu markierenden synthetischen Inhalten, bei Emotionserkennung und bei Deepfakes. Für Ihren Website-Chatbot heißt das ja, für Ihre KI-geschriebenen Produkttexte in aller Regel nein. Verstöße kosten bis zu 15 Millionen Euro oder 3 Prozent des Jahresumsatzes.
Die rechtliche Seite ist inzwischen gut beschrieben. In diesem Artikel: welche Pflicht wen trifft, welche Formulierung am Chatbot reicht, was "maschinenlesbar" technisch bedeutet und warum Ihre Bildpipeline die Kennzeichnung mit hoher Wahrscheinlichkeit gerade löscht.
Dieser Artikel dient der allgemeinen Information und ersetzt keine Rechtsberatung. Er gibt die Rechtslage zum Zeitpunkt der Veröffentlichung wieder. Ob und in welcher Form die beschriebenen Pflichten Ihr Unternehmen treffen, klären Sie im Einzelfall mit qualifizierter Rechtsberatung.
Wer muss was kennzeichnen? Die vier Fälle aus Artikel 50
Artikel 50 verteilt die Pflichten auf zwei Rollen. Den Anbieter trifft, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt. Den Betreiber trifft, wer ein fremdes System im eigenen Betrieb einsetzt. Die meisten Unternehmen, die ChatGPT, Copilot oder einen eingekauften Chatbot nutzen, sind Betreiber und haben damit nur zwei der vier Pflichten.
| Fall | Wen es trifft | Was zu tun ist | Ausnahme |
|---|---|---|---|
| Art. 50(1) Interaktion mit Menschen | Anbieter | Offenlegen, dass es sich um KI handelt | Der KI-Einsatz ist offensichtlich |
| Art. 50(2) Synthetische Inhalte | Anbieter | Ausgaben maschinenlesbar als KI-erzeugt markieren | Nur unterstützende Bearbeitung, keine wesentliche Änderung |
| Art. 50(3) Emotionserkennung, biometrische Kategorisierung | Betreiber | Betroffene informieren | Strafverfolgung mit Schutzmaßnahmen |
| Art. 50(4) Deepfakes und Texte von öffentlichem Interesse | Betreiber | Künstliche Erzeugung offenlegen | Kunst und Satire eingeschränkt, redaktionelle Verantwortung bei Texten |
Diese Rollenverteilung erklärt eine Verwirrung, die sich hartnäckig hält: die maschinenlesbare Markierung aus Absatz 2 schulden OpenAI, Google und Adobe, nicht Sie als Nutzer ihrer Werkzeuge. Ihre eigene Pflicht als Betreiber entsteht erst bei Deepfakes und bei öffentlich informierenden Texten.
Wer jedoch ein Fremdmodell unter eigener Marke anbietet, wesentlich verändert oder für einen anderen Zweck einsetzt als vorgesehen, gilt selbst als Anbieter und übernimmt die Anbieterpflichten mit. Das ist der Punkt, an dem Agenturprodukte und White-Label-Chatbots regelmäßig falsch eingeordnet werden. Die Grundlagen dazu haben wir im Überblick zum EU AI Act beschrieben.
Chatbot als KI kennzeichnen: was reicht, was nicht
Ein Satz im Chatfenster, sichtbar vor der ersten Nutzereingabe, erfüllt Artikel 50 Absatz 1. Er muss klar, unterscheidbar und barrierefrei sein. Ein Icon allein reicht nicht, ein Hinweis in den Nutzungsbedingungen ebenfalls nicht.
Die Verordnung nennt eine Ausnahme für Fälle, in denen der KI-Einsatz für eine "angemessen informierte, aufmerksame und verständige" Person offensichtlich ist. Wir raten davon ab, sich darauf zu stützen. Die Formulierung ist unbestimmt, es gibt keine Rechtsprechung, und wer sie für sich in Anspruch nimmt, muss im Streitfall begründen, warum die Offensichtlichkeit gerade bei seinem Interface gegeben war.
Vier Details, die in Umsetzungen regelmäßig fehlen
- Zeitpunkt: Der Hinweis gehört vor die erste Eingabemöglichkeit, nicht in die erste Antwort des Bots.
- Persistenz: Nach 30 Nachrichten sollte der Hinweis noch auffindbar sein.
- Übergabe an Menschen: Wechselt das Gespräch zu einem Mitarbeiter, muss das ebenso erkennbar sein. Sonst bleibt unklar, mit wem der Nutzer gerade spricht, und der ursprüngliche Hinweis wird irreführend.
- Sprache: Der Hinweis muss in der Sprache erscheinen, in der die Oberfläche ausgeliefert wird.
Für die Formulierung braucht es keine Juristensprache. "Sie chatten mit einem KI-Assistenten" ist ausreichend und verständlicher als jede Variante mit Verordnungsverweis. Bei Sprachassistenten gehört der Hinweis an den Gesprächsanfang, bei automatisierten E-Mail-Antworten in den sichtbaren Teil der Nachricht.
Bei KI-Agenten, die eigenständig Aktionen auslösen statt nur zu antworten, kommt eine zweite Ebene dazu. Dort muss erkennbar sein, was die Maschine gerade tut, nicht allein dass es eine ist. Artikel 50 verlangt das nicht ausdrücklich. Es ist aber die Grundlage dafür, im Zweifelsfall nachweisen zu können, wer eine Entscheidung getroffen hat.
Müssen KI-Texte auf der Website gekennzeichnet werden?
In aller Regel nicht. Die Betreiberpflicht aus Artikel 50 Absatz 4 gilt für KI-generierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Produktbeschreibungen, Landingpages, Stellenanzeigen und Marketing-Newsletter fallen nicht darunter. Und selbst bei Texten, die in den Anwendungsbereich fallen, entfällt die Pflicht, sobald der Text redaktionell geprüft wurde und eine Person die redaktionelle Verantwortung trägt.
Die Grenze verläuft damit nicht zwischen "mit KI geschrieben" und "von Hand geschrieben", sondern zwischen KI als alleinigem Autor und KI als Werkzeug in einem verantworteten Prozess. Ein Fachartikel zu einem gesellschaftlich relevanten Thema, den ein Modell ohne menschliche Prüfung ausgibt und der so online geht, ist kennzeichnungspflichtig. Derselbe Artikel, von einer Autorin überarbeitet und freigegeben, ist es nicht.
Dass die Pflicht meist nicht greift, heißt nicht, dass Sie nichts tun müssen. Sie müssen belegen können, dass die redaktionelle Prüfung stattgefunden hat. Ohne Dokumentation von Prüfer und Zeitpunkt berufen Sie sich auf eine Ausnahme, für die Sie keinen Nachweis haben.
Wann ein KI-Bild als Deepfake gilt
Ein KI-generiertes Bild ist ein Deepfake im Sinne der Verordnung, wenn es existierende Personen, Gegenstände, Orte oder Ereignisse so darstellt, dass ein Betrachter es für echt halten könnte. Diese Bilder muss der Betreiber als künstlich erzeugt offenlegen. Erkennbar abstrakte oder stilisierte Illustrationen fallen nicht darunter, ebenso wenig Motive, die es real nicht gibt und die auch nicht als real erscheinen.
Für die Praxis auf Unternehmenswebsites entscheidet damit die Anmutung des Bildes, nicht das Werkzeug seiner Entstehung:
- Offenlegungspflichtig: ein fotorealistisches Bild eines Teams, das so nie zusammenstand. Eine generierte Innenaufnahme, die als Ihr Standort gelesen wird. Ein realistisch wirkendes Produktfoto eines Produkts, das so nicht existiert.
- Nicht offenlegungspflichtig: abstrakte Header-Grafiken, klar illustrative Darstellungen, Icons, generierte Hintergrundmuster.
Bei Kunst, Satire und fiktionalen Werken sieht die Verordnung eine abgeschwächte Form vor: Die Offenlegung darf so erfolgen, dass sie die Darbietung nicht beeinträchtigt. Für Unternehmenskommunikation ist das selten der einschlägige Fall.
Was "maschinenlesbar" technisch bedeutet
Maschinenlesbar heißt, dass die Kennzeichnung in der Datei selbst steckt und von einer Software ausgelesen werden kann, nicht nur von einem Menschen im Bildtext. Der Erwägungsgrund 133 der Verordnung nennt dafür Wasserzeichen, Metadaten-Kennungen, kryptografische Herkunftsnachweise, Protokollierung und Fingerprints. Ein konkreter Standard wird nicht vorgeschrieben.
In der Praxis hat sich C2PA (öffnet in neuem Tab) durchgesetzt, die Coalition for Content Provenance and Authenticity. Der Standard hängt an eine Datei ein kryptografisch signiertes Manifest, das festhält, womit sie erzeugt und wie sie danach bearbeitet wurde. Diese Content Credentials liefern die großen Generatoren heute mit: OpenAI signiert Ausgaben aus DALL·E, Sora und der ChatGPT-Bildgenerierung, Google bettet sie in Imagen-Bilder ein, Adobe Firefly seit dem Start 2023.
Parallel dazu arbeiten dieselben Anbieter mit unsichtbaren Wasserzeichen, etwa Googles SynthID. Der Grund dafür ist die Schwäche des Manifest-Ansatzes: Metadaten überleben nicht jede Verarbeitungskette. Das Wasserzeichen dient als Soft Binding, also als Kennung, über die sich ein verlorengegangenes Manifest später wieder auffinden lässt. Die C2PA-Spezifikation beschreibt das ausdrücklich als Mechanismus, um sich vom Strippen der Metadaten zu erholen.
Die maschinenlesbare Markierung nach Artikel 50 Absatz 2 ist eine Anbieterpflicht. Wer generative Modelle nur nutzt, schuldet sie nicht. Relevant wird sie für Sie in zwei Konstellationen: Sie bieten eine KI-Funktion in Ihrem eigenen Produkt an und sind damit Anbieter, oder Sie brauchen die Markierung als Nachweis für Ihre eigene Deepfake-Offenlegung nach Absatz 4.
Ihre Bildpipeline löscht die Kennzeichnung
Standard-Bildwerkzeuge entfernen Metadaten beim Konvertieren, und zwar in der Voreinstellung.
Drei Wege führen aus dem Problem:
- Original aufbewahren. Legen Sie die signierte Ausgangsdatei unverändert ab und leiten Sie die Web-Derivate daraus ab. Damit haben Sie den Nachweis, auch wenn das ausgelieferte Bild ihn nicht trägt.
- Nach der Konvertierung signieren. Das offene c2patool (öffnet in neuem Tab) hängt ein Manifest an eine fertige Datei an. Das gehört als letzter Schritt in den Build, nach jeder Optimierung.
- Sichtbar kennzeichnen, wo die Pflicht besteht. Bei Deepfakes im Sinne der Verordnung ist ohnehin eine für Menschen erkennbare Offenlegung verlangt. Die überlebt jede Bildpipeline.
Wie Sie prüfen, ob die Kennzeichnung noch da ist
Ziehen Sie ein ausgeliefertes Bild von Ihrer Website auf contentcredentials.org/verify (öffnet in neuem Tab). Die Prüfung läuft im Browser, die Datei wird nicht hochgeladen. Zeigt das Werkzeug kein Manifest, ist die Kennzeichnung auf dem Weg verlorengegangen. Für den Einbau in eine Pipeline leistet c2patool <datei> dasselbe auf der Kommandozeile und gibt das Manifest als JSON aus.
Nehmen Sie diesen Test einmal für ein Bild vor, das den kompletten Weg von der Generierung über Ihr CMS bis zur ausgelieferten Seite genommen hat. Nicht für die Originaldatei. Der Unterschied zwischen beiden ist genau der Punkt, um den es geht.
Kennzeichnung im CMS verankern
Die Pflicht erfüllt sich dort zuverlässig, wo Inhalte entstehen. Wer sie stattdessen nachträglich über eine bestehende Website legt, arbeitet gegen jedes Redaktionsteam und übersieht Altbestände. Drei Bausteine im Redaktionssystem reichen aus.
Pflichtfeld im Content-Modell
Ein Feld pro Inhalt erfasst den KI-Anteil: kein KI-Einsatz, KI-Entwurf mit redaktioneller Prüfung, vollständig KI-generiert. Daneben gehören Prüfer und Datum. Dieses Feld ist Ihr Nachweis der redaktionellen Verantwortung und damit die Grundlage für die Ausnahme bei Texten.
Kennzeichnung aus dem Template ableiten
Ob im Frontend ein Hinweis erscheint, entscheidet das Template anhand dieses Feldes, nicht die Redaktion von Fall zu Fall. Sobald die Entscheidung manuell fällt, wird sie uneinheitlich getroffen und lässt sich nicht mehr auditieren.
Metadaten in der Medienverwaltung schützen
Die Bildverarbeitung des CMS darf die Kennzeichnung nicht verwerfen. Prüfen Sie die Konvertierungseinstellungen, bewahren Sie die Originaldatei auf und ergänzen Sie einen Signierschritt nach der Optimierung, wenn Sie selbst als Anbieter auftreten.
Welche Systeme sich dafür eignen und wie frei Sie beim Content-Modell sind, unterscheidet sich erheblich. Ein System, das Bildableitungen fest verdrahtet, lässt Ihnen bei Schritt drei wenig Spielraum. Im Vergleich das beste CMS 2026 haben wir die Systeme danach eingeordnet.
Fristen: was gilt seit wann?
Die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026. Eine einzige Ausnahme gibt es: Anbieter von Systemen, die synthetische Inhalte erzeugen und die vor dem 2. August 2026 auf dem Markt waren, haben für die maschinenlesbare Markierung nach Absatz 2 bis zum 2. Dezember 2026 Zeit.
| Pflicht | Gilt seit | Übergangsfrist |
|---|---|---|
| Hinweis bei Interaktion (Abs. 1) | 2. August 2026 | keine |
| Maschinenlesbare Markierung (Abs. 2), Systeme ab 2. August 2026 | 2. August 2026 | keine |
| Maschinenlesbare Markierung (Abs. 2), Altsysteme | 2. August 2026 | bis 2. Dezember 2026 |
| Emotionserkennung (Abs. 3) | 2. August 2026 | keine |
| Deepfakes und öffentliche Texte (Abs. 4) | 2. August 2026 | keine |
Diese Schonfrist wird häufig zu weit gelesen. Sie betrifft ausschließlich Absatz 2 und ausschließlich Anbieter.
Der Digital Omnibus, seit dem 27. Juli 2026 in Kraft, hat an Artikel 50 im Kern nichts geändert. Verschoben wurden die Pflichten für Hochrisiko-Systeme, auf den 2. Dezember 2027 und den 2. August 2028. Wer daraus ableitet, die Kennzeichnung habe ebenfalls Zeit, verwechselt zwei getrennte Regelungsbereiche.
Was ein Verstoß kostet
Verstöße gegen die Transparenzpflichten fallen in die mittlere Bußgeldstufe: bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Artikel 50 ist in Artikel 99 (öffnet in neuem Tab) ausdrücklich genannt. Für kleine und mittlere Unternehmen einschließlich Start-ups gilt jeweils der niedrigere der beiden Werte.
Zuständig ist in Deutschland seit dem 29. Juli 2026 die Bundesnetzagentur, die zugleich als Beschwerdestelle fungiert. Das ist für die Risikoeinschätzung der relevantere Punkt als die Bußgeldhöhe: Ein fehlender Chatbot-Hinweis fällt nicht bei einer Routinekontrolle auf, sondern wenn ihn jemand meldet. Sichtbare Pflichten auf öffentlichen Websites sind von außen prüfbar, ohne dass eine Behörde Ihr Haus betreten muss.
Unsere Einschätzung: Die Rechtsfrage ist geklärt, die technische nicht
Zur Rechtslage bei Artikel 50 gibt es inzwischen ausreichend gute Darstellungen, und die Unterschiede zwischen ihnen sind gering. Woran Projekte scheitern, ist die Umsetzung, und die wird von juristischen Ratgebern konsequent ausgelassen. Ein Beitrag, der die vier Absätze korrekt referiert und dann bei "Kennzeichnung muss maschinenlesbar erfolgen" endet, lässt genau die Frage offen, die anschließend Arbeit macht.
Unsere Haltung dazu ist zweigeteilt. Bei den sichtbaren Pflichten raten wir zur großzügigen Auslegung: Setzen Sie den Chatbot-Hinweis, auch wenn Sie sich auf die Offensichtlichkeit berufen könnten, und legen Sie fotorealistische generierte Bilder offen, auch wenn die Deepfake-Definition im Einzelfall streitbar ist. Der Aufwand ist minimal, das Vertrauen ist der eigentliche Gewinn.
Bei den Textkennzeichnungen raten wir zum Gegenteil. Der pauschale KI-Hinweis unter jedem Inhalt ist rechtlich nicht gefordert und kommunikativ schädlich. Investieren Sie die Energie stattdessen in die Dokumentation der redaktionellen Prüfung. Die brauchen Sie, wenn es darauf ankommt, und der Hinweis hilft Ihnen dann nicht.
Lösungen von SymbolicLabs
Webentwicklung mit sauberer Medien-Pipeline
Wir bauen Websites, bei denen Bildoptimierung, Metadaten und Barrierefreiheit zusammenpassen, statt sich gegenseitig zu zerstören.
Webentwicklung
CMS mit Content-Governance
Ein Redaktionssystem, das den KI-Anteil je Inhalt erfasst, die Kennzeichnung aus dem Content-Modell ableitet und Content Credentials bei Bildern erhält.
CMS-Entwicklung
KI-Agenten mit Transparenz ab Werk
Agenten, die Hinweispflichten, Berechtigungsgrenzen und Protokollierung von Anfang an mitbringen.
KI-Agenten entwickeln lassen
Häufig gestellte Fragen (FAQ)
Was ist die KI-Kennzeichnungspflicht?
Die KI-Kennzeichnungspflicht ergibt sich aus Artikel 50 der KI-Verordnung (EU) 2024/1689 und gilt seit dem 2. August 2026. Sie verpflichtet Anbieter, KI-Interaktionen offenzulegen und synthetische Inhalte maschinenlesbar zu markieren, und Betreiber, Emotionserkennung und Deepfakes offenzulegen. Verstöße kosten bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes.
Muss ich meinen Chatbot als KI kennzeichnen?
Ja. Der Hinweis muss klar, unterscheidbar und barrierefrei vor der ersten Nutzereingabe erscheinen, nicht erst in der ersten Antwort des Bots. Ein Satz wie "Sie chatten mit einem KI-Assistenten" genügt. Die Ausnahme für offensichtliche KI-Nutzung ist unbestimmt formuliert und sollte nicht als Grundlage dienen.
Müssen KI-generierte Texte gekennzeichnet werden?
Meist nicht. Die Pflicht betrifft nur Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, und entfällt selbst dort bei redaktioneller Prüfung mit benannter Verantwortung. Produktbeschreibungen, Landingpages und Marketinginhalte sind nicht erfasst.
Müssen KI-generierte Bilder gekennzeichnet werden?
Nur wenn sie als Deepfake gelten, also existierende Personen, Orte, Gegenstände oder Ereignisse so darstellen, dass Betrachter sie für echt halten könnten. Abstrakte oder klar illustrative Grafiken fallen nicht darunter. Die maschinenlesbare Markierung selbst schuldet der Anbieter des Bildgenerators, nicht dessen Nutzer.
Was bedeutet maschinenlesbare Kennzeichnung?
Die Kennzeichnung muss in der Datei stecken und von Software auslesbar sein. In der Praxis geschieht das über C2PA Content Credentials, ein kryptografisch signiertes Manifest in der Datei, ergänzt um unsichtbare Wasserzeichen wie SynthID als Rückfallebene. Die Verordnung schreibt keinen konkreten Standard vor, nennt in Erwägungsgrund 133 aber Wasserzeichen, Metadaten und kryptografische Herkunftsnachweise.
Bleibt die Kennzeichnung beim Bearbeiten von Bildern erhalten?
Meist nicht. Gängige Werkzeuge entfernen Metadaten in der Voreinstellung: Bei cwebp steht die Option -metadata standardmäßig auf none, sharp entfernt ohne keepMetadata() alle Metadaten. Beide kennen in ihren Metadaten-Optionen kein C2PA, weil dessen Manifest in einem JUMBF-Container liegt. Prüfen Sie ein ausgeliefertes Bild auf contentcredentials.org/verify.
Wer ist Anbieter und wer Betreiber?
Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr. Betreiber setzt ein fremdes System im eigenen Betrieb ein. Wer ein Fremdmodell unter eigener Marke anbietet oder wesentlich verändert, wird selbst zum Anbieter und übernimmt dessen Pflichten aus den Absätzen 1 und 2.
Gibt es eine Übergangsfrist für die Kennzeichnung?
Eine einzige. Anbieter von Systemen zur Erzeugung synthetischer Inhalte, die vor dem 2. August 2026 auf dem Markt waren, müssen die maschinenlesbare Markierung nach Absatz 2 erst zum 2. Dezember 2026 umsetzen. Alle übrigen Pflichten aus Artikel 50 gelten seit dem 2. August 2026 ohne Schonfrist.
