Artikel 50 des EU AI Act gilt ab dem 2. August 2026 und verpflichtet Anbieter sowie Betreiber bestimmter KI-Systeme zu mehr Transparenz. Nutzer müssen grundsätzlich erkennen können, wenn sie mit einem KI-System interagieren. Anbieter generativer KI-Systeme müssen KI-generierte oder manipulierte Inhalte maschinenlesbar kennzeichnen. Bei Deepfakes und bestimmten KI-generierten Veröffentlichungen zu Themen von öffentlichem Interesse kommen zusätzliche sichtbare Informationspflichten hinzu. Die neuen Regeln machen KI-Regulierung erstmals unmittelbar im Alltag sichtbar: Chatbots, Bildgeneratoren, Videotools, synthetische Stimmen und KI-gestützte Publikationssysteme müssen ihre Rolle klarer offenlegen.
| Pflicht | Artikel 50 des EU AI Act | Praktische Bedeutung |
|---|---|---|
| Startdatum | 2. August 2026 | Neue Transparenzpflicht wird wirksam |
| Chatbot-Hinweis | Nutzer müssen grundsätzlich über KI-Interaktion informiert werden | Reine Täuschung durch Chatbots wird schwieriger |
| Maschinenlesbare Markierung | Synthetische Inhalte müssen technisch erkennbar markiert werden | Wasserzeichen, Metadaten oder andere robuste Verfahren werden wichtig |
| Deepfakes | Künstlich erzeugte oder manipulierte Bild-, Ton- und Videoinhalte müssen offengelegt werden | Sichtbare Hinweise werden bei realistisch wirkenden Inhalten zentral |
| KI-Texte zu öffentlichem Interesse | Veröffentlichung muss KI-Erzeugung oder Manipulation offenlegen, sofern keine Ausnahme greift | Medien, Parteien, Unternehmen und Agenturen müssen Workflows prüfen |
| Emotionserkennung | Betroffene Personen müssen informiert werden | Einsatz in Apps und Arbeitsumgebungen muss klarer werden |
| Biometrische Kategorisierung | Betroffene Personen müssen informiert werden | Sensible biometrische Anwendungen bekommen Hinweispflicht |
| Zuständige Aufsicht | Nationale Marktüberwachungsbehörden, AI Office und EDPS | Durchsetzung hängt vom konkreten Anbieter und Einsatz ab |
| Übergang | Begrenzte Frist nur für bestimmte Alt-Systeme bei Markierungspflichten | Nicht jede Pflicht wird pauschal verschoben |
EU-Kommission macht Artikel 50 ab 2. August praktisch relevant
Die Europäische Kommission hat im Juli 2026 Leitlinien zu den Transparenzpflichten veröffentlicht. Damit rückt Artikel 50 des AI Act aus der juristischen Vorbereitung in den praktischen Betrieb. Die Pflichten betreffen nicht nur große Modellanbieter. Sie können auch Unternehmen, Behörden, Medienhäuser, App-Entwickler, Marketingagenturen, Plattformbetreiber und Anbieter treffen, die KI-Systeme in eigenen Produkten einsetzen.
Der einfachste Fall betrifft interaktive KI-Systeme. Wenn ein Nutzer mit einem Chatbot, Sprachassistenten oder virtuellen Agenten spricht, soll er grundsätzlich erkennen können, dass auf der anderen Seite kein Mensch antwortet. Die Information muss laut AI Act spätestens bei der ersten Interaktion erfolgen, sofern das nicht aus dem Kontext offensichtlich ist. Ein KI-Supportbot auf einer Webseite braucht also einen klaren Hinweis. Ein Spielcharakter in einer offensichtlich fiktionalen Umgebung kann anders zu bewerten sein.
Die zweite große Pflicht betrifft generative KI-Systeme. Anbieter müssen sicherstellen, dass synthetische Audio-, Bild-, Video- oder Textinhalte maschinenlesbar markiert und als künstlich erzeugt oder manipuliert erkennbar sind. Das ist mehr als ein sichtbarer Satz unter einem Bild. Die EU zielt auf technische Erkennbarkeit, etwa über Metadaten, Wasserzeichen oder andere Verfahren, die automatische Erkennung ermöglichen sollen.
Die Kommission betont dabei, dass Transparenz nicht nur nachträglich auf eine fertige Datei geklebt werden soll. Anbieter müssen ihre Systeme so gestalten, dass Markierungen zuverlässig, interoperabel, wirksam und robust sind. Genau dieser Punkt ist für Entwickler schwierig. Inhalte werden heruntergeladen, geschnitten, komprimiert, neu hochgeladen, übersetzt, in Präsentationen kopiert oder durch Redaktionssysteme verändert. Eine Markierung muss solche Prozesse möglichst überstehen.
Für Unternehmen entsteht daraus eine neue Checkliste vor dem 2. August:
- Chatbots prüfen: Jede Kunden-, Support- oder Bewerberinteraktion braucht eine klare KI-Kennzeichnung, wenn Nutzer sonst getäuscht werden könnten.
- Generatoren inventarisieren: Bild-, Video-, Audio- und Texttools müssen auf maschinenlesbare Markierung geprüft werden.
- Deepfake-Workflows erfassen: Synthetische Personen, Stimmen und realistisch manipulierte Szenen brauchen sichtbare Offenlegung.
- Redaktionelle Prozesse anpassen: KI-generierte Texte zu öffentlichen Themen brauchen klare Verantwortlichkeit und Ausnahmenprüfung.
- Lieferkette dokumentieren: Unternehmen müssen wissen, welche Tools, APIs und Dienstleister KI-Inhalte erzeugen.
Der Zeitpunkt passt zu einer breiteren europäischen Regulierungslinie. Bei Googles DMA-Verfahren ging es zuletzt um Plattformmacht und Gatekeeper-Regeln. Der Artikel zu Googles 890-Millionen-Euro-Strafe unter dem Digital Markets Act zeigt dieselbe Grundrichtung: Die EU will digitale Märkte nicht mehr nur nachträglich sanktionieren, sondern konkrete technische und geschäftliche Pflichten in den Betrieb großer Systeme einbauen.
Deepfakes brauchen sichtbare Offenlegung, KI-Inhalte maschinenlesbare Spuren
Bei Deepfakes geht Artikel 50 besonders weit. Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die realistisch wirken und Personen, Objekte, Orte oder Ereignisse täuschend darstellen können, müssen offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Das betrifft nicht nur politische Desinformation. Auch Werbung, Unterhaltung, Produktdemos, Influencer-Clips oder simulierte Interviews können relevant werden, wenn sie echte Personen oder realistisch wirkende Situationen nachbilden.
Für Text gelten gesonderte Regeln. Wer KI-generierten oder manipulierten Text veröffentlicht, der die Öffentlichkeit über Themen von öffentlichem Interesse informieren soll, muss die KI-Erzeugung oder Manipulation offenlegen. Das kann Nachrichten, politische Kommunikation, Wahlkampfinhalte, Verbraucherinformationen oder gesellschaftlich relevante Veröffentlichungen betreffen. Es gibt Ausnahmen, wenn ein menschlicher Prüf- oder Redaktionsprozess stattgefunden hat und eine natürliche oder juristische Person redaktionelle Verantwortung übernimmt.
Diese Ausnahme ist wichtig, aber kein Freibrief. Ein Unternehmen kann nicht einfach behaupten, ein Mensch habe „mal draufgeschaut“. Redaktionelle Verantwortung bedeutet, dass eine Person oder Organisation inhaltlich einsteht, prüft, entscheidet und die Veröffentlichung verantwortet. Für Medien und Agenturen wird deshalb nicht nur die KI-Nutzung wichtig, sondern auch der dokumentierte Ablauf bis zur Veröffentlichung.
Der Unterschied zwischen sichtbarer und maschinenlesbarer Kennzeichnung ist zentral:
- Sichtbare Kennzeichnung: Nutzer sehen direkt, dass ein Video, Bild, Ton oder bestimmter Text KI-generiert oder manipuliert wurde.
- Maschinenlesbare Kennzeichnung: Plattformen, Prüfwerkzeuge oder Behörden können technisch erkennen, dass ein Inhalt synthetisch ist.
- Metadaten: Informationen können in Dateien eingebettet werden, gehen aber bei Exporten oder Screenshots oft verloren.
- Wasserzeichen: Unsichtbare oder sichtbare Marker können robuster sein, müssen aber Manipulationen überstehen.
- Content Credentials: Herkunfts- und Bearbeitungsketten können helfen, wenn Tools und Plattformen sie durchgängig unterstützen.
Die technische Herausforderung ist erheblich. Forschung zu Wasserzeichen für große Sprachmodelle und synthetische Medien zeigt, dass keine Methode alle Anforderungen perfekt erfüllt. Wasserzeichen können durch Paraphrasen, Kompression, Screenshots, Übersetzung oder Bearbeitung geschwächt werden. Gleichzeitig dürfen sie die Qualität nicht sichtbar verschlechtern und müssen interoperabel zwischen Tools funktionieren. Artikel 50 zwingt Anbieter deshalb zu einem Bereich, der technisch noch nicht vollständig standardisiert ist.
Diese Pflicht trifft auch die großen KI-Ökosysteme. Google, OpenAI, Adobe, Microsoft und andere arbeiten bereits mit Herkunftssignalen, Wasserzeichen oder Content Credentials. Der Artikel zu Google Pics als KI-Bildeditor mit Herkunftssignalen zeigte, wie stark solche Nachweise im Produktdesign an Bedeutung gewinnen. Ab dem 2. August wird daraus in der EU kein reines Vertrauensfeature mehr, sondern eine Compliance-Frage.
Chatbot-Betreiber können sich nicht allein auf Modellanbieter verlassen
Artikel 50 unterscheidet zwischen Anbietern und Betreibern. Anbieter entwickeln oder stellen KI-Systeme bereit. Betreiber setzen sie in einem konkreten Kontext ein. Diese Trennung ist für Unternehmen entscheidend. Wer etwa ein Modell von OpenAI, Google, Anthropic, Mistral oder einem Open-Weight-Anbieter in einen Kundenchat einbindet, bleibt für den eigenen Einsatz verantwortlich. Die Compliance des Modellanbieters ersetzt nicht automatisch die eigene Hinweispflicht gegenüber Nutzern.
Ein einfaches Beispiel ist ein Online-Shop mit KI-Chat. Der zugrunde liegende Modellanbieter kann seine generativen Ausgaben markieren und technische Dokumentation liefern. Der Shop muss aber trotzdem sicherstellen, dass Kunden erkennen, wenn sie mit einem KI-System interagieren. Gleiches gilt für Banken, Versicherungen, Jobportale, Reiseanbieter, Gesundheitsapps oder öffentliche Stellen.
Besonders sensibel sind Situationen, in denen Nutzer glauben könnten, mit einem Menschen zu sprechen. Ein Chatbot mit menschlichem Namen, Profilbild, Tippanimation, künstlicher Stimme oder realistisch wirkender Videodarstellung braucht eine klare Offenlegung. Je menschenähnlicher die Interaktion wird, desto weniger reicht ein versteckter Hinweis in den AGB.
Für Betreiber ergeben sich mehrere praktische Aufgaben:
- Erste Interaktion markieren: Der KI-Hinweis muss früh erfolgen, nicht erst nach mehreren Antworten.
- Sprache anpassen: Der Hinweis muss für die Zielgruppe verständlich sein.
- Kanäle prüfen: Webseite, App, Messenger, Telefonbot und E-Mail-Automation können getrennte Hinweise brauchen.
- Eskalation erklären: Nutzer sollten erkennen, wann ein Mensch übernimmt oder wie ein Mensch erreicht werden kann.
- Protokolle sichern: Unternehmen sollten nachweisen können, wann und wie der Hinweis angezeigt wurde.
Der Zusammenhang zu Agenten und autonomen Systemen wird stärker. KI-Systeme führen nicht mehr nur Texteingaben aus. Sie buchen Termine, durchsuchen Dokumente, bedienen Tools, schreiben Code, erstellen Bilder oder fassen Kundendaten zusammen. Der Beitrag zu OpenAI-Agenten und dem Hugging-Face-Sicherheitsvorfall zeigte, wie schnell Toolzugriff und autonome Abläufe Sicherheitsfragen verschärfen. Transparenz ist in solchen Systemen nicht nur ein Label, sondern Teil der Risikobegrenzung.
Die EU setzt auf Transparenz, nicht auf ein pauschales KI-Verbot
Artikel 50 verbietet Chatbots, Bildgeneratoren oder Deepfake-Technik nicht pauschal. Die EU setzt in diesem Teil des AI Act auf Transparenz. Nutzer sollen wissen, wann sie mit KI interagieren, wann Inhalte synthetisch sind und wann realistisch wirkende Medien manipuliert wurden. Das soll Vertrauen stärken und Täuschung erschweren, ohne generative KI grundsätzlich zu stoppen.
Die Durchsetzung verteilt sich auf mehrere Stellen. Nationale Marktüberwachungsbehörden sollen viele Regeln kontrollieren. Das AI Office ist für Systeme unter seiner Aufsicht zuständig. Der Europäische Datenschutzbeauftragte spielt eine Rolle, wenn EU-Institutionen KI-Systeme einsetzen. In der Praxis wird sich erst zeigen, wie schnell Behörden reagieren und welche Fälle zuerst verfolgt werden.
Ein begrenzter Übergangszeitraum ist laut Kommissions-FAQ nur für bestimmte Systeme vorgesehen, die vor dem 2. August 2026 auf den Markt gebracht wurden, und nur für die Markierungs- und Erkennungspflicht nach Artikel 50 Absatz 2. Unternehmen sollten daraus keine allgemeine Schonfrist ableiten. Chatbot-Hinweise, Deepfake-Offenlegung und Betreiberpflichten müssen getrennt geprüft werden.
Für kleinere Unternehmen und Agenturen wird die Umsetzung besonders anspruchsvoll. Viele Teams nutzen mehrere KI-Tools parallel: Bildgeneratoren für Social Media, Sprachmodelle für Texte, Video-Tools für Clips, Übersetzungssysteme, Chatbots und Automationsdienste. Ohne Inventar ist kaum nachvollziehbar, welche Inhalte markiert werden müssen und welche Plattform die Markierung beim Export erhält.
Die Lage erinnert an andere EU-Digitalregeln. Unternehmen mussten bereits Cookie-Banner, Datenschutzinformationen, DSA-Meldemechanismen oder DMA-Änderungen in konkrete Produktabläufe übersetzen. Der AI Act bringt nun eine weitere Ebene hinzu: Nicht nur Datenverarbeitung und Plattformmacht sind relevant, sondern die Erkennbarkeit synthetischer Interaktion und synthetischer Inhalte.
Der 2. August 2026 ist deshalb kein rein juristischer Stichtag. Er wird in Chatfenstern, Supportsystemen, Videotools, Social-Media-Workflows, Redaktionssystemen und Marketingprozessen sichtbar. Anbieter und Betreiber müssen ihre Hinweise, Markierungen und Verantwortlichkeiten jetzt prüfen. Wer ab dem Stichtag KI-Systeme einsetzt, sollte belegen können, dass Nutzer nicht im Unklaren bleiben, ob sie mit einem Menschen, einer Maschine oder einem künstlich erzeugten Medium konfrontiert sind.