EU-AI Act: Neue Kennzeichnungspflichten für KI-Inhalte

Künstliche Intelligenz hat sich in den vergangenen Jahren enorm weiterentwickelt und ist keine Technologie mehr, die ausschließlich von Entwicklern oder Menschen mit umfangreichen IT-Kenntnissen genutzt werden kann. Mit wenigen Klicks lassen sich Texte schreiben, Bilder erstellen, Stimmen imitieren oder komplette Videos generieren. Genau diese einfache Verfügbarkeit ist einer der größten Vorteile von KI. Gleichzeitig entsteht dadurch ein immer größeres Problem: Je besser KI wird, desto schwieriger wird es für uns Menschen, echte und künstlich erzeugte Inhalte voneinander zu unterscheiden.

Besonders deutlich wird das auf Social Media. KI-generierte Videos mit Politikern und anderen bekannten Persönlichkeiten gehören beinahe zum normalen Feed. Personen singen plötzlich Lieder, die sie nie gesungen haben, befinden sich an Orten, an denen sie nie waren, oder treffen Aussagen, die sie niemals getroffen haben. Solange das überspitzt und humorvoll dargestellt wird, nehmen viele Menschen solche Inhalte als Unterhaltung wahr. Doch darin liegt eine Gefahr. Je realistischer die Technologie wird, desto schmaler wird die Grenze zwischen einem offensichtlichen Spaß und einer glaubwürdigen Fälschung. Aus einem lustigen Video kann schnell ein manipulierter Inhalt werden, der einer echten Person Aussagen oder Handlungen zuschreibt, die niemals stattgefunden haben.

Der EU AI Act bezeichnet entsprechende Inhalte als Deepfakes: künstlich erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte, die real existierenden Personen, Objekten, Orten oder Ereignissen ähneln und für Betrachter fälschlicherweise authentisch wirken können. Für solche Inhalte gelten seit dem 2. August 2026 besondere Transparenzanforderungen. Das Thema geht damit über lustige Videos im Internet hinaus.

Nahezu jede Person kann zum Ziel solcher Manipulationen werden. Bilder können verändert, Stimmen nachgebildet und komplette Situationen erfunden werden. Im schlimmsten Fall entstehen dadurch Falschinformationen, Identitätsmissbrauch oder massive Rufschäden. Die Herausforderung: Wenn Menschen regelmäßig mit täuschend echten KI-Inhalten konfrontiert werden, wird es zunehmend schwieriger zu beurteilen, welchem digitalen Inhalt überhaupt noch vertraut werden kann.

Die Auswirkungen beschränken sich längst nicht auf Bilder und Videos. Auch Texte können innerhalb weniger Sekunden von generativer KI erstellt werden. Schüler und Studenten können beispielsweise Hausarbeiten, Zusammenfassungen oder ganze Ausarbeitungen generieren lassen, ohne sich selbst intensiv mit dem eigentlichen Thema auseinandersetzen zu müssen. Gleichzeitig kann KI ein hilfreiches Werkzeug beim Lernen sein. Sie kann komplizierte Sachverhalte erklären, Texte verbessern, bei Recherchen unterstützen oder Gedanken strukturieren. Entscheidend ist, wie die Technologie eingesetzt wird. Es macht einen deutlichen Unterschied, ob jemand KI verwendet, um ein selbst erarbeitetes Ergebnis sprachlich zu verbessern, oder ob eine komplette Abgabe generiert und anschließend als eigene Leistung eingereicht wird.

Das gleiche Problem entsteht im beruflichen Umfeld. Texte, Grafiken, Präsentationen, Programmcode oder andere Arbeitsergebnisse können mithilfe künstlicher Intelligenz erstellt oder überarbeitet werden. Damit stellt sich zunehmend die Frage, welchen Anteil ein Mensch tatsächlich an einem digitalen Inhalt hat.

Und genau an diesem Punkt setzt die Europäische Union an. Der EU AI Act soll mehr Transparenz schaffen. Mit ihm wurde erstmals ein umfassender europäischer Rechtsrahmen für künstliche Intelligenz geschaffen. Die Verordnung selbst ist bereits 2024 in Kraft getreten. Seit dem 2. August 2026 gelten nun auch wesentliche Transparenzpflichten aus Artikel 50 des AI Act für KI-generierte und manipulierte Inhalte. Ein wesentlicher Gedanke dahinter ist einfach: Wer mit KI erzeugte oder manipulierte Inhalte sieht, soll unter bestimmten Voraussetzungen erkennen können, dass KI daran beteiligt war. Dabei müssen allerdings zwei unterschiedliche Ebenen betrachtet werden. Auf der einen Seite gibt es maschinenlesbare Kennzeichnungen, die direkt durch Anbieter generativer KI-Systeme in Inhalte integriert werden können. Auf der anderen Seite existieren sichtbare Hinweise für den Menschen, beispielsweise bei Deepfakes oder bestimmten KI-generierten Texten von öffentlichem Interesse. Nicht jeder Text und nicht jedes mit KI bearbeitete Bild muss deshalb automatisch mit einem großen sichtbaren „KI“-Hinweis versehen werden. Die konkreten Pflichten hängen davon ab, um welche Art von Inhalt es sich handelt und in welchem Zusammenhang dieser veröffentlicht wird.

Doch welche Inhalte müssen sichtbar gekennzeichnet werden? Besonders relevant sind nach Artikel 50 Absatz 4 des EU AI Act unter anderem Deepfakes. Wird ein Video erzeugt, in dem ein realer Politiker scheinbar eine Aussage trifft, die niemals gefallen ist, muss die künstliche Erstellung oder Manipulation offengelegt werden. Darüber hinaus betrifft die Regelung bestimmte KI-generierte oder manipulierte Texte zu Angelegenheiten von öffentlichem Interesse. Hier gibt es allerdings eine wichtige Ausnahme: Wurde ein solcher Text anschließend von einem Menschen überprüft oder redaktionell kontrolliert und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung, greift diese Offenlegungspflicht für den Text nicht in gleicher Weise. Auch für offensichtlich künstlerische, kreative, satirische oder fiktive Inhalte gibt es besondere Regelungen. Hier soll eine notwendige Kennzeichnung nicht dazu führen, dass das eigentliche Werk oder dessen Wahrnehmung unnötig beeinträchtigt wird. Das ist insbesondere für Social Media interessant. Ein offensichtlich satirisches KI-Video wird rechtlich anders behandelt als ein täuschend echtes Video, das den Eindruck vermitteln soll, ein reales Ereignis habe stattgefunden.

Damit Kennzeichnungen verständlich und einheitlich umgesetzt werden können, hat die Europäische Union zusätzlich eigene EU-Symbole für KI-generierte Inhalte entwickelt. Die Icons sollen Menschen schnell erkennen lassen, dass ein Inhalt mithilfe künstlicher Intelligenz erzeugt oder verändert wurde. Dabei gibt es unterschiedliche Varianten. Das allgemeine KI-Symbol kann verwendet werden, wenn KI an der Erstellung eines entsprechenden Inhalts beteiligt war. Daneben existiert eine Kennzeichnung für vollständig KI-generierte Inhalte. Diese kann bei einem vollständig künstlich erzeugten Deepfake-Video oder einem vollständig von KI generierten Text eingesetzt werden. Eine weitere Variante kennzeichnet Inhalte, die teilweise mit KI verändert wurden. Ein Beispiel wäre ein eigentlich echtes Foto, bei dem anschließend mithilfe künstlicher Intelligenz das Gesicht einer Person ausgetauscht wurde. Die EU stellt die Symbole in verschiedenen Varianten unter anderem in Schwarz, Weiß sowie mit Transparenz kostenlos zur Verfügung. Wichtig ist allerdings: Die Verwendung genau dieser EU-Symbole ist freiwillig.

Die Transparenzpflichten des EU AI Act selbst sind es nicht. Ein Unternehmen kann seine gesetzlichen Pflichten deshalb nicht allein dadurch erfüllen, dass es einfach irgendwo eines der EU-Icons einblendet. Entscheidend ist weiterhin, dass die jeweiligen Anforderungen aus Artikel 50 korrekt umgesetzt werden. Auch bei der Darstellung der Kennzeichnung gibt es Vorgaben und Empfehlungen. Das Symbol sollte spätestens dann deutlich erkennbar sein, wenn eine Person zum ersten Mal mit dem entsprechenden Inhalt in Kontakt kommt. Es sollte nicht hinter anderen Elementen verschwinden und nach Möglichkeit direkt mit dem jeweiligen Inhalt verbunden sein. Auch wenn der Inhalt erneut geteilt oder heruntergeladen wird, soll die Kennzeichnung erhalten bleiben.

Anthropic geht mit Claude noch einen Schritt weiter. Während die EU-Icons eine sichtbare Kennzeichnung für Menschen ermöglichen, setzt Anthropic bei Claude zusätzlich auf eine für Menschen unsichtbare technische Lösung. Anthropic hat den europäischen Verhaltenskodex zur Transparenz KI-generierter Inhalte unterzeichnet und stattet unterstützte neue Claude-Modelle mit maschinenlesbaren Markierungen aus. Bei generierten Texten wird dafür ein unsichtbares Wasserzeichen direkt in den Text integriert. Nach Angaben von Anthropic soll dieses weder die Bedeutung noch die Qualität oder Lesbarkeit des Textes verändern. Der interessante Punkt dabei: Das Wasserzeichen ist Bestandteil des generierten Textes und kann deshalb auch beim Kopieren und Einfügen erhalten bleiben. Selbst bestimmte nachträgliche Bearbeitungen können die Kennzeichnung erhalten. Die Markierung wird außerdem auf Modellebene vorgenommen. Dadurch soll sie unabhängig davon funktionieren, ob Claude beispielsweise direkt über eine Claude-Anwendung, eine API oder eine Cloud-Plattform genutzt wird. Für Dateien wie SVG, PNG oder JPG setzt Anthropic zusätzlich auf signierte Herkunftsmetadaten nach dem offenen C2PA-Standard. Dadurch kann eine Datei mit der Information versehen werden, dass sie von Claude verarbeitet wurde. Anthropic schafft außerdem Möglichkeiten, mit denen Nutzer und Dritte solche Markierungen erkennen können.

Für Modelle, die bereits vor dem 2. August 2026 auf dem Markt waren, gilt aufgrund einer nachträglich eingeführten Übergangsregelung eine Frist zur technischen Anpassung bis zum 2. Dezember 2026.  Ein Wasserzeichen bedeutet nicht automatisch „Dieser Text wurde von KI geschrieben“. Genau hier entsteht ein Problem, das bei der Diskussion über KI-Kennzeichnungen nicht vergessen werden darf. Ein erkanntes Wasserzeichen heißt nicht zwangsläufig, dass Claude der eigentliche Autor eines Textes ist. Stellen wir uns vor, jemand schreibt einen vollständigen Blogartikel selbst und lässt Claude anschließend lediglich Rechtschreibung, Grammatik und Formulierungen verbessern. Auch dieser bearbeitete Text kann eine entsprechende Markierung enthalten. Dasselbe gilt, wenn Claude nur zum Übersetzen, Zusammenfassen oder Konvertieren eines bestehenden Inhalts verwendet wurde. Eine technische Erkennung kann deshalb grundsätzlich zeigen, dass Claude an der Verarbeitung eines Inhalts beteiligt war. Daraus lässt sich jedoch nicht automatisch ableiten, wie groß der tatsächliche Anteil der KI war. Umgekehrt gilt das genauso. Kein erkanntes Wasserzeichen bedeutet nicht automatisch, dass ein Inhalt von einem Menschen stammt. Ein Text könnte beispielsweise mit einem älteren Modell erstellt, sehr stark umformuliert oder mit anderen Texten vermischt worden sein. Bei Dateien können Herkunftsmetadaten zudem durch Screenshots, Formatänderungen oder erneutes Speichern verloren gehen. Genau deshalb dürfen solche Wasserzeichen nicht mit einem hundertprozentig zuverlässigen „KI-Detektor“ verwechselt werden.

Entsprechend kontrovers wird die Kennzeichnung diskutiert. Auf der einen Seite steht ein klarer Vorteil: Je realistischer KI-generierte Inhalte werden, desto wichtiger werden Möglichkeiten, deren Ursprung nachvollziehen zu können. Gerade bei Deepfakes, politischen Inhalten, Nachrichten oder gezielten Falschinformationen kann eine Kennzeichnung dabei helfen, einen Inhalt kritischer zu betrachten. Auf der anderen Seite entsteht jedoch die Frage, wie mit teilweise KI-unterstützten Inhalten umgegangen werden soll. Ein Student, Journalist, Entwickler oder Autor kann einen Inhalt vollständig selbst erstellen und KI anschließend lediglich für Rechtschreibung oder sprachliche Optimierungen verwenden. Trägt das Ergebnis danach eine technische KI-Markierung, lässt sich daraus allein nicht mehr erkennen, ob fünf Prozent oder nahezu hundert Prozent des Inhalts durch KI beeinflusst wurden. Und hier besteht die Gefahr einer falschen Interpretation. Eine Kennzeichnung sollte deshalb nicht zwangsläufig bedeuten: „Dieser Inhalt wurde von einer KI erstellt.“ Vielmehr kann sie zunächst lediglich bedeuten: „Bei der Erstellung oder Verarbeitung dieses Inhalts war KI beteiligt.“ Dieser Unterschied wird künftig wichtig sein.

Fazit

KI muss nicht zwingend weniger werden, aber transparenter. Künstliche Intelligenz ist weder grundsätzlich gut noch grundsätzlich schlecht. Sie ist ein Werkzeug. KI kann Arbeit erleichtern, kreative Möglichkeiten schaffen, Wissen zugänglicher machen, Barrieren reduzieren und Prozesse beschleunigen. Gleichzeitig kann dieselbe Technologie eingesetzt werden, um Inhalte zu manipulieren, Menschen zu täuschen oder Leistungen vorzutäuschen, die nicht selbst erbracht wurden. Das Problem entsteht vor allem dann, wenn wir nicht mehr erkennen können, wann und in welchem Umfang sie verwendet wurde. Mit den seit dem 2. August 2026 geltenden Transparenzpflichten aus Artikel 50 des EU AI Act versucht die Europäische Union hier anzusetzen. Die neuen EU-Symbole schaffen eine sichtbare Möglichkeit, bestimmte KI-generierte oder manipulierte Inhalte für Menschen kenntlich zu machen. Technische Ansätze wie die unsichtbaren Wasserzeichen von Anthropic sollen auf einer zweiten Ebene dafür sorgen, dass KI-Inhalte auch maschinell nachvollziehbarer werden.

Perfekt sind beide Ansätze noch nicht. Ein Wasserzeichen kann verloren gehen. Ein vorhandenes Wasserzeichen sagt nicht zwangsläufig etwas darüber aus, wie groß der KI-Anteil tatsächlich war. Und eine sichtbare Kennzeichnung kann ignoriert oder falsch interpretiert werden. Trotzdem ist der grundsätzliche Ansatz wichtig. Denn je besser künstliche Intelligenz darin wird, Realität zu imitieren, desto wichtiger wird eine Information, die bisher selbstverständlich erschien: Zu wissen, ob das, was wir gerade sehen, hören oder lesen, tatsächlich von einem Menschen stammt.

Quellen

• Europäische Kommission: EU-Icons zur Kennzeichnung von KI-generierten Inhalten, Stand 20. Juli 2026.
• Europäische Kommission: Code of Practice on Transparency of AI-generated Content.
• Europäische Kommission: Veröffentlichung des finalen Code of Practice on marking and labelling of AI-generated content vom 10. Juni 2026.
• EUR-Lex: Verordnung (EU) 2024/1689 – insbesondere Artikel 50 zu Transparenzpflichten für bestimmte KI-Systeme.
• EUR-Lex: Verordnung (EU) 2026/1744 – unter anderem Übergangsregelung für vor dem 2. August 2026 in Verkehr gebrachte generative KI-Systeme.
• Anthropic / Claude Help Center: „Wie Claude KI-generierte Inhalte kennzeichnet“ – Angaben zu