Mit der zunehmenden Verbreitung Künstlicher Intelligenz hat sich der Einsatz von KI-Systemen in vielen Bereichen des beruflichen und gesellschaftlichen Alltags etabliert. Insbesondere Systeme zur Erzeugung von Texten, Bildern, Audio- oder Videoinhalten ermöglichen eine schnelle und effiziente Erstellung digitaler Inhalte. Gleichzeitig wird es immer schwieriger zu erkennen, ob ein Inhalt vollständig von einem Menschen erstellt oder durch ein KI-System erzeugt beziehungsweise verändert wurde.
KI-generierte Inhalte und Transparenzpflichten nach der KI-Verordnung
Was Unternehmen ab August 2026 beachten müssen
Mit der Verordnung (EU) 2024/1689 über Künstliche Intelligenz (KI-Verordnung bzw. AI Act) schafft die Europäische Union erstmals einen einheitlichen Rechtsrahmen für den Einsatz von KI-Systemen. Die Verordnung ist am 1. August 2024 in Kraft getreten; die einzelnen Regelungen werden jedoch schrittweise wirksam. Eine besondere praktische Bedeutung haben die Transparenzpflichten nach Art. 50 KI-VO, die ab dem 2. August 2026 gelten.
Die Regelungen des Art. 50 KI-VO begründen dabei keine allgemeine Pflicht, sämtliche KI-generierten Inhalte zu kennzeichnen. Vielmehr knüpfen die Transparenzanforderungen an bestimmte Anwendungsfälle an, in denen für Nutzerinnen und Nutzer erkennbar sein soll, dass sie mit einem KI-System interagieren oder KI-generierte beziehungsweise KI-manipulierte Inhalte wahrnehmen.
In diesem Beitrag erläutern wir die wesentlichen Transparenzanforderungen gemäß Art. 50 KI-VO, ordnen deren Anwendungsbereich ein und zeigen auf, wann Anbieter und Betreiber von KI-Systemen prüfen müssen, ob eine Kennzeichnungspflicht besteht.
Transparenz statt pauschaler Kennzeichnung
Ziel der Transparenzpflichten ist es, Nutzerinnen und Nutzer davor zu schützen, über den Ursprung oder die Echtheit von KI-generierten oder KI-manipulierten Inhalten getäuscht zu werden. Insbesondere bei hochwertigen KI-Systemen lassen sich synthetische Texte, Bilder, Audio- und Videoinhalte oftmals kaum noch von menschlich erstellten Inhalten unterscheiden.
Die Transparenzpflichten des Art. 50 KI-VO greifen damit nicht pauschal bei jeder Nutzung eines KI-Systems, sondern wenn die gesetzlichen Voraussetzungen eines der erfassten Anwendungsfälle erfüllt sind. Die bloße Nutzung eines KI-Systems, etwa als Schreibassistenz oder für interne Zwecke, führt grundsätzlich nicht automatisch zu einer Kennzeichnungspflicht.
Wer ist von der Kennzeichnungspflicht für KI-generierte Inhalte betroffen?
Die KI-VO unterscheidet bei den Transparenzpflichten zwischen Anbietern und Betreibern. Je nach Rolle gelten unterschiedliche Transparenzpflichten.
Anbieter
Anbieter ist gemäß KI-VO eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI System oder ein KI Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich.
Betreiber
Betreiber ist nach der Definition aus Art. 3 Nr. 4 KI-VO eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI System in eigener Verantwortung verwendet, es sei denn, das KI System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet.
Je nach Rolle gelten unterschiedliche Transparenzpflichten.
Transparenzpflichten für Anbieter
Für Anbieter bestimmter KI-Systeme sieht Art. 50 KI-VO vor allem technische Transparenzanforderungen vor. Die Systeme müssen so gestaltet sein, dass KI-generierte oder KI-manipulierte Inhalte erkennbar gemacht werden können.
Transparenzpflichten für Betreiber
Für Unternehmen und Organisationen sind insbesondere die Transparenzpflichten relevant, die Art. 50 KI-VO für Betreiber bestimmter KI-Systeme vorsieht.
Kennzeichnung von Deepfakes
Wer ein KI-System einsetzt, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert und diese Inhalte einen Deepfake im Sinne des Art. 3 Nr. 60 KI-VO darstellen, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.
Die KI-VO definiert Deepfakes in Art. 3 Nr. 60 KI-VO wie folgt: Ein Deepfake ist ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Eine Ausnahme gilt für gesetzlich zulässige Anwendungen im Bereich der Strafverfolgung.
Ist ein Deepfake Teil eines offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werkes, genügt eine angemessene Offenlegung, die den Charakter oder die Wirkung des Werkes nicht beeinträchtigt.
KI-erzeugte oder manipulierte Texte zur Information der Öffentlichkeit
Eine weitere Transparenzpflicht betrifft Texte, die durch ein KI-System erzeugt oder manipuliert wurden und veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. In diesen Fällen muss offengelegt werden, dass der Text künstlich erzeugt oder manipuliert wurde.
Die Kennzeichnungspflicht entfällt jedoch, wenn
Gerade für Medienunternehmen, Kanzleien oder Unternehmen mit Kommunikationsabteilungen besitzt diese Ausnahme erhebliche praktische Bedeutung.
Maßgeblich ist der konkrete Einsatz der KI
Ob eine Transparenzpflicht besteht, hängt nicht allein davon ab, dass bei der Erstellung eines Inhalts Künstliche Intelligenz eingesetzt wurde. Entscheidend ist vielmehr, ob der konkrete Einsatz eines KI-Systems einen der in Art. 50 KI-VO geregelten Anwendungsfälle betrifft.
Wird ein veröffentlichter Inhalt im Wesentlichen durch ein KI-System erzeugt und liegt zugleich einer der in Art. 50 KI-VO geregelten Anwendungsfälle vor, können Transparenzpflichten entstehen. Dient die KI hingegen lediglich als unterstützendes Werkzeug, etwa zur Ideensammlung, Formulierungshilfe oder sprachlichen Überarbeitung, und wird der Inhalt anschließend eigenverantwortlich von einem Menschen erstellt, geprüft oder wesentlich weiterentwickelt, löst dies für sich genommen regelmäßig keine Kennzeichnungspflicht aus.
Beispiele für Fälle ohne Transparenzpflicht nach Art. 50 KI-VO
Wie bereits ausgeführt, löst nicht jede Nutzung Künstlicher Intelligenz Transparenzpflichten aus. Typische Beispiele (nicht abschließend) ohne Kennzeichnungspflicht sind:
Wie sollte die Kennzeichnung künstlich generierter Inhalte erfolgen?
Der AI Act schreibt keine konkrete Form der Kennzeichnung vor. Gefordert wird eine klare, eindeutige und verständliche Information für die betroffenen Personen.
Mögliche Formulierungen können beispielsweise lauten:
Ergänzend hat die Europäische Kommission einen freiwilligen Code of Practice on Transparency of AI-Generated Content veröffentlicht. Bestandteil dieses Verhaltenskodex sind unter anderem frei verfügbare Symbole zur Kennzeichnung KI-generierter Inhalte. Die Icons können insbesondere zur Kennzeichnung von Deepfakes oder veröffentlichten KI-generierten Texten eingesetzt werden und unterstützen Unternehmen bei der praktischen Umsetzung der Transparenzpflichten.
Transparenzpflichten im Kontext einer KI-Governance
Die Transparenzpflichten des Art. 50 KI-VO beschränken sich nicht auf die Kennzeichnung einzelner Inhalte. Ihre praktische Umsetzung setzt jedoch voraus, dass Unternehmen den Einsatz von KI-Systemen organisatorisch nachvollziehbar ausgestalten. Hierzu gehört insbesondere, einen Überblick über die im Unternehmen eingesetzten KI-Systeme zu schaffen, Zuständigkeiten für deren Einsatz festzulegen und interne Vorgaben für die Erstellung sowie Veröffentlichung KI-generierter Inhalte zu definieren.
Ebenso sollte geregelt werden, in welchen Fällen eine menschliche Überprüfung oder redaktionelle Kontrolle erfolgt und wer hierfür die Verantwortung übernimmt. Daneben sind auch datenschutzrechtliche, informationssicherheitsrechtliche und gegebenenfalls branchenspezifische Anforderungen zu berücksichtigen. Eine strukturierte KI-Governance kann Unternehmen dabei unterstützen, die Transparenzpflichten der KI-Verordnung sachgerecht umzusetzen und den Einsatz von KI-Systemen nachvollziehbar zu organisieren.
Sanktionen bei Verstößen
Verstöße gegen die Transparenzpflichten des Art. 50 KI-VO können mit erheblichen Bußgeldern sanktioniert werden. Je nach Art und Schwere des Verstoßes sieht die KI-Verordnung Geldbußen von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes vor.
Neben finanziellen Risiken können Verstöße auch erhebliche Reputationsschäden verursachen und das Vertrauen von Kunden, Geschäftspartnern oder der Öffentlichkeit beeinträchtigen.
Vorbereitung auf die Transparenzpflichten
Auch wenn nicht jeder Einsatz eines KI-Systems automatisch Transparenzpflichten nach Art. 50 KI-VO auslöst, sollten Unternehmen frühzeitig prüfen, welche KI-Systeme eingesetzt werden und in welchen Anwendungsfällen die gesetzlichen Anforderungen relevant werden können.
Eine strukturierte Vorbereitung kann insbesondere umfassen:
Fazit zur Kennzeichnung KI-generierter Inhalte
Die Transparenzpflichten nach Art. 50 KI-VO bedeuten keine allgemeine Pflicht, sämtliche KI-generierten Inhalte zu kennzeichnen. Entscheidend ist vielmehr, in welchem Zusammenhang ein KI-System eingesetzt wird und ob der konkrete Sachverhalt unter eine der in der Verordnung geregelten Transparenzpflichten fällt.
Für die Bewertung kommt es insbesondere darauf an, ob ein Inhalt maßgeblich durch ein KI-System erzeugt wurde und ob einer der Anwendungsfälle des Art. 50 KI-VO vorliegt. Nicht der bloße Einsatz von KI im Arbeitsprozess ist ausschlaggebend, sondern die konkrete Art und Weise der Nutzung sowie der konkrete Einsatzbereich und Zweck der Verarbeitung.
Unternehmen sollten daher die Frage einer Kennzeichnungspflicht nicht allein an den Einsatz von KI knüpfen, sondern den konkreten Verwendungszweck und die Art der erzeugten oder veränderten Inhalte betrachten. Entscheidend sind dabei insbesondere klare Zuständigkeiten und ein Bewusstsein dafür, in welchen Fällen Transparenz gegenüber Nutzern oder der Öffentlichkeit erforderlich ist.
Die KI-Verordnung verfolgt damit keinen Ansatz einer umfassenden Offenlegung sämtlicher KI-Nutzung, sondern setzt gezielt dort an, wo KI-generierte oder KI-manipulierte Inhalte geeignet sind, die Wahrnehmung oder Bewertung durch Dritte zu beeinflussen.
