Transparenzpflichten beim Betrieb von KI-Systemen: Alles, was Unternehmen jetzt wissen müssen

Am 2. August 2026 wird ein weiterer Teil der KI-VO anwendbar. Dies betrifft die Herstellung von Transparenz bei der Nutzung von KI-Systemen. Kurz gesagt, müssen KI-generierte Inhalte unter bestimmten Voraussetzungen als solche kenntlich gemacht werden. Dies betrifft grundsätzlich alle Formate, also Inhalte von Audio über Video bis hin zu Texten. Diese Pflichten betreffen in unterschiedlicher Ausgestaltung Anbieter und Betreiber von KI-Systemen.

Dieser Beitrag richtet sich an die Betreiber von KI-Systemen und zeigt, wie diese bei der Erstellung und Veränderung von Inhalten mit KI-Systemen die Transparenzpflichten aus Art. 50 KI-VO umsetzen können. Dies betrifft alle Unternehmen, die unter Verwendung von KI-Systemen Inhalte generieren lassen. Nutzen also Beschäftigte LLM zur Texterstellung oder KI-Systeme zur Bildgenerierung, müssen Sie sich mit den folgenden Anforderungen auseinandersetzen. Der Beitrag richtet sich an juristische Laien, aber auch an Rechtsabteilungen, Compliance‑ und Kommunikations‑Teams, und zeigt Schritt für Schritt, wann Transparenzhinweise erforderlich sind, wie sie aussehen können und wo sie platziert werden sollten, um rechtssicher und zugleich nutzerfreundlich zu bleiben.

Verstöße gegen diese Pflichten können zu hohen Bußgeldern führen. Außerdem sind Abmahnungen durch Wettbewerber möglich (und auch tatsächlich zu befürchten).

Transparenzpflichten bei Deepfakes und KI‑Texten

Künstliche Intelligenz ist längst im Alltag von Unternehmen angekommen: KI generiert Bilder, Videos, Audio und Texte für Marketing, PR, Corporate Communication und Medienangebote. Mit der EU KI‑VO (englisch: „AI Act“) werden diese Einsätze erstmals umfassend reguliert. Besonders wichtig sind die Transparenzpflichten nach Art. 50 Abs. 4 KI‑VO, die Betreiber von KI-Systemen zur Erstellung von Deepfakes und KI‑Texten zu Fragen von öffentlichem Interesse ausdrücklich in die Pflicht nehmen.

Nutzen Sie in Ihrem Unternehmen KI-Systeme, um redaktionelle Texte zu erzeugen oder Bilder für die Webseite oder Produkthefte zu erzeugen, müssen Sie sich mit diesen Pflichten vertraut machen.

Welche Transparenzpflichten gibt es?

Art. 50 KI‑VO enthält horizontale Transparenzpflichten für vier Fallgruppen von KI‑Systemen: Interaktion mit Menschen, synthetische Inhalte, Emotionserkennung/biometrische Kategorisierung sowie Deepfakes und KI‑Texte zu Fragen von öffentlichem Interesse.

Dieser Beitrag beschäftigt sich alleine mit den beiden Letzteren, also mit den Anforderungen aus Art. 50 Abs. 4 KI‑VO:

Dieser verpflichtet Betreiber, die KI‑Systeme einsetzen, um

• Deepfakes (Bild, Audio, Video) zu erzeugen oder zu manipulieren, oder
• KI‑Texte zu veröffentlichen, die die Öffentlichkeit zu Fragen von öffentlichem Interesse informieren sollen,

dazu, klar und sichtbar über die künstliche Herkunft bzw. Manipulation zu informieren

Art. 50 Abs. 5 ergänzt diese Pflichten durch eine Querschnittsanforderung: Alle Transparenzinformationen müssen klar, unterscheidbar und spätestens zum Zeitpunkt der ersten Interaktion oder Exposition bereitgestellt werden und den geltenden Barrierefreiheitsanforderungen genügen.

Die Europäische Kommission hat hierzu Entwurfs‑Guidelines und einen Code of Practice on Transparency of AI‑Generated Content veröffentlicht, die den Anwendungsbereich, die Pflichten und praktische Umsetzungsvorschläge konkretisieren. Erst kürzlich hat die Kommission auch Beispiele für konkret zu verwendende Icons bereitgestellt.

Im Folgenden erklären wir, wie genau diese Transparenzpflichten, ggf. mit Hilfe der Kommissionsmaterialien, jeweils für die verschiedenen Medientypen umgesetzt werden müssen.

Deepfakes: Definition und Kennzeichnungspflichten für Betreiber

Was muss gekennzeichnet werden?

Der AI Act definiert Deepfakes als KI‑generierte oder KI‑manipulierte Bild‑, Audio‑ oder Video‑Inhalte, die tatsächlich existierende Personen, Objekte, Orte, Entitäten oder Ereignisse nachahmen und für eine durchschnittliche Person authentisch oder wahr erscheinen können.

Beispiele:

• Ein Video, das eine reale Person in einer Szene zeigt, die nie stattgefunden hat (z. B. eine falsche politische Aussage).
• Ein manipuliertes Bild, das eine Führungskraft in einem kompromittierenden Kontext zeigt.
• Eine Audiodatei mit einer synthetischen Stimme, die so klingt, als spreche eine bekannte Person tatsächlich.

Solche Inhalte bergen erhebliche Risiken von Täuschung, Desinformation, Betrug und Rufschädigung und stehen deshalb im Fokus von Art. 50 KI-VO.

So können darunter auch Abbildungen fallen, die ein tatsächlich nicht stattgefundenes Ereignis darstellen, welches sich so aber zugetragen haben könnte. Dies kann beispielsweise ein Gespräch zwischen einem Arzt und einer Patientin sein, welches in der Werbung für eine Arztpraxis genutzt wird. Ein gewisser Realitätsbezug muss vorhanden sein, allerdings kann die Einordnung im Einzelfall schwierig sein und gerichtliche Entscheidungen hierzu liegen bislang nicht vor.

Unklar ist die Rechtslage z. B. bei generischen Produktbildern, die nicht das konkret zu verkaufende Objekt darstellen. Werden diese in einer rein fiktiven Welt dargestellt, so lässt sich vertreten, dass dies kein Deepfake ist. Je nach Ausgestaltung des Bildes oder Videos kann man aber auch zu einer anderen Einschätzung kommen. Daher raten wir dazu, im Zweifel eher die Kennzeichnung vorzunehmen, als sich dem Risiko von Abmahnungen und Bußgeldern auszusetzen.

Die Kennzeichnungspflicht gilt für Inhalte, die der Öffentlichkeit zugänglich gemacht werden genauso wie solche, die nur einem bestimmten Adressatenkreis zu Augen kommen sollen. Dementsprechend sollten auch rein unternehmensintern genutzte Inhalte geprüft und ggf. gekennzeichnet werden.

Nicht gekennzeichnet werden müssen hingegen Werke, welche mittels KI eine einfache Bildbearbeitung erfahren haben, z. B. aufgehellt wurden, wenn der dargestellte Inhalt dadurch nicht wesentlich verändert wird.

Aus dem zuvor Gesagtem ergibt sich außerdem, dass keine Kennzeichnungspflicht besteht, soweit es sich um offensichtlich nicht die Realität abbildende Inhalte handelt. Offensichtlich fiktive Ereignisse oder Wesen in einem Werk führen also in der Regel dazu, dass die Kennzeichnungspflicht entfällt. Siehe dazu auch die Beispiele am Ende dieses Beitrags.

Wie und wo muss gekennzeichnet werden?

Setzen Sie KI‑Systeme ein, um Deepfakes zu erstellen oder zu manipulieren, müssen Sie als Betreiber:

• klar und sichtbar offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde,
• diese Information spätestens bei der ersten Exposition bereitstellen (d. h. zu Beginn des Videos, beim ersten Blick auf das Bild, beim Einspielen des Audios und nicht erst versteckt am Ende),
• die Hinweise leicht verständlich und unterscheidbar von anderem Text gestalten.

Die Entwurfs‑Guidelines und Praxisbeiträge empfehlen, sich nicht auf versteckte oder einmalige Hinweise zu verlassen, sondern persistente Labels zu verwenden, insbesondere bei Video und Audio (z. B. mehrfach wiederholte bzw. dauerhaft sichtbare Kennzeichnung).

Wichtig ist, dass die Kennzeichnung leicht verständlich ist. Formulierungen wie „KI-generiert“ oder „mit KI verändert“ dürften daher ausreichen. Grundsätzlich können hierzu die Icons der EU-Kommission genutzt werden.

Aber Achtung! „Leicht verständlich“ im Sinne der KI-VO erfordert wahrscheinlich, dass die Hinweise in der Sprache der jeweiligen Webseite, Publikation o. ä. erteilt werden. Insoweit sollte der Begriff „AI“ in Deutschland besser durch „KI“ ersetzt werden. Dementsprechend wären auch die Icons der Kommission nicht ohne weitere Anpassung nutzbar.

Eine Besonderheit gilt bei Deepfakes, die Teil eines offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werks sind. Dann wird die Kennzeichnungspflicht abgeschwächt. In diesem Fall müssen Sie „nur“ das Vorhandensein von generierten oder manipulierten Inhalten in einer Art und Weise offenlegen, die die Nutzungserfahrung nicht unnötig beeinträchtigt. Praktisch bedeutet das: Bei einer satirischen Show kann ein Hinweis am Anfang oder im Vorspann („Dieses Programm enthält mithilfe künstlicher Intelligenz erstellte oder manipulierte Inhalte.“) genügen, ohne jeden Einzelclip dauerhaft zu überlagern.

KI‑Texte zu Fragen von öffentlichem Interesse

Was muss gekennzeichnet werden?

Art. 50 Abs. 4 erfasst KI‑generierte oder KI‑manipulierte Texte, die mit dem Zweck veröffentlicht werden, die Öffentlichkeit zu Fragen von öffentlichem Interesse zu informieren.

Darunter fallen typischerweise:

• Nachrichtenbeiträge zu Gesetzgebung, Regulierung, Politik (z. B. Erklärungen neuer EU‑Regeln, Stellungnahmen zu Gesetzesvorhaben).
• Texte zu Klimaschutz, Energie, Gesundheit, Bildung, Sicherheit, die öffentliche Debatten beeinflussen können.
• Artikel zu Wahlen, Abstimmungen, gesellschaftlichen Konflikten und Menschenrechten.
• Pressemitteilungen, mit denen die Öffentlichkeit über ein Produkt informiert werden soll, z. B., wenn Sicherheitsrisiken erkannt wurden.

Der auslegungsleitende Punkt ist der Zweck der Veröffentlichung: Es kommt nicht nur auf das Thema, sondern darauf an, ob Sie damit die Öffentlichkeit informieren wollen. Die obenstehende Liste ist insoweit nicht abschließend.

Kennzeichnungspflicht und redaktionelle Ausnahme

Veröffentlichen Sie solche KI‑Texte, müssen Sie offenlegen, dass der Text künstlich generiert oder manipuliert wurde, es sei denn:

• der Inhalt hat einen Prozess bedeutender menschlicher Überprüfung oder redaktioneller Kontrolle durchlaufen, und
• eine natürliche oder juristische Person übernimmt klar erkennbar die redaktionelle Verantwortung.

Die Praxisleitfäden betonen, dass bloße Oberflächenkorrekturen (Rechtschreibung, Stil) nicht ausreichen: Die menschliche Redaktion muss Struktur, Inhalte und Wertungen substantiell gestalten.

Für die Praxis heißt das:

• KI‑Rohentwurf + intensive menschliche Überarbeitung mit klar benanntem Autor: in vielen Fällen wird die Kennzeichnungspflicht entfallen können.
• Automatisch generierter Text mit minimaler Bearbeitung: Kennzeichnungspflicht bleibt bestehen.

Wie und wo muss gekennzeichnet werden?

Art. 50 Abs. 5 KI‑VO verlangt eine klare und unterscheidbare Information zum Zeitpunkt der ersten Interaktion oder Exposition, in Übereinstimmung mit Barrierefreiheitsanforderungen. Daraus ergeben sich verbindliche Platzierungsregeln:

• Nähe zum Inhalt: Hinweise gehören direkt an den Deepfake oder KI‑Text, nicht in Fußnoten, Allgemeine Geschäftsbedingungen oder ein entferntes Hilfemenü.
• Zeitpunkt: Nutzer müssen den Hinweis sehen oder hören, bevor sie sich auf den Inhalt verlassen können, also zu Beginn eines Videos oder im Vorspann eines Artikels.
• Sichtbarkeit: Kleine, kaum lesbare Labels, kurz aufblinkende Hinweise oder im Footer versteckte Snippets genügen ausdrücklich nicht.

Nicht ausreichend sind also winzige Hinweise im Seitenfooter, vage Labels, kurz eingeblendete Textfetzen. All dies wird nicht als „klar und unterscheidbar“ angesehen.

Ab wann muss gekennzeichnet werden?

Betreiber von KI-Systemen müssen die Pflichten für die Kennzeichnungen von Deep Fakes und KI-Texten ab dem 2. August 2026 erfüllen. Die übrigen Transparenzpflichten bei der Interaktion mit KI-Systemen (z. B. beim Einsatz von Chatbots) und die Pflichten für die Anbieter bezüglich maschinenlesbarer Kennzeichnung von Inhalten gelten ab dem 2. November 2026.

Praxisbeispiele für Kennzeichnung und Platzierung

Deepfake‑Videos: Kennzeichnung im Player, Intro und Beschreibung

Für Video‑Deepfakes empfehlen Guidelines und Code of Practice eine mehrschichtige Kennzeichnung:

• Intro‑Disclaimer: Ein kurzer Hinweis direkt zu Beginn:
  „Hinweis: Dieses Video wurde mithilfe künstlicher Intelligenz erstellt bzw. verändert und zeigt keine realen Ereignisse.“
  – so erfüllen Sie die Pflicht zur Kennzeichnung und zur Bereitstellung bei erster Exposition.
• Overlay‑Label im Player: Ein dauerhaft oder regelmäßig eingeblendeter Hinweis („KI‑manipuliertes Video“) oder ein KI‑Icon, wie von der EU vorgeschlagen, ggf. an die jeweilige Landessprache angepasst.
• Beschreibungstext: In der Video‑Beschreibung ein klarer, ausführlicher Hinweis auf KI‑Erzeugung, kombiniert mit SEO‑relevanten Keywords („Deepfake‑Video“, „KI‑generierter Clip“, „Transparenzpflicht nach Art. 50 KI‑Verordnung“).

Deepfake‑Bilder: Badge, Bildunterschrift und Alt‑Text

Bei Bild‑Deepfakes bieten sich drei Ebenen an:

• Visuelles Label direkt am Bild: z. B. ein kleines, deutlich sichtbares Badge „KI‑generiert“ oder „Deepfake“ in einer Ecke des Bildes.
• Bildunterschrift: „Dieses Bild wurde mithilfe künstlicher Intelligenz erstellt bzw. manipuliert.“ – eindeutiger Klartext für Nutzer.
• Alt‑Text und Dateiname: Für Barrierefreiheit und SEO: „KI‑generiertes Porträt“, „deepfake‑campaign‑image.jpg“.

So erfüllen Sie Transparenz, Accessibility und stärken zugleich Ihre Suchmaschinenpräsenz für Begriffe wie „KI‑Bild“, „synthetische Medien“, „Deepfake‑Grafik“.

Deepfake‑Audio: gesprochener Hinweis und Player‑Label

Bei Audio‑Deepfakes kommt es vor allem auf den Einstieg an:

• Gesprochener Hinweis am Anfang: „Hinweis: Diese Audiodatei wurde mithilfe künstlicher Intelligenz erstellt bzw. verändert.“ – damit ist die Information bei der ersten Exposition gegeben.
• Label im Player: „KI‑generierte Stimme“ oder „synthetische Audioaufnahme“ im Player, idealerweise mit KI‑Icon.
• Beschreibung/Shownotes: Klarer Hinweis auf den KI‑Einsatz.

KI‑Texte zu Fragen von öffentlichem Interesse: Vorspann und Footer‑Disclaimer

Für KI‑Texte mit öffentlichem Informationszweck empfehlen sich standardisierte Textbausteine, z. B.:

• Hinweis im Vorspann (unter der Überschrift oder im Teaser):
  „Transparenzhinweis: Teile dieses Beitrags wurden mit Unterstützung eines KI‑Systems erstellt. Die inhaltliche Verantwortung liegt bei [Name/Unternehmen].“
  – klar, verständlich, mit Begriffen wie „KI‑System“ und „Transparenzhinweis“.

So erfüllen Sie Art. 50 Abs. 4 und 5 KI‑VO und schaffen Vertrauen.

Gestaltung der Transparenzhinweise: Klartext, Icons und Verständlichkeit

Die KI‑Verordnung verlangt klare, unterscheidbare und zugängliche Informationen. Für die Praxis bedeutet das:

• Klartext statt Marketing‑Floskeln: Formulierungen wie „intelligente Content‑Optimierung“ oder „automatisiertes Storytelling“ reichen nicht aus. Sie sollten deutlich von „künstlicher Intelligenz“, „KI‑generierter Inhalt“ oder „Deepfake“ sprechen.
• Standardisierte Icons: Die EU hat eine Icon‑Sammlung für KI‑Content veröffentlicht (z.B. „AI“/„KI“‑Label), die Deployers freiwillig einsetzen können, um Inhalte zu kennzeichnen.
• Kombination aus Icon und Text: Icons allein sind oft nicht ausreichend; empfohlen wird eine Kombination aus visuellem Label und klarer Textformulierung, wie im Code of Practice vorgesehen.

Die Hinweise müssen außerdem den geltenden Anforderungen an die Barrierefreiheit entsprechen. Dies ergibt sich direkt aus Art. 50 Abs. 5 KI-VO. Das heißt, die Hinweise müssen für Screenreader lesbar sein, eine ausreichend große Schriftart haben und bei Deepfake-Videos sollte der Hinweis ggf. auch auf der Tonspur gegeben werden.

Diese Gestaltungsempfehlungen sind nicht nur rechtlich sinnvoll, sondern erhöhen auch die Nutzerfreundlichkeit und stärken Vertrauen in Ihre Marke.

Beispiele für Kennzeichnungen

Die folgenden Beispiele dienen der Veranschaulichung, wie eine Umsetzung bei Deepfake-Bildern in der Praxis aussehen kann. Sie sind weder in dieser konkreten Form vorgeschrieben, noch zwingend rechtssicher. Prüfen Sie daher im Zweifel eigene Inhalte sorgfältig selbst.

Bei diesem Beispiel handelt es sich nicht um ein Deepfake im Sinne des Gesetzes. Entweder, weil das Bild nicht mit KI bearbeitet wurde, oder weil es offensichtlich nicht die Realität abbildet. Entscheiden Sie selbst.

Bei diesem Bild besteht eine Kennzeichnungspflicht. Es handelt sich um ein Deepfake, denn der Autor dieses Beitrags war tatsächlich nie zu Pferde in Paris und nennt auch keine derartige Kopfbedeckung sein eigen. Für die Kennzeichnung haben wir ChatGPT gebeten, einen Hinweis unter Verwendung der Icons der Kommission direkt in das Bild einzubinden. Die Bezeichung „AI“ ist hier unschädlich, da der Text auch das deutsche Wort verwendet. Allerdings kann man das aus unserer Sicht auch weniger ausführlich machen.

So hat es sich tatsächlich zugetragen. Eine Kennzeichnung ist daher nicht erforderlich. Wahrscheinlich noch nicht einmal dann, wenn die KI dem Autor eine gescheite Rasur verpasst hätte, oder das Licht etwas günstiger werfen würde.

Maßgeschneiderte Workshops zu Transparenzpflichten nach Art. 50 KI‑Verordnung

Wenn Sie vor der Aufgabe stehen, Deepfakes und KI‑Texte rechtssicher und zugleich praxistauglich zu kennzeichnen, unterstützen wir Sie gerne bei der Konzeption und Durchführung maßgeschneiderter Workshops oder Richtlinien.

Typische Workshop‑Formate:

• Rechtlicher Deep Dive: Systematik des AI Act, Art. 50 KI‑Verordnung, Pflichten für Provider und Deployers, Schnittstellen zu DSGVO, UWG, Medienrecht und anderen Rechtsgebieten.
• Content‑Audit und Risikoanalyse: Analyse der bestehenden KI‑Content‑Landschaft, Identifikation von Deepfakes und KI‑Texten mit öffentlichem Informationszweck, Risikobewertung.
• Transparenz‑Design und Kennzeichnungs‑Standards: Entwicklung unternehmensspezifischer Textbausteine, Icons, Placements und Workflows, basierend auf EU‑Guidelines und Code of Practice.
• Governance, Dokumentation und Compliance‑Nachweise: Aufbau interner Policies, Schulungskonzepte, Monitoring und Nachweisdokumentation für Aufsichtsbehörden.

Die Inhalte werden individuell auf Ihre Branche, Ihre Kommunikationskanäle und Ihre Risikoexposition zugeschnitten. Von Medienunternehmen über Konzerne und Mittelstand bis hin zu öffentlichen Einrichtungen. So stellen Sie sicher, dass Ihre Organisation oder Ihre Mandanten die Transparenzpflichten nach Art. 50 KI‑Verordnung nicht nur formal erfüllen, sondern aktiv als Vertrauens‑ und Wettbewerbsvorteil nutzen.

Bei Interesse nutzen Sie gerne unser Kontaktformular, rufen uns an, oder wenden sich direkt an Ihren bekannten Ansprechpartner.

Abonnieren Sie auch unseren Newsletter, um keine Beiträge rund um KI-, Daten(schutz)recht und Compliance zu verpassen.