Künstliche Intelligenz erstellt heute Produktbilder, Werbevideos, Social-Media-Beiträge und ganze Website-Texte. Für Unternehmen ist das praktisch – rechtlich sind jedoch nicht alle Inhalte ohne Weiteres verwendbar. Der europäische AI Act enthält Transparenzpflichten für bestimmte KI-generierte oder manipulierte Inhalte. Ein wichtiger Termin ist der 2. Dezember 2026: Für bestimmte bereits vor dem 2. August 2026 auf den Markt gebrachte KI-Systeme endet dann die Übergangsfrist für die maschinenlesbare Kennzeichnung ihrer Ausgaben.

Wer Inhalte veröffentlicht oder KI-Systeme geschäftlich einsetzt, sollte prüfen, welche Pflichten im konkreten Fall gelten. Fehler können nicht nur aufsichtsrechtliche Folgen haben. Je nach Inhalt und Verwendung können auch andere rechtliche Risiken hinzukommen, etwa bei irreführender Werbung, Persönlichkeitsrechtsverletzungen oder der Verwendung fremder geschützter Inhalte.

Welche Transparenzpflichten sieht der AI Act vor?

Artikel 50 der Verordnung über künstliche Intelligenz (AI Act) regelt verschiedene Fälle, in denen Menschen darüber informiert werden müssen, dass sie mit KI interagieren oder KI-generierten beziehungsweise manipulierten Inhalten ausgesetzt sind. Die Pflichten unterscheiden zwischen Anbietern von KI-Systemen und Unternehmen oder Personen, die diese Systeme einsetzen.

Die Transparenzregeln gelten grundsätzlich seit dem 2. August 2026. Für bestimmte Kennzeichnungspflichten von KI-Systemen, die bereits vor diesem Datum auf den Markt gebracht wurden, sieht der AI Act eine Übergangsregelung bis zum 2. Dezember 2026 vor.

1. KI-Chatbots müssen sich unter Umständen zu erkennen geben

Anbieter von KI-Systemen, die für die direkte Kommunikation mit Menschen bestimmt sind, müssen grundsätzlich sicherstellen, dass die Nutzer erkennen können, dass sie mit einem KI-System interagieren. Eine Ausnahme gilt, wenn dies aus Sicht eines durchschnittlich informierten und aufmerksamen Nutzers offensichtlich ist.

Für Unternehmen, die Chatbots auf ihrer Website einsetzen, bedeutet das: Sie sollten prüfen, ob Besucher ausreichend deutlich erkennen, dass sie mit einem automatisierten System kommunizieren. Ein Hinweis sollte klar und verständlich sein und spätestens bei der ersten Interaktion erfolgen.

Nicht jede automatisierte Funktion auf einer Website ist damit automatisch kennzeichnungspflichtig. Entscheidend sind unter anderem die konkrete Funktion des Systems und die Art der Interaktion.

2. KI-generierte Bilder, Videos und Audiodateien

Anbieter generativer KI-Systeme müssen grundsätzlich dafür sorgen, dass die von ihren Systemen erzeugten oder manipulierten Inhalte maschinenlesbar gekennzeichnet und als künstlich erzeugt oder verändert erkennbar sind, soweit dies technisch machbar ist.

Für Unternehmen, die solche Systeme einsetzen, ist insbesondere die Regelung zu sogenannten Deepfakes relevant. Damit sind KI-generierte oder manipulierte Bild-, Ton- oder Videoinhalte gemeint, die realen Personen, Gegenständen, Orten oder Ereignissen ähneln und fälschlich als authentisch oder wahr erscheinen können.

Wer solche Inhalte veröffentlicht, muss grundsätzlich offenlegen, dass sie künstlich erzeugt oder manipuliert wurden. Für bestimmte künstlerische, kreative, satirische oder fiktionale Werke gelten besondere Erleichterungen bei der Art der Offenlegung.

Besondere Vorsicht ist bei täuschend echt wirkenden Bildern von Personen, vermeintlichen Kundenstimmen oder Videos geboten, die tatsächliche Ereignisse vortäuschen. Neben dem AI Act können hier auch Persönlichkeits-, Datenschutz- und Wettbewerbsrecht eine Rolle spielen.

3. Müssen KI-generierte Website-Texte immer gekennzeichnet werden?

Nein. Der AI Act verlangt nicht pauschal, dass jeder mit KI erstellte Blogbeitrag, jede Produktbeschreibung oder jeder Social-Media-Text als KI-generiert gekennzeichnet wird.

Eine besondere Offenlegungspflicht betrifft KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Diese Pflicht greift grundsätzlich nicht, wenn der Text einer menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Eine bloße Rechtschreibprüfung oder oberflächliche Kontrolle reicht dafür nicht zwingend aus. Die inhaltliche Prüfung muss tatsächlich stattfinden. Dazu können beispielsweise eine sachliche Überprüfung, die Kontrolle der Quellen und eine redaktionelle Bewertung gehören.

Für Betreiber von Nachrichtenportalen, Fachblogs und Unternehmenswebsites empfiehlt es sich daher, die tatsächlichen Arbeitsabläufe zu dokumentieren. Wer KI als Unterstützung bei der Texterstellung nutzt, sollte festlegen, wer Inhalte fachlich prüft und die Verantwortung für ihre Veröffentlichung übernimmt.

4. Wo können Abmahnrisiken entstehen?

Nicht jeder Verstoß gegen den AI Act führt automatisch zu einer wettbewerbsrechtlichen Abmahnung. Die Transparenzpflichten und die Voraussetzungen eines wettbewerbsrechtlichen Anspruchs sind rechtlich getrennt zu prüfen.

Unabhängig davon kann die Verwendung von KI-Inhalten weitere Risiken auslösen, beispielsweise wenn:

  • Werbebilder oder Produktdarstellungen einen falschen Eindruck über tatsächliche Eigenschaften vermitteln,
  • KI-generierte Aussagen als echte Kundenbewertungen oder Erfahrungsberichte ausgegeben werden,
  • fremde Fotos, Marken oder geschützte Gestaltungselemente unberechtigt verwendet werden,
  • eine real existierende Person ohne erforderliche Zustimmung in täuschend echte Inhalte eingebunden wird,
  • vorgeschriebene Hinweise fehlen oder Informationen über die Herkunft eines Inhalts irreführend dargestellt werden.

Ob eine Abmahnung berechtigt ist, hängt von der konkreten Handlung, der verletzten Vorschrift und den gesetzlichen Anspruchsvoraussetzungen ab. Unternehmen sollten deshalb nicht nur auf eine Kennzeichnung achten, sondern auch darauf, ob Inhalt, Darstellung und Werbeaussage insgesamt rechtmäßig sind.

5. Checkliste für Unternehmen und Websitebetreiber

Mit einer systematischen Prüfung lassen sich viele Risiken bereits vor der Veröffentlichung reduzieren.

  • KI-Einsatz erfassen: Dokumentieren Sie, welche Tools für Texte, Bilder, Videos, Audio und Chatbots verwendet werden.
  • Kennzeichnungspflicht prüfen: Unterscheiden Sie zwischen maschinenlesbarer Kennzeichnung durch Anbieter, Hinweisen für Nutzer und besonderen Offenlegungspflichten für Deepfakes oder bestimmte Texte.
  • Inhalte fachlich kontrollieren: Prüfen Sie Tatsachenbehauptungen, Quellen, Produktangaben und Werbeaussagen vor der Veröffentlichung.
  • Rechte Dritter beachten: Kontrollieren Sie insbesondere Persönlichkeitsrechte, Markenrechte und mögliche Urheberrechtsverletzungen.
  • Verantwortlichkeiten festlegen: Bestimmen Sie, wer Inhalte freigibt und die redaktionelle Verantwortung übernimmt.
  • Fristen berücksichtigen: Prüfen Sie bei eingesetzten KI-Systemen, ob die Übergangsregelung bis zum 2. Dezember 2026 einschlägig ist.

Die Europäische Kommission stellt hierzu Leitlinien und einen freiwilligen Verhaltenskodex zur Verfügung, die Anbietern und Anwendern bei der Umsetzung der Transparenzpflichten helfen sollen.

KI-Inhalte vor der Veröffentlichung rechtlich prüfen

Der AI Act schreibt keine pauschale Kennzeichnung sämtlicher KI-Texte vor. Er enthält jedoch konkrete Transparenzpflichten für bestimmte Interaktionen, künstlich erzeugte oder manipulierte Medieninhalte und Texte zu Angelegenheiten von öffentlichem Interesse.

Für Websitebetreiber und Unternehmen ist deshalb eine Einzelfallprüfung entscheidend. Wer KI-Inhalte geschäftlich nutzt, sollte Kennzeichnungspflichten, Rechte Dritter und mögliche irreführende Aussagen prüfen und die Freigabeprozesse dokumentieren. So lassen sich rechtliche Risiken frühzeitig erkennen und unnötige Auseinandersetzungen vermeiden.

Quellen und weiterführende Informationen

Hinweis: Dieser Beitrag dient der allgemeinen Information und ersetzt keine rechtliche Beratung im Einzelfall.

Schreibe einen Kommentar