Seit diesem Sonntag gelten in der Europäischen Union neue Transparenzregeln für Inhalte, die mit künstlicher Intelligenz erzeugt oder verändert wurden. Grundlage ist Artikel 50 des europäischen KI-Gesetzes. Ziel ist es, für Nutzer erkennbar zu machen, ob sie es mit künstlich erzeugten oder manipulierten Inhalten zu tun haben.
Die EU will damit vor allem Täuschung, Desinformation und Manipulation durch sogenannte Deepfakes eindämmen. Betroffen sind insbesondere Bilder, Videos, Audioinhalte und Texte. Anbieter von KI-Systemen müssen künstlich erzeugte oder manipulierte Inhalte grundsätzlich mit maschinenlesbaren Kennzeichnungen versehen, sodass ihre Herkunft technisch erkannt werden kann. Bei sogenannten Deepfakes – etwa realistisch wirkenden, aber künstlich erzeugten Bildern, Videos oder Tonaufnahmen von Personen – muss zusätzlich für den Nutzer deutlich erkennbar sein, dass der Inhalt künstlich erzeugt oder verändert wurde.
Eine besondere Regel gilt für Texte. Werden KI-generierte oder manipulierte Texte veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen sie gekennzeichnet werden. Das betrifft beispielsweise politische und demokratische Prozesse, öffentliche Sicherheit, Gesundheit, Umwelt oder wirtschaftliche Entwicklungen.
Eine wichtige Ausnahme gilt allerdings für journalistische und andere redaktionelle Veröffentlichungen: Wurde ein KI-generierter Text von einem Menschen überprüft oder unterliegt er einer redaktionellen Kontrolle, entfällt die Kennzeichnungspflicht. Die Redaktion muss dabei tatsächlich die Möglichkeit haben, Inhalte aus sachlichen Gründen zu prüfen, zu verändern oder abzulehnen.
Nicht jede Nutzung von KI führt damit automatisch zu einem Kennzeichnungshinweis. Ausgenommen sind unter anderem Anwendungen, bei denen KI lediglich unterstützend bei einer normalen Bearbeitung eingesetzt wird und die ursprünglichen Inhalte oder ihre Bedeutung nicht wesentlich verändert werden. Auch rein private Veröffentlichungen fallen nicht generell unter die beschriebenen Pflichten.
Die Transparenzpflichten gelten grundsätzlich seit dem 2. August 2026. Für KI-Systeme, die bereits vor diesem Datum auf den EU-Markt gebracht wurden, besteht bei der technischen Kennzeichnung und Erkennung von KI-Inhalten eine begrenzte Übergangsfrist bis zum 2. Dezember 2026. Bereits vor dem 2. August veröffentlichte KI-Inhalte müssen nicht nachträglich gekennzeichnet werden.
Die EU-Kommission verbindet mit den Vorschriften vor allem die Erwartung, dass Bürger künstlich erzeugte Inhalte leichter erkennen und damit bewusster umgehen können. Gerade vor dem Hintergrund zunehmend realistischer Deepfakes soll verhindert werden, dass manipulierte Bilder, Videos oder Texte für authentische Aufnahmen gehalten werden. Die Kommission sieht Transparenz deshalb als Voraussetzung für mehr Vertrauen in KI und für die Integrität der öffentlichen Kommunikation.
Allerdings dürfte die Umsetzung in der Praxis schwierig werden. Anbieter müssen technische Verfahren zur Kennzeichnung entwickeln, während Unternehmen, Medien und andere professionelle Nutzer klären müssen, wann ein Inhalt kennzeichnungspflichtig ist. Verstöße können teuer werden: Für Unternehmen sind Geldbußen von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes vorgesehen.
Mehr zum Thema – Nach OpenAI: Auch Anthropic-KI startete selbstständig Cyberangriffe
