In der Europäischen Union und damit auch in Deutschland gelten ab dem 2. August 2026 neue Transparenzpflichten für bestimmte KI-generierte Inhalte. Grundlage ist die EU-Verordnung über Künstliche Intelligenz (AI Act), die das Vertrauen in KI-Anwendungen stärken und Nutzerinnen und Nutzern eine bessere Einordnung von Inhalten ermöglichen soll.
Von der Kennzeichnungspflicht betroffen sind insbesondere KI-generierte oder KI-manipulierte Bilder, Videos und Audioinhalte, die realen Personen, Orten, Produkten oder Ereignissen ähneln und daher als echt wahrgenommen werden könnten. Auch bestimmte KI-generierte Texte zu gesellschaftlich relevanten Themen können kennzeichnungspflichtig sein.
Unternehmen und Organisationen, die solche Inhalte veröffentlichen, müssen diese für Menschen sichtbar und eindeutig als KI-generiert kennzeichnen. Der Hinweis sollte direkt am jeweiligen Inhalt erfolgen, beispielsweise durch eine Bildunterschrift oder ein deutlich sichtbares Label wie „KI-generiert“. Zusätzlich zu der Kennzeichnungspflicht durch die Betreiber der KI muss der Anbieter der KI sicherstellen, "dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind" (Art. 50 II).
Nicht kennzeichnungspflichtig sind in der Regel Inhalte, die offensichtlich künstlerisch, stilisiert oder fiktional gestaltet sind und keine Verwechslungsgefahr mit realen Darstellungen hervorrufen. Auch rein intern genutzte Inhalte fallen grundsätzlich nicht unter die Vorgaben. KI-Texte, die einer redaktionellen Prüfung unterzogen wurden und eine natürliche/juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt, müssen ebenfalls nicht gekennzeichnet sein (Art. 50 IV).
Unternehmen sollten die verbleibende Zeit bis zum Inkrafttreten der Regelung nutzen, um ihre Prozesse anzupassen. Empfehlenswert sind insbesondere die Erfassung der eingesetzten KI-Tools, die Festlegung von Verantwortlichkeiten, die Integration von Kennzeichnungen in Freigabeprozesse sowie die Prüfung aller extern veröffentlichten KI-Inhalte. Im Zweifelsfall empfiehlt sich eine Kennzeichnung.
