EU AI ActWann KI gekennzeichnet werden muss

Künstliche Intelligenz ist längst Teil des kreativen Alltags. Ob Texte, Bilder, Videos oder Chatbots, viele Kreativschaffende nutzen KI inzwischen selbstverständlich für ihre Arbeit. Mit dem EU AI Act gelten seit 2. August 2026 neue Transparenzpflichten. Das bedeutet allerdings nicht, dass künftig jeder KI-generierte Inhalt gekennzeichnet werden muss.

Gerade für Designer:innen, Agenturen, Content Creators und Medienunternehmen lohnt sich ein Blick auf die neuen Regeln. Denn sie sollen vor allem mehr Transparenz und Vertrauen beim Einsatz von KI schaffen. Menschen sollen erkennen können, wann sie mit einer KI interagieren oder mit KI-generierten Inhalten konfrontiert werden.

Welche Inhalte und Anwendungen sind betroffen?

Nicht jeder mit KI erstellte Inhalt muss künftig gekennzeichnet werden. Die Transparenzpflichten betreffen insbesondere:

• bestimmte KI-generierte Texte zu Themen von öffentlichem Interesse, wenn keine ausreichende menschliche redaktionelle Kontrolle erfolgt
• KI-Systeme, die direkt mit Menschen interagieren, wie z.B. Chatbots
• Systeme zur Emotionserkennung
• bestimmte KI-generierte oder KI-manipulierte Inhalte
• sogenannte Deepfakes

Ob eine Kennzeichnung notwendig ist, hängt vom jeweiligen Anwendungsfall ab.

Was gilt als Deepfake?

Besonders relevant für die Kreativbranche sind die Vorgaben zu Deepfakes. Als Deepfake bezeichnet der AI Act einen durch KI erzeugten oder manipulierten Bild-, Audio- oder Videoinhalt, der einer realen Person, einem realen Gegenstand, Ort oder Ereignis ähnelt und deshalb als echt wahrgenommen werden könnte.

Laut den Leitlinien der Europäischen Kommission müssen dafür mehrere Voraussetzungen erfüllt sein:

• Der Inhalt ähnelt einer realen Person, einem Gegenstand, Ort oder Ereignis.
• Das dargestellte Motiv existiert oder könnte real existieren.
• Es handelt sich um ein Bild, Audio- oder Videoformat.
• Die Darstellung könnte vom Publikum als echt oder authentisch wahrgenommen werden.

Offensichtlich unrealistische oder rein fantasievolle Darstellungen fallen in der Regel nicht unter diese Definition.

Was gilt für KI-generierte Texte?

Auch bestimmte Texte können von den Transparenzpflichten betroffen sein. Das betrifft Inhalte zu Themen von öffentlichem Interesse, die von KI erstellt wurden und nicht mehr durch Menschen inhaltlich geprüft und redaktionell verantwortet werden. Eine reine Prüfung von Grammatik oder Stil genügt dabei nicht. Entscheidend ist, dass eine inhaltliche Kontrolle erfolgt und ein Mensch die Verantwortung für den veröffentlichten Inhalt übernimmt.

Einige Fragen sind noch offen

Bei der praktischen Umsetzung bestehen derzeit noch einige Auslegungsfragen. Leitlinien und Empfehlungen werden laufend ergänzt und präzisiert. Gleichzeitig steht in Österreich aktuell noch nicht fest, welche Behörde künftig für die Vollziehung der entsprechenden Bestimmungen des AI Acts zuständig sein wird. Diese Frage ist derzeit noch offen.

Hilfreiche Informationsquellen

Falls du dich näher mit den neuen Transparenzpflichten beschäftigen möchtest, findest du unter folgenden Links Unterstützung:

• Leitlinien der Europäischen Kommission zur Kennzeichnung von KI-generierten Inhalten
• Informationsseiten der RTR-KI-Servicestelle zum AI Act
• laufend erweiterter FAQ-Bereich der RTR-KI-Servicestelle