21 Juli WAS BRINGT UNS EINE KI KENNZEICHNUNGSPFLICHT?
WENN EINE E-MAIL MEHR FRAGEN AUFWIRFT ALS SIE BEANTWORTET
Heute Morgen landet eine E-Mail des SWR Media Services in meinem Postfach.
Nicht etwa eine Programmankündigung oder neue Vermarktungsangebote.
Sondern eine Aktualisierung der AGB.
www.ard-media.de/ki-kennzeichnungspflicht
Ab dem 1. August tritt die Transparenz- und KI Kennzeichnungspflicht für Audio- und TV-Spots gemäß EU AI Act in Kraft. Die entsprechenden Regelungen wurden bereits in die Vertragsbedingungen aufgenommen. Parallel verweist der SWR auf Leitfäden und Hörbeispiele, damit Werbekunden ihre Spots künftig korrekt kennzeichnen können.
Mit anderen Worten: Die Regulierung ist da. Nicht irgendwann. Nicht als Entwurf. Sondern ganz praktisch im Tagesgeschäft.
Und genau deshalb stellt sich eine Frage, die ich bisher erstaunlich selten gelesen habe:
Wie will man eigentlich beweisen, dass ein Spot von einer KI erstellt wurde?
Nicht theoretisch. Sondern in der Praxis.
Denn genau dort entscheidet sich, ob ein Gesetz funktioniert oder lediglich den Eindruck vermittelt, Kontrolle zu schaffen.
Die öffentliche Debatte dreht sich derzeit fast ausschließlich um die Kennzeichnungspflicht. Kaum jemand spricht jedoch über ihre Durchsetzbarkeit.
Dabei ist genau das der entscheidende Punkt.
Denn anders als viele glauben, gibt es bis heute keine Technologie, die zuverlässig nachweisen kann, ob ein Text, ein Bild, eine Sprachaufnahme oder ein Werbespot von einer künstlichen Intelligenz stammt.
Es gibt Detektoren, es gibt Wahrscheinlichkeiten und es gibt Indizien.
Aber es gibt keinen gerichtsfesten Beweis.
Gerade im Audiobereich ist das besonders offensichtlich.
Wenn ich einen Werbespot produziere, einen KI-generierten Sprecher verwende, anschließend das Material schneide, komprimiere, mit Musik unterlege, Equalizer einsetze, Hall hinzufüge und alles durch eine Broadcast-Mastering-Kette schicke – woran genau soll später jemand erkennen, dass am Anfang eine KI-Stimme stand?
Gar nicht.
Der fertige Spot trägt keinen sichtbaren Fingerabdruck. Er klingt schlicht wie ein professionell produzierter Werbespot. Das bedeutet zwangsläufig:
Die Kontrolle findet nicht am Ergebnis statt. Sie findet im Produktionsprozess statt.
Nicht der Spot muss beweisen, wie er entstanden ist. Der Produzent muss es dokumentieren.
Damit verschiebt sich die gesamte Verantwortung vom Inhalt auf die Arbeitsweise.
Das erinnert stark an andere regulatorische Bereiche.
Auch beim Datenschutz prüft niemand jede einzelne Datei. Geprüft werden Prozesse.
Beim Qualitätsmanagement wird nicht jedes Produkt vollständig zerlegt. Kontrolliert werden Dokumentationen.
Beim AI Act dürfte es ähnlich laufen.
Wer sauber dokumentiert, wann und wie KI eingesetzt wurde, kann diese Informationen im Zweifel vorlegen.
Wer das nicht tut, bewegt sich auf dünnem Eis. Das beantwortet allerdings immer noch nicht die eigentliche Frage. Was passiert, wenn jemand einfach nichts kennzeichnet?
Wie weist man ihm den Verstoß nach? Genau hier beginnt die Grauzone.
Denn der veröffentlichte Inhalt selbst verrät häufig überhaupt nichts über seine Entstehung.
Ein sauber formulierter KI-Text unterscheidet sich nicht automatisch von einem menschlich geschriebenen.
Eine synthetische Stimme klingt inzwischen häufig natürlicher als manche reale Sprecher.
Ein KI-generiertes Bild ist nach mehrfacher Bearbeitung kaum noch von klassischer Digital Art zu unterscheiden.
Der Nachweis erfolgt also nicht über das Werk, sondern über Projektdateien.
Versionen.
Prompts.
Rechnungen.
Produktionsabläufe.
Interne Dokumentation.
Mit anderen Worten:
Die Kennzeichnungspflicht basiert letztlich auf Ehrlichkeit und Nachvollziehbarkeit. Nicht auf technischer Erkennung.
Und genau darüber müsste eigentlich diskutiert werden.
Denn Transparenz ist grundsätzlich sinnvoll. Wer KI nutzt, sollte dazu stehen.
Vor allem dort, wo täuschend echte Inhalte entstehen oder Menschen gezielt beeinflusst werden können.
Doch Transparenz ist etwas anderes als Kontrollierbarkeit. Die aktuelle Debatte vermischt beide Begriffe ständig.
Sie vermittelt den Eindruck, als ließe sich künftig jeder nicht gekennzeichnete KI-Inhalt zuverlässig identifizieren.
Das ist schlicht nicht der Fall. Besonders spannend wird das im professionellen Medienalltag. Wo beginnt überhaupt der Einsatz von KI?
Wenn ich eine Sprecherstimme vollständig synthetisch erzeuge?
Oder bereits dann, wenn ich mit KI störende Atemgeräusche entferne?
Wenn ein Schnittprogramm automatisch Untertitel erstellt?
Wenn Photoshop Objekte entfernt?
Wenn Pro Tools per KI Hintergrundrauschen reduziert?
Wenn ChatGPT zehn Überschriften vorschlägt, ich aber alle verwerfe und meine eigene schreibe?
Wo verläuft die Grenze? Niemand kann sie objektiv ziehen.
Und genau deshalb wird diese Kennzeichnungspflicht in den kommenden Jahren vermutlich weniger ein technisches als vielmehr ein juristisches Thema werden.
Am Ende wird nicht entscheidend sein, ob ein Computer einen KI-Inhalt erkennt.
Sondern ob Unternehmen ihre Arbeitsweise plausibel dokumentieren können.
Die E-Mail des SWR zeigt deshalb vor allem eines:
Die Regulierung hat begonnen. Die eigentlichen Fragen beginnen aber erst jetzt.
Denn ein Gesetz ist immer nur so wirksam wie seine praktische Durchsetzbarkeit.
Und solange niemand zuverlässig beweisen kann, dass ein veröffentlichter Spot tatsächlich von einer KI stammt, bleibt eine unbequeme Erkenntnis bestehen:
Die größte Herausforderung des AI Acts ist nicht die Kennzeichnung. Sondern der Nachweis.
Dieser Text und die Grafik wurde mit Hilfe einer KI erstellt.
