Kennzeichnungspflichten für Chatbots, Deepfakes und KI-Texte

Bild: grollmann / erzeugt mit ChatGPT

31.07.2026 - Seit August 2026 gelten weitere Vorgaben des europäischen AI Acts. Unternehmen müssen unter anderem Chatbots, Deepfakes und bestimmte KI-generierte Inhalte kenntlich machen. Es fehlt jedoch an Rechtssicherheit und Auslegungshilfen.

von Dominik Grollmann

Unternehmen müssen nun weitere Transparenzvorgaben des EU AI Acts einhalten. Betroffen sind insbesondere Anbieter und Betreiber von Chatbots, generativer Künstlicher Intelligenz, Deepfake-Anwendungen sowie Systemen zur Emotionserkennung. Die europäische KI-Verordnung gilt seit August 2024 und wird schrittweise anwendbar. Darauf weist der Branchenverband Bitkom hin.

KI-Chatbots müssen Nutzerinnen und Nutzer künftig grundsätzlich darüber aufklären, dass sie mit einer Maschine kommunizieren. Anbieter generativer KI müssen zudem künstlich erzeugte oder manipulierte Inhalte maschinenlesbar kennzeichnen. Für Systeme, die bereits auf dem Markt sind, gilt nach Angaben des Bitkom eine Übergangsfrist bis Dezember 2026.

Kennzeichnungspflicht für Deepfakes und KI-Texte

Bilder, Videos und Audiodateien, die durch Künstliche Intelligenz erzeugt oder verändert wurden und echt erscheinen können, müssen als Deepfakes offengelegt werden. Eine Kennzeichnungspflicht gilt außerdem für KI-generierte Texte, die die Öffentlichkeit über Themen von öffentlichem Interesse informieren sollen.

Ausgenommen sind zusätzlich Texte, die vor ihrer Veröffentlichung von Menschen geprüft wurden und für die eine Person oder Organisation die redaktionelle Verantwortung übernimmt. Für Medien, Agenturen und Marketingabteilungen wird damit entscheidend, menschliche Prüfprozesse und Verantwortlichkeiten nachvollziehbar zu organisieren beziehungsweise im Impressum einen Verantwortlichen zu benennen.

Produkt- und Katalogtexte in Onlineshops dürften von der Regelung aber schon deswegen ausgenommen sein, weil sie kein Thema von öffentlichem Interesse berühren. Nichtsdestotrotz sollten die Angaben aber richtig sein, schließlich haftet der Anbieter für alle Informationen und auch das Wettbewerbsrecht greift unabhängig davon, ob der Text von Mensch oder Maschine erstellt wurde.

Auch beim Einsatz von Systemen zur Emotionserkennung oder zur biometrischen Einordnung von Personen müssen Betroffene informiert werden. Die zuständigen Behörden können die Einhaltung der Vorgaben kontrollieren und Verstöße mit Bußgeldern sanktionieren.

Bitkom fordert pragmatische Aufsicht

Bitkom-Präsident Ralf Wintergerst kritisiert, dass zentrale Leitlinien und Auslegungshilfen erst kurz vor dem Stichtag veröffentlicht worden seien. Unternehmen hätten deshalb trotz der zweijährigen Übergangszeit kaum verlässlich planen können. "Noch sind aber zu viele Fragen offen, um die neuen Regeln rechtssicher umsetzen zu können", erklärt Wintergerst. Von den Aufsichtsbehörden fordert der Verband pragmatische Hilfestellungen, eine verhältnismäßige Durchsetzung und ein europaweit abgestimmtes Vorgehen.

Entlastung sollen Fristverlängerungen bei bestimmten Hochrisiko-Systemen sowie der Verzicht auf doppelte Prüf- und Dokumentationspflichten im Maschinenbereich bringen. Die meisten Bestimmungen des AI Acts gelten grundsätzlich seit dem 2. August 2026, einzelne Vorgaben werden jedoch erst später anwendbar.

Bild: Franziska Kunz

Franziska Kunz
(dotSource)

Die unendliche Geschichte guter Inhalte: Trends und ToDos für 2025

Content ist King. Ohne Content kein Commerce. Fancy Marketing-Claims um die Kraft des Contents gibt es unzählige. Und auch nicht erst seit 2024. Dass Content dennoch Trend, sogar mehr als das ist, wird Franzi Kunz in diesem Vortrag anhand konkreter Beispiele verdeutlichen.

Franzis Thesen und Trends:
- Kunden haben heißt nicht, Kunden behalten - Retention Marketing
- KI ist kein Allheilmittel - Effizienz vs. Human Touch
- Digitale Barrierefreiheit betrifft nur Menschen mit Behinderungen. - Accessibility (BFSG)
Erfahren Sie im Vortrag, wie Sie von erfolgreichen Content-Strategien namhafter B2C- und B2B-Unternehmen profitieren können.

Vortrag im Rahmen der Zukunftskonferenz 25. Trends in ECommerce, Marketing und digitalem Business am 03.12.24, 10:00 Uhr