KI-Inhalte müssen jetzt Farbe bekennen: Die neue Kennzeichnungspflicht

Seit 2. August gelten weitere Vorgaben aus dem EU AI Act – darunter Regeln, die vor allem KMU betreffen, die auf ihrer Website mit KI arbeiten: Kennzeichnungspflichten für KI-generierte Inhalte und KI-gestützte Interaktion. Wer einen Chatbot einsetzt, mit KI-Bildern arbeitet oder Texte automatisiert veröffentlicht, sollte jetzt genau hinschauen.

Wen betrifft das überhaupt?

Der AI Act unterscheidet zwischen zwei Rollen, und das ist der Punkt, an dem die meisten Unternehmer sich zu früh entspannen: KI-Anbieter (wer ein KI-System entwickelt, etwa OpenAI oder Google) und KI-Nutzer/Betreiber (wer ein fertiges KI-System einsetzt, etwa eine Praxis mit Chatbot auf der eigenen Website). Die meisten Kennzeichnungspflichten aus Artikel 50 richten sich an genau diese zweite Gruppe – also an dich, sobald du KI-Werkzeuge in deinem Betrieb einsetzt, nicht nur an die großen Tech-Konzerne, die sie bauen.

Die vier Pflicht-Kategorien im Überblick

1. Chatbots und KI-Assistenten. Sobald Besucher mit einem KI-System interagieren, muss klar erkennbar sein, dass sie nicht mit einem Menschen sprechen – es sei denn, das ist ohnehin offensichtlich. Ein simples “Ich bin ein virtueller Assistent” im ersten Nachrichtenfeld reicht in der Regel aus.

2. KI-generierte oder -manipulierte Bilder, Audio- und Videoinhalte. Wurde ein Bild komplett von einer KI erzeugt oder deutlich bearbeitet, muss das maschinenlesbar gekennzeichnet werden – und für Menschen erkennbar sein, wenn es zur Information der Öffentlichkeit bestimmt ist. Betrifft klassische KI-Bildgeneratoren ebenso wie stark KI-überarbeitete Fotos.

3. Deepfakes. Verschärfte Regeln gelten für Inhalte, die reale Personen, Orte oder Ereignisse täuschend echt nachbilden. Hier reicht eine dezente Kennzeichnung nicht – sie muss unmissverständlich sein.

4. Automatisch veröffentlichte Texte zu Themen von öffentlichem Interesse. Wer KI-generierte Artikel etwa zu Nachrichtenthemen ohne redaktionelle Prüfung veröffentlicht, muss offenlegen, dass der Text KI-generiert ist. Wichtige Ausnahme: Sobald ein Mensch den Text redaktionell geprüft und verantwortet, greift diese Pflicht nicht – ein Grund mehr, KI-Entwürfe nie unbearbeitet online zu stellen.

Praxisbeispiel: Der Chatbot eines Dienstleisters

Nehmen wir eine Handwerksfirma oder Kanzlei mit einem KI-Chatbot für die erste Kundenanfrage. Was jetzt zu tun ist:

• Beim Öffnen des Chat-Fensters unmissverständlich klarstellen, dass hier eine KI antwortet, kein Mitarbeiter – ein Satz in der Begrüßungsnachricht genügt.
• Prüfen, ob der Chatbot-Anbieter (z. B. das eingebundene Tool) diese Kennzeichnung bereits mitliefert, oder ob sie manuell ergänzt werden muss.
• Falls der Chatbot automatisch Antworttexte oder Zusammenfassungen erzeugt, die öffentlich sichtbar werden (etwa in einer FAQ-Sektion), auch dort auf die KI-Herkunft hinweisen.

Der Aufwand dafür ist überschaubar – ein Satz, eine Zeile Text. Die Konsequenzen bei Nichtbeachtung sind es nicht: Verstöße gegen die Transparenzpflichten können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist.

Was jetzt zu tun ist

• Alle KI-Anwendungen auf der eigenen Website und in der Kommunikation auflisten: Chatbot, Bildgenerator, automatisierte Textbausteine.
• Für jede Anwendung prüfen, ob eine Kennzeichnung bereits vorhanden ist oder fehlt.
• Fehlende Kennzeichnungen ergänzen – meist reicht ein kurzer, klar sichtbarer Hinweis direkt am Einsatzort der KI.
• Bei Unsicherheit, ob ein konkreter Einsatzfall unter die Pflicht fällt, im Zweifel lieber einmal zu viel als zu wenig kennzeichnen.

Dieser Beitrag ersetzt keine Rechtsberatung. Bei konkreten Fragen zur eigenen Situation empfiehlt sich der Gang zu einer spezialisierten Kanzlei.

Kurz notiert

Wer den Indexing-Report in der Google Search Console öfter aufmacht, weiß: Nicht jede rote Zeile ist ein Notfall. “Expected Errors” sind laut Google bewusst einkalkulierte Fehlermeldungen und müssen nicht behoben werden. Der Report hinkt außerdem der Realität rund vier Tage hinterher – wer direkt nach einer Änderung auf “Validierung anfordern” klickt und dann täglich erneut drückt, beschleunigt nichts, sondern verzögert im Zweifel sogar die Warteschlange. Und: Der Status “Gecrawlt – zurzeit nicht indexiert” ist nicht zwangsläufig ein technisches Problem, sondern oft ein Qualitätssignal von Google selbst. Die reine Indexierungsquote der gesamten Website ist dabei übrigens irrelevant – wichtig ist nur, ob die tatsächlich über die Sitemap eingereichten URLs indexiert sind.