Wie muss ein KI-Hinweis im Chatbot formuliert sein?

Kurzantwort

Die Verordnung schreibt keinen Wortlaut vor. Sie verlangt, dass die betroffene Person erkennt, dass sie mit einem KI-System interagiert, und zwar klar und unterscheidbar. Praktisch heißt das: Das Wort „KI" (oder „AI") sollte vorkommen, weil alles Schwächere Auslegungssache bleibt.

Warum das so ist

Abs. 1 gibt ein Ergebnis vor — die Person ist informiert —, keine Formulierung. Unser Prüfpunkt P2 misst deshalb in zwei Stufen, und die Aufteilung zeigt, worum es geht. Als starken Hinweis werten wir Formulierungen, die künstliche Intelligenz ausdrücklich benennen: „künstliche Intelligenz", „KI-Assistent", „AI assistant". Als schwachen Hinweis werten wir „Bot", „virtueller Assistent" oder „automatisierte Antwort" und melden ihn getrennt: Solche Wörter sagen, dass nicht unbedingt ein Mensch antwortet, aber nicht, dass eine KI antwortet. Ob das im Einzelfall genügt, entscheiden Gerichte und nicht wir — deshalb melden wir die schwache Stufe als „Prüfung nötig" und nicht als Verstoß. Wer die Diskussion vermeiden will, benennt die KI.

Gemessen wird das in Prüfpunkt P2 — Offenlegung der KI im Chat (Art. 50 Abs. 1).

Was das konkret bedeutet

Setz den Hinweis in die erste Nachricht des Bots, in einem eigenen Satz, in der Sprache des Nutzers. Drei Angaben tragen einen solchen Satz: was gerade antwortet (die KI, ausdrücklich benannt), wozu (der Zweck des Bots) und wie ein Mensch erreichbar ist. Die dritte Angabe verlangt Abs. 1 nicht, aber sie ist der Unterschied zwischen einem Hinweis, der pflichtgemäß dasteht, und einem, der den Nutzer nicht ärgert. Vermeide Formulierungen, die die KI hinter einem Vornamen verstecken — ein Bot, der sich nur mit einem menschlich klingenden Namen vorstellt, arbeitet gegen den Zweck der Vorschrift.

Prüf es an deiner eigenen Seite

P2 öffnet das Chat-Fenster, liest den sichtbaren Text einschließlich eingebetteter Rahmen und meldet, welche der beiden Stufen gefunden wurde — oder dass gar kein Hinweis gefunden wurde. Lässt sich das Fenster automatisiert nicht öffnen, sagen wir genau das, statt einen Verstoß zu behaupten.

Jetzt kostenlos prüfen

Rechtlicher Hinweis

Diese Seite gibt allgemeine Information zur EU-KI-Verordnung — keine Rechtsberatung und keine rechtliche Würdigung deines Einzelfalls (vgl. BGH, Urteil vom 09.09.2021, I ZR 113/20). Sie ersetzt keine anwaltliche Prüfung. Zieh im Zweifel eine Anwältin oder einen Anwalt hinzu.