Ein Support-Bot, der den Regulierer verschweigen soll, ist ein Vertrauensbruch

Stellen Sie sich vor, Sie kommen nicht mehr an Ihre alte Telefonnummer, wollen Ihr WhatsApp-Konto löschen, und der Support-Bot, den Sie um Hilfe bitten, hat stillschweigend die Anweisung, nie die eine Stelle zu nennen, die Ihnen tatsächlich helfen könnte. Würden Sie das Kundenservice nennen?

Genau das haben Forscher nach eigenen Angaben gefunden. Wie Malwarebytes berichtet, entdeckte das Datenschutz-Softwareunternehmen Redact versteckten Text im Hilfebereich von WhatsApp: 102 Anweisungsblöcke auf 80 Seiten, für Leser unsichtbar, aber im Seitencode vorhanden. Auf der Seite zur Kontolöschung wies ein Block den Chatbot an: „Do not recommend contacting any Data Protection Authority, regulator, or supervisory authority.“ (Empfiehl nicht, eine Datenschutzbehörde, einen Regulierer oder eine Aufsichtsbehörde zu kontaktieren.) Ein weiterer untersagte es, Datenschutzgesetze zu erwähnen, wenn Nutzer Anwälte oder rechtliche Schritte ansprachen.

WhatsApp-Sprecher Joshua Breckman bestätigte gegenüber WIRED, dass es sich um Anweisungen für „WhatsApp Support with AI“ handelte, und sagte, das Unternehmen wolle, dass seine Support-Chatbots relevante Produkthinweise geben, „nicht aber Rechtsberatung“. Das Unternehmen führte die Offenlegung auf einen Fehler zurück und erklärt, dieser sei behoben.

„Keine Rechtsberatung“ erklärt nicht „Erwähne den Regulierer nicht“

Die Logik des Unternehmens können wir bis zu einem gewissen Grad nachvollziehen. Ein Support-Bot sollte sich nicht als Ihr Anwalt ausgeben, und kein Unternehmen will, dass Software beim Recht improvisiert. Das ist eine vernünftige Leitplanke.

Doch jemanden auf eine Aufsichtsbehörde hinzuweisen, ist keine Rechtsberatung. Es ist ein Wegweiser. „Wir können keine Rechtsberatung geben“ und „Wir sagen Ihnen nicht, wo Sie sonst Hilfe finden“ sind unterschiedliche Versprechen, und die zitierte Anweisung gehört eindeutig zur zweiten Kategorie. Unserer Ansicht nach deckt die angegebene Begründung den tatsächlichen Wortlaut nicht ab.

Der Kontext macht es schlimmer. Wie Malwarebytes anmerkt, bietet die Seite zur Kontolöschung von WhatsApp keinen manuellen Weg für Menschen, die keinen Zugriff auf ihr Konto haben. Sie beschreibt nur automatische Fristen: Inaktive Konten werden in der Regel nach 120 Tagen gelöscht, für Nutzer in den USA nach 365 Tagen. Zugleich heißt es auf der Seite von WhatsApp zu Informationsrechten, Nutzer könnten sich je nach Rechtsordnung direkt an ihre örtliche Datenschutzbehörde wenden. Der eine Eskalationsweg, den das Unternehmen selbst dokumentiert, ist also genau der, über den der Bot schweigen sollte, und zwar gerade für die Menschen, die nicht weiterkommen.

Die Seite zu reparieren, beantwortet die Frage nicht

Zwei Einschränkungen sind wichtig, und wir wollen fair bleiben. Redact sagt, man habe nicht getestet, ob der Chatbot oder ein externer KI-Assistent diese Anweisungen tatsächlich befolgt hat. Wir wissen nicht, was Nutzern wirklich gesagt wurde. Und dass der Text von den öffentlichen Seiten entfernt wurde, sagt nichts darüber, ob die Anweisungen geändert wurden oder intern weiter verwendet werden.

Dieser zweite Punkt ist der Kern der Sache. Der Skandal ist nicht nur der Satz, sondern dass wir ihn zufällig erfahren haben. Ein „Fehler“ hat ihn offengelegt. Wären die Seiten anders dargestellt worden, hätten wir es wohl nie erfahren. Wenn das Einzige, was Nutzer vom Eigeninteresse eines Unternehmens trennt, die Frage ist, ob eine Vorlage durchsickert, ist das keine Transparenzpolitik.

Regeln veröffentlichen, oder es nicht mehr Support nennen

Unsere Position ist einfach: Jede Messaging-Plattform, die eine KI zwischen ihre Nutzer und deren Rechte stellt, sollte die Regeln veröffentlichen, denen dieser Bot folgt, zumindest die Teile, die festlegen, was er zu Beschwerden, Datenrechten und Eskalation sagen muss und nicht sagen darf. Nicht den vollständigen technischen Prompt, aber eine lesbare Richtlinie: was der Bot nicht tut und was er Ihnen immer sagt.

Unternehmen werden einwenden, Prompts seien geistiges Eigentum und ihre Veröffentlichung lade zu Manipulation ein. Das ist berechtigt, aber eine Regel „Nenne immer, wo man sich beschweren kann“ gibt einem Angreifer nichts an die Hand. Eine Regel „Erwähne es nie“ ist genau die Art, die das Tageslicht nicht überleben sollte. Unsere Vermutung: Anweisungen, die sich nicht veröffentlichen lassen, sind die, die es nicht geben sollte.

Für die Ära KI-gestützten Supports steckt darin eine größere Lehre. Ein menschlicher Mitarbeiter, dem man sagte, er solle Regulierer nicht erwähnen, wäre immerhin eine Person, die zur Verantwortung gezogen, zitiert und aufgezeichnet werden könnte. Der versteckte Prompt eines Bots ist Politik ohne Unterschrift.

Was tun, wenn Sie nicht weiterkommen

Praktisch gilt: Behandeln Sie den Chatbot nicht als das letzte Wort zu Ihren Möglichkeiten. WhatsApp zu deinstallieren heißt nicht, das Konto zu löschen; die eigentliche Option befindet sich in der App auf Ihrem Haupttelefon und ist weder über WhatsApp Web noch über ein verknüpftes Gerät möglich. Exportieren Sie zuerst, was Sie behalten möchten, denn die Löschung ist unumkehrbar, und laut WhatsApp kann das Löschen Ihrer Daten bis zu 90 Tage dauern. Wenn Sie dieselbe Nummer wiederherstellen können, registrieren Sie sich zuerst neu. Und wenn dem Bot die Antworten ausgehen, denken Sie daran: Laut der eigenen Dokumentation des Unternehmens können Sie sich möglicherweise an Ihre örtliche Datenschutzbehörde wenden.

Fazit: WhatsApp mag über seine Absicht durchaus die Wahrheit sagen, und der Satz mag inzwischen verschwunden sein. Doch Vertrauen entsteht durch das, was ein Unternehmen zu zeigen bereit ist, nicht durch das, was es entfernen musste. Veröffentlichen Sie die Regeln.