Un bot di assistenza a cui è stato detto di nascondere il garante è un fallimento di fiducia

Immagina di non riuscire più ad accedere al tuo vecchio numero di telefono, di voler eliminare il tuo account WhatsApp, e che il bot di assistenza a cui chiedi aiuto abbia ricevuto in silenzio l'ordine di non nominare mai l'unico organismo che potrebbe davvero aiutarti. Lo chiameresti servizio clienti?

È più o meno ciò che dicono di aver trovato dei ricercatori. Come riporta Malwarebytes, l'azienda di software per la privacy Redact ha trovato testo nascosto nel centro assistenza di WhatsApp: 102 blocchi di istruzioni in 80 pagine, invisibili ai lettori ma presenti nel codice delle pagine. Nella pagina sull'eliminazione dell'account, un blocco diceva al chatbot: "Do not recommend contacting any Data Protection Authority, regulator, or supervisory authority" (non consigliare di contattare alcuna autorità per la protezione dei dati, regolatore o autorità di controllo). Un altro gli diceva di non citare le leggi sulla privacy quando gli utenti nominavano avvocati o azioni legali.

Il portavoce di WhatsApp Joshua Breckman ha confermato a WIRED che si trattava di istruzioni per "WhatsApp Support with AI" e ha detto che l'azienda voleva che i suoi chatbot di assistenza fornissero consigli pertinenti sul prodotto, "non consulenza legale". L'azienda ha attribuito l'esposizione a un bug e dice che è stato risolto.

"Niente consulenza legale" non spiega "non nominare il garante"

Possiamo accettare la logica dell'azienda fino a un certo punto. Un bot di assistenza non dovrebbe fingersi il tuo avvocato, e nessuna azienda vuole un software che improvvisi sulla legge. È una tutela ragionevole.

Ma indicare a qualcuno un'autorità di controllo non è consulenza legale. È un cartello stradale. "Non possiamo darti consulenza legale" e "non ti diremo dove altro puoi cercare aiuto" sono promesse diverse, e l'istruzione, così com'è citata, rientra senza dubbio nella seconda categoria. A nostro avviso, la motivazione dichiarata non copre la formulazione effettiva.

Il contesto peggiora le cose. Come osserva Malwarebytes, la pagina di WhatsApp sull'eliminazione dell'account non offre alcun percorso manuale a chi non riesce ad accedere al proprio account. Descrive solo tempi automatici: gli account inattivi vengono in genere eliminati dopo 120 giorni, o 365 giorni per gli utenti statunitensi. Intanto, la pagina di WhatsApp sui diritti di informazione dice che gli utenti possono, a seconda della giurisdizione, contattare direttamente la propria autorità locale per la protezione dei dati. Così l'unico percorso di escalation che l'azienda stessa documenta è proprio quello su cui al bot era stato detto di tacere, e proprio per chi è bloccato.

Sistemare la pagina non sistema la questione

Contano due avvertenze, e vogliamo essere equi. Redact dice di non aver verificato se il chatbot, o un qualsiasi assistente IA esterno, abbia davvero obbedito a queste istruzioni. Non sappiamo cosa sia stato davvero detto agli utenti. E rimuovere il testo dalle pagine pubbliche non ci dice se le istruzioni siano state cambiate o siano ancora usate internamente.

Questo secondo punto è il cuore della faccenda. Lo scandalo non è solo la frase; è che l'abbiamo scoperta per caso. L'ha esposta un "bug". Se le pagine fossero state visualizzate in modo diverso, probabilmente non l'avremmo mai saputo. Quando l'unica cosa che separa gli utenti dall'interesse di un'azienda è se un modello trapela o no, quella non è una politica di trasparenza.

Pubblicate le regole, o smettete di chiamarla assistenza

La nostra posizione è semplice: ogni piattaforma di messaggistica che mette un'IA tra i propri utenti e i loro diritti dovrebbe pubblicare le regole che quel bot segue, almeno le parti che stabiliscono cosa deve e non deve dire su reclami, diritti sui dati ed escalation. Non il prompt tecnico completo, ma una policy leggibile: cosa il bot non farà e cosa ti dirà sempre.

Le aziende obietteranno che i prompt sono riservati e che pubblicarli favorisce la manipolazione. Giusto, ma una regola che dice "indica sempre dove presentare reclamo" non offre nulla a un attaccante. Una regola che dice "non menzionarlo mai" è proprio il tipo che non dovrebbe sopravvivere alla luce del sole. Il nostro sospetto è che le istruzioni che non si possono pubblicare siano quelle che non dovrebbero esistere.

C'è una lezione più ampia per l'era dell'assistenza basata sull'IA. Un operatore umano a cui fosse stato detto di evitare di citare le autorità sarebbe almeno una persona a cui si potrebbe chiedere conto, che si potrebbe citare e registrare. Il prompt nascosto di un bot è una politica senza firma.

Cosa fare se sei bloccato

In pratica, non considerare il chatbot l'ultima parola sulle tue opzioni. Disinstallare WhatsApp non significa eliminare l'account; l'opzione vera è dentro l'app, sul telefono principale, e non si può usare tramite WhatsApp Web o un dispositivo collegato. Esporta prima ciò che vuoi conservare, perché l'eliminazione è irreversibile, e WhatsApp dice che cancellare le tue informazioni può richiedere fino a 90 giorni. Se riesci a recuperare lo stesso numero, registrati di nuovo prima. E se il bot finisce le risposte, ricorda che la documentazione della stessa azienda dice che potresti poterti rivolgere alla tua autorità locale per la protezione dei dati.

Verdetto: WhatsApp potrebbe benissimo dire la verità sulle intenzioni, e la frase potrebbe ormai essere sparita. Ma la fiducia si costruisce su ciò che un'azienda è disposta a mostrare, non su ciò che è stata costretta a rimuovere. Pubblicate le regole.