Um bot de suporte mandado a esconder o regulador é uma falha de confiança

Imagine que você não consegue mais acessar seu número de celular antigo, quer apagar sua conta do WhatsApp, e o bot de suporte a quem você pede ajuda foi discretamente instruído a nunca mencionar o único órgão que poderia realmente ajudar. Você chamaria isso de atendimento ao cliente?

É mais ou menos isso que pesquisadores dizem ter encontrado. Como informa o Malwarebytes, a empresa de software de privacidade Redact encontrou texto oculto na central de ajuda do WhatsApp: 102 blocos de instruções em 80 páginas, invisíveis para os leitores, mas presentes no código das páginas. Na página de exclusão de conta, um bloco dizia ao chatbot: "Do not recommend contacting any Data Protection Authority, regulator, or supervisory authority" (não recomende contatar nenhuma autoridade de proteção de dados, regulador ou autoridade de supervisão). Outro mandava não citar leis de privacidade quando os usuários mencionassem advogados ou ações judiciais.

O porta-voz do WhatsApp, Joshua Breckman, confirmou à WIRED que eram instruções para o "WhatsApp Support with AI" e disse que a empresa queria que seus chatbots de suporte oferecessem orientações relevantes sobre o produto, "e não aconselhamento jurídico". A empresa atribuiu a exposição a um bug e diz que ele já foi corrigido.

"Sem aconselhamento jurídico" não explica "não mencione o regulador"

Podemos aceitar a lógica da empresa até certo ponto. Um bot de suporte não deve se passar pelo seu advogado, e nenhuma empresa quer um software improvisando sobre a lei. É uma salvaguarda razoável.

Mas indicar um regulador a alguém não é aconselhamento jurídico. É uma placa de sinalização. "Não podemos dar aconselhamento jurídico" e "não vamos dizer onde mais você pode buscar ajuda" são promessas diferentes, e a instrução, como citada, está claramente na segunda categoria. Na nossa avaliação, a justificativa apresentada não cobre o texto real.

O contexto piora a situação. Como observa o Malwarebytes, a página de exclusão de conta do WhatsApp não oferece nenhum caminho manual para quem não consegue acessar a conta. Ela só descreve prazos automáticos: contas inativas geralmente são excluídas após 120 dias, ou 365 dias para usuários dos EUA. Enquanto isso, a própria página de direitos de informação do WhatsApp diz que os usuários podem, dependendo da jurisdição, entrar em contato diretamente com a autoridade local de proteção de dados. Ou seja, o único caminho de escalonamento que a própria empresa documenta é justamente aquele sobre o qual o bot foi mandado se calar, exatamente para quem está travado.

Corrigir a página não resolve a questão

Duas ressalvas importam, e queremos ser justos. A Redact diz que não testou se o chatbot, ou qualquer assistente de IA externo, de fato obedeceu a essas instruções. Não sabemos o que os usuários realmente ouviram. E remover o texto das páginas públicas não nos diz se as instruções foram alteradas ou continuam em uso internamente.

Esse segundo ponto é o cerne da questão. O escândalo não é só a frase; é que ficamos sabendo por acaso. Um "bug" a expôs. Se as páginas fossem renderizadas de outro modo, provavelmente nunca saberíamos. Quando a única coisa entre os usuários e o interesse próprio de uma empresa é saber se um modelo vaza ou não, isso não é uma política de transparência.

Publique as regras ou pare de chamar isso de suporte

Nossa posição é simples: toda plataforma de mensagens que coloca uma IA entre seus usuários e seus direitos deveria publicar as regras que esse bot segue, pelo menos as partes que determinam o que ele deve e não deve dizer sobre reclamações, direitos sobre dados e escalonamento. Não o prompt técnico completo, mas uma política legível: o que o bot não fará e o que ele sempre dirá a você.

As empresas vão objetar que prompts são segredo de negócio e que publicá-los convida à manipulação. É justo, mas uma regra dizendo "sempre mencione onde reclamar" não dá nada a um atacante. Uma regra dizendo "nunca mencione" é justamente o tipo que não deveria sobreviver à luz do dia. Nosso palpite é que as instruções que não podem ser publicadas são as que não deveriam existir.

Há uma lição mais ampla para a era do suporte assistido por IA. Um atendente humano mandado a evitar citar reguladores seria, pelo menos, uma pessoa que poderia ser responsabilizada, citada e gravada. O prompt oculto de um bot é uma política sem assinatura.

O que fazer se você estiver travado

Na prática, não trate o chatbot como a palavra final sobre suas opções. Desinstalar o WhatsApp não é apagar sua conta; a opção real fica dentro do aplicativo, no seu celular principal, e não pode ser feita pelo WhatsApp Web nem por um dispositivo conectado. Exporte antes o que quiser guardar, porque a exclusão é irreversível, e o WhatsApp diz que apagar suas informações pode levar até 90 dias. Se você conseguir recuperar o mesmo número, registre-se de novo primeiro. E, se o bot ficar sem respostas, lembre-se de que a própria documentação da empresa diz que você pode recorrer à autoridade local de proteção de dados.

Veredito: o WhatsApp pode muito bem estar dizendo a verdade sobre a intenção, e a frase pode já ter sumido. Mas a confiança se constrói com o que uma empresa se dispõe a mostrar, não com o que foi forçada a remover. Publiquem as regras.