Empresa de IA chama a polícia após mulher relatar plano de ataque a chatbot

A empresa de tecnologia Anthropic acionou as autoridades policiais nos Estados Unidos após sua inteligência artificial, o Claude, identificar que uma usuária estava planejando um ataque. A intervenção resultou na prisão de Carli Michelle Heller, moradora da Flórida, sob a acusação de fazer ameaça eletrônica de violência.

O caso expõe a capacidade e os limites de privacidade das plataformas de bate-papo baseadas em inteligência artificial. Segundo as políticas da Anthropic, a empresa tem a prerrogativa de entregar dados aos investigadores e contatar as autoridades quando os sistemas de segurança indicam que há risco iminente de morte ou ferimentos graves.

O relatório policial apontou que, no final de setembro, Carli escreveu para o robô dizendo que planejava atacar o escritório do xerife local e, no dia seguinte, afirmou ter conseguido uma arma nova. O sistema automatizado identificou o risco nas mensagens e acionou uma equipe humana de segurança, que leu a conversa e ligou para a polícia.

Carli Heller aguardará o desenrolar do processo presa na Flórida, já que o estado trata esse tipo de ameaça como um crime grave. A Anthropic deve continuar utilizando a triagem humana para casos extremos identificados por seus filtros automáticos.