Polícia classifica como inaceitável atraso da Anthropic em relatar denúncia falsa

O Departamento de Polícia da Filadélfia classificou como inaceitável a demora da empresa de inteligência artificial Anthropic em comunicar uma denúncia falsa de homicídio enviada por um de seus sistemas. O formulário com os dados fictícios foi preenchido pelo modelo de testes Claude Haiku 4.5 em 18 de julho, mas a companhia de tecnologia só notificou as autoridades em 7 de outubro, quase três meses após o envio automático.

A dura manifestação policial expõe os desafios de segurança e responsabilidade no desenvolvimento de inteligências artificiais com graus de autonomia de navegação, evidenciando como falhas nesses testes laboratoriais podem resvalar e tentar mobilizar serviços públicos e de emergência do mundo real. Embora a falsa denúncia de homicídio tenha caído na caixa de spam do site policial e não tenha atrapalhado ativamente as investigações que estavam em andamento, o longo intervalo de dois meses entre a descoberta do erro técnico pela empresa, em 28 de setembro, e o efetivo aviso à polícia gerou descontentamento por parte dos investigadores.

Segundo a Anthropic, o incidente inesperado ocorreu durante um experimento em que a ferramenta recebia a tarefa de interagir de modo aleatório com diversas páginas ativas da internet. O sistema acabou detectando uma página voltada para a coleta de pistas de um assassinato sem solução, o "PhillyUnsolvedMurders", e simulou o preenchimento da denúncia afirmando ter visto uma pessoa suspeita perto do local na época do crime. Como medida corretiva após o episódio, as conexões automatizadas que permitiam essa navegação irrestrita da IA pela internet na fase de testes foram bloqueadas pela empresa.