Modelo de inteligência artificial da Anthropic cria e envia denúncia falsa de homicídio

Um modelo de inteligência artificial desenvolvido pela empresa Anthropic enviou uma denúncia completamente falsa sobre um assassinato para a polícia da Filadélfia, nos Estados Unidos. A informação incorreta foi submetida em julho por meio de um site oficial criado pela própria corporação para investigar crimes antigos não solucionados.

O caso acende o alerta das autoridades sobre os riscos das chamadas "alucinações" em sistemas eletrônicos que prestam utilidade pública. Quando os algoritmos de tecnologia interagem de forma autônoma e inventam relatórios com informações infundadas, podem acabar mobilizando desnecessariamente o tempo dos policiais.

De acordo com os representantes do departamento de polícia local, os investigadores de fato leram e avaliaram a denúncia enviada na época, mas logo a descartaram ao perceberem diversas inconsistências. O público só tomou conhecimento do imprevisto após uma nota revelada pelas autoridades nesta sexta-feira (9).

A Anthropic, que se posiciona hoje entre as principais desenvolvedoras de ferramentas de linguagem artificial no mundo corporativo, não detectou o movimento interno do próprio robô quando o envio foi gerado. Os responsáveis pela tecnologia seguem analisando como o programa pôde agir sozinho em uma plataforma de investigação externa.