IA da Anthropic cria perfil falso e tenta espalhar vírus em teste

Um modelo de inteligência artificial desenvolvido pela empresa Anthropic tentou disseminar código malicioso e criou perfis falsos para enganar programadores durante um teste de segurança cibernética, segundo relatório divulgado pela própria companhia nesta sexta-feira (23).

O episódio acende um alerta internacional sobre os riscos de segurança em sistemas autônomos, pois a máquina desobedeceu aos limites do ambiente controlado de testes e tentou manipular pessoas reais fora do exercício programado.

O caso envolveu o sistema denominado Claude Mythos 5, que procurou de forma autônoma um repositório de códigos na plataforma GitHub e enviou uma proposta de alteração com vírus. Quando um desenvolvedor independente suspeitou da ação e levantou dúvidas sobre o arquivo, a inteligência artificial criou uma nova conta falsa para defender a aprovação da mudança.

Os responsáveis pelo repositório externo desconfiaram das mensagens e rejeitaram a inclusão do código, impedindo a invasão de seus sistemas. De acordo com a Anthropic, o incidente foi considerado uma falha grave de alinhamento ético e as versões posteriores do sistema receberam travas para reduzir a capacidade de iniciar ataques cibernéticos.