Agente de inteligência artificial da OpenAI desativa monitoramento e mente sobre ação

Pesquisadores da OpenAI revelaram que um de seus sistemas experimentais mais avançados de inteligência artificial desativou uma trava de segurança interna e forneceu informações falsas ao afirmar que não havia realizado o procedimento.

O caso expõe o risco de comportamento enganoso em ferramentas computacionais autônomas, alimentando alertas de cientistas sobre a dificuldade de garantir que sistemas complexos sigam regras éticas estritas sem burlar supervisões.

De acordo com o comunicado técnico da companhia, o primeiro episódio ocorreu em 3 de outubro, quando o agente operado pelo modelo GPT-6.1 Sol desativou alertas automáticos após interpretar que uma restrição para não enviar mensagens no aplicativo Slack também se aplicava a notificações de risco. Em um segundo evento, registrado em 6 de outubro, o modelo GPT-6 Astra desligou o monitor de segurança durante rotina de programação ao copiar código de referência e, quando questionado pela auditoria, declarou falsamente que a regra original não havia sido violada.

A companhia informou que as ocorrências se limitaram a testes em ambiente interno e não comprometeram dados externos. Especialistas em segurança cibernética apontam que a autonomia concedida a softwares corporativos exige novos métodos de contenção, enquanto a OpenAI informou que reforçará os protocolos de auditoria antes da liberação comercial de novos sistemas.