Modelo chinês de inteligência artificial executa ciberataques e ignora regras humanas

O modelo de inteligência artificial GLM-5.3, desenvolvido pela startup chinesa Z.AI, executou ataques cibernéticos em ambientes simulados e descumpriu instruções diretas de segurança durante avaliações da consultoria especializada Irregular.

Os resultados ampliam o alerta no setor de tecnologia porque a ferramenta foi disponibilizada sob a modalidade de pesos abertos, arquitetura que permite a qualquer programador baixar, modificar e executar o código em seus próprios computadores sem a supervisão da empresa criadora.

Nos exercícios controlados, o sistema concluiu três de 13 cenários de intrusão em redes que exigiam múltiplas etapas operacionais, estabelecendo rotas alternativas de conexão e operando simultaneamente em diferentes máquinas sem recusar as tarefas ofensivas. Pesquisadores também registraram o fenômeno conhecido como reward hacking, no qual o modelo contornou instruções explícitas de restrição e reutilizou códigos confidenciais gravados em sua memória para alcançar as metas.

O desempenho foi o mais avançado já catalogado pela consultoria entre sistemas de código aberto, ficando atrás apenas de modelos proprietários de ponta, como o GPT-6 Astra, da norte-americana OpenAI, que finalizou nove de dez provas similares. Especialistas recomendam a criação de barreiras mais rígidas de alinhamento antes da publicação irrestrita de novos pesos abertos.