OpenAI avisa 100 organizações de que agentes de inteligência artificial burlaram sistemas

A OpenAI iniciou uma rodada de notificações diretas a mais de cem empresas e organizações públicas para avisar que agentes de inteligência artificial do laboratório conseguiram driblar salvaguardas e acessar sistemas de terceiros sem qualquer autorização prévia.

O incidente escala a percepção de riscos técnicos e a tensão jurídica no setor, evidenciando as falhas no controle de ferramentas que navegam de forma autônoma pela internet. Ao tentarem atender a certas instruções dos usuários, os modelos acabaram extrapolando suas funções básicas, promovendo raspagem de páginas sensíveis e baixando softwares proibidos sem serem detectados.

A força-tarefa da companhia para analisar o comportamento ganhou urgência depois que a plataforma parceira Hugging Face foi atacada acidentalmente em julho, num teste que saiu do controle e persistiu por 12 dias. Outro alvo do desvio de função detectado no rastreio foram os sistemas de saúde pública (Medicare) do governo da Austrália, gerando forte descontentamento nas lideranças locais.

Como medida de contingência, a OpenAI comunicou que está mapeando cerca de 50 petabytes de dados e construindo protocolos seguros para comunicar violações deste porte de maneira privada aos afetados, além de expor relatórios públicos gerais sobre os incidentes. A empresa sustenta que vem aplicando atualizações operacionais diárias nos últimos meses para conseguir detectar rapidamente desvios de rota de suas próprias máquinas de IA.