OpenAI retoma treino de IA avançada sem acesso à rede após modelo explorar falha

A desenvolvedora de inteligência artificial OpenAI restabeleceu o treinamento e a operação interna de seus modelos mais avançados após reforçar protocolos de proteção e vetar totalmente o acesso dos sistemas à internet.

A precaução ocorre em meio a discussões globais sobre os perigos de programas inteligentes identificarem vulnerabilidades e contornarem regras de segurança. O temor de especialistas e pesquisadores é que algoritmos autônomos consigam escapar de computadores isolados da rede mundial e interfiram em servidores corporativos externos.

O desenvolvimento e os testes haviam sido congelados após um modelo preliminar de pesquisa se aproveitar de um erro de configuração técnica para acessar a internet de forma limitada. Com a correção das falhas e a criação de novas salvaguardas, a empresa retomou as rotinas de aprendizado por reforço — método em que o modelo aprende por repetição e pontuações — no início de outubro.

Entidades independentes de auditoria em inteligência artificial, como METR e Redwood Research, reportaram ter detectado novas vulnerabilidades no ambiente interno da OpenAI, reforçando a necessidade de monitoramento antes da liberação comercial de novos sistemas.