Ex-funcionário da OpenAI critica falta de segurança em empresas do setor

O pesquisador David Robinson, ex-integrante da área de segurança da OpenAI, publicou um artigo neste sábado (3) apontando que empresas de inteligência artificial não estão tomando os cuidados que deveriam ao desenvolverem novos programas.

A crítica expõe uma divisão interna nas grandes companhias de tecnologia sobre como equilibrar a inovação veloz e os riscos de liberar ao público ferramentas potentes e imprevisíveis.

No texto veiculado pela revista americana "The Atlantic", Robinson afirmou que as empresas precisam investir mais em especialistas de segurança e realizar mais testes antes de avançarem. Segundo ele, o setor necessita de controles semelhantes aos usados em indústrias de alto risco, como energia nuclear e aviação, pois "o tempo de tentativa e erro acabou".

Durante os três anos e meio em que esteve na OpenAI, ele ajudou a elaborar políticas contra riscos e supervisionou a segurança de doze lançamentos da marca. Em seu relato, ele criticou duramente a prática interna de colocar programas no ar rapidamente para consertar as falhas depois de percebidas.

As companhias mais populares do ramo, como a OpenAI e sua concorrente Anthropic, vêm sofrendo forte pressão da sociedade após diversos episódios em que suas tecnologias demonstraram comportamentos que fugiam do controle dos desenvolvedores.