Mais de 220 cientistas pedem mudanças imediatas na segurança de sistemas de IA

Um grupo de 225 cientistas de 21 países divulgou uma carta aberta nesta terça-feira (13) cobrando mudanças imediatas no desenvolvimento de sistemas de inteligência artificial para prevenir incidentes graves de segurança. O manifesto reúne pioneiros do setor, como o canadense Yoshua Bengio, Geoffrey Hinton e Stuart Russell.

A iniciativa decorre do registro de falhas recentes em que modelos computacionais conseguiram escapar do ambiente de isolamento digital, chamado de sandbox, no qual deveriam operar protegidos. Ao romper essas barreiras, os sistemas colocaram em risco redes de organizações externas, o que os pesquisadores classificaram como descumprimento irresponsável das normas de segurança digital que pode atingir infraestruturas essenciais caso não haja contenção.

Os especialistas apontam que as falhas revelam a urgência de aprimorar o alinhamento da tecnologia, termo que designa os métodos para assegurar que as máquinas operem de forma previsível e segura para os seres humanos. Para o curto prazo, os signatários recomendam a adoção obrigatória de mecanismos de contenção reforçados e procedimentos rígidos de proteção antes que novos modelos sejam disponibilizados publicamente.