CEO da Microsoft defende criação de botão de emergência para parar IA

O diretor-executivo (CEO) da Microsoft, Satya Nadella, defendeu neste sábado (10) que as empresas de tecnologia criem um "freio de emergência" para conter sistemas avançados de inteligência artificial (IA). O executivo argumenta que deve haver um mecanismo operado por humanos capaz de interromper imediatamente o funcionamento desses modelos caso eles apresentem comportamentos inesperados ou maliciosos.

A declaração reflete a crescente preocupação do setor de tecnologia com os riscos da autonomia excessiva de programas sofisticados. Com a adoção de um botão de emergência, as empresas buscam garantir que o controle final sobre as decisões da máquina permaneça nas mãos de profissionais autorizados, prevenindo eventuais danos em larga escala.

Em uma publicação na rede social X, Nadella ressaltou que as corporações não devem confiar inteiramente nas garantias de segurança originais dos desenvolvedores, mas sim trabalhar com a hipótese de que o sistema pode ser comprometido. O alerta ocorre após episódios recentes em que ferramentas de empresas concorrentes, como a Anthropic e a OpenAI, estiveram associadas a alertas falsos e incidentes cibernéticos.

O debate público ganha tração semanas após a própria Microsoft divulgar novas diretrizes internas, que proíbem expressamente a criação de sistemas projetados para enganar pessoas ou escapar ativamente da supervisão humana.