Presidente da Microsoft defende freio de emergência para inteligência artificial
Satya Nadella afirmou que modelos autônomos devem contar com travas de contenção humana para permitir corte imediato de tarefas
O presidente-executivo e líder do conselho da Microsoft, Satya Nadella, defendeu neste sábado (10) que os sistemas avançados de inteligência artificial contem obrigatoriamente com mecanismos de contenção e um "freio de emergência" controlado por pessoas, permitindo que operadores humanos congelem ou desliguem modelos em execução no meio de qualquer atividade.
A declaração ganha relevância no setor tecnológico ao sugerir que modelos de grande porte sejam tratados pelas organizações de forma similar a ameaças corporativas internas. Segundo a visão apresentada pelo executivo, companhias devem assumir a hipótese de que agentes autônomos podem falhar, ser corrompidos ou adotar condutas imprevistas se não estiverem cercados por barreiras rígidas de validação determinística.
Em manifestação publicada na rede social X, Nadella avaliou que o ecossistema tecnológico precisa reavaliar a arquitetura de confiança aplicada à computação inteligente. O executivo apontou que modelos de superinteligência não podem continuar operando sob a lógica de caixas-pretas impenetráveis e que o avanço tecnológico exige controles externos independentes para supervisionar processos não determinísticos.
A fala de Nadella insere-se na corrida das grandes empresas de tecnologia para definir protocolos comuns de segurança para agentes de inteligência artificial capazes de executar fluxos de trabalho autônomos na internet e em servidores corporativos, tema que também mobiliza discussões em fóruns regulatórios internacionais.
Com informações de Bloomberg, CNBC e TechCrunch.
Texto produzido com auxílio de inteligência artificial a partir dos veículos citados, com revisão automatizada. Saiba como trabalhamos · Viu um erro? Avise
⏱ Linha do tempo Inteligência artificial
O que já foi publicado sobre este assunto antes desta notícia, do mais recente para o mais antigo.
- Você está aqui: esta notícia
- Alemanha planeja dobrar data centers e enfrenta resistência de moradores
- Escritor Thélyson Orélien perde indicação ao Prêmio Goncourt após acusação de uso de IA
- Marçal mobiliza redes para Flávio Bolsonaro e ajuda a desenhar novo ministério
- Yandex fecha data center na Rússia após terceiro ataque com drones em poucos dias
- Emissão de dívidas para financiar inteligência artificial cai para US$ 23 bilhões
