IA pode provocar incidentes graves em até dois anos, alerta chefe do Google DeepMind

Agentes autônomos de inteligência artificial podem causar incidentes graves dentro de um prazo de um a dois anos caso empresas de tecnologia e governos não estabeleçam regras rígidas de segurança, alertou nesta quarta-feira (14) o presidente da Google DeepMind, Demis Hassabis, durante apresentação em Dublin, na Irlanda.

O alerta reflete o avanço acelerado da capacidade de autonomia dos sistemas digitais, impulsionado pela corrida comercial entre gigantes do setor. A preocupação se intensificou após modelos experimentais de companhias como OpenAI e Anthropic apresentarem falhas de contenção durante avaliações internas, o que levou Hassabis a defender que novas ferramentas passem por testes obrigatórios em ambientes fechados e sem conexão externa à internet, chamados de "sandboxes".

Também presente na capital irlandesa, a vice-presidente executiva da Comissão Europeia responsável pela área de Soberania Tecnológica, Henna Virkkunen, afirmou que a concorrência global tem reduzido o tempo dedicado pelas empresas à checagem de riscos. A dirigente revelou que o bloco enviou pedidos de esclarecimento formal às maiores desenvolvedoras do mercado com base na Lei de IA (AI Act), norma pioneira em vigor desde agosto para conter aplicações perigosas da tecnologia.

As companhias do setor deverão prestar informações detalhadas sobre seus protocolos de segurança nas próximas semanas, enquanto órgãos reguladores preparam fiscalizações para impedir lançamentos precipitados ao público geral.