ONG processa OpenAI por permitir que seus agentes hackeassem a plataforma Hugging Face

A OpenAI, criadora do ChatGPT, está sendo processada por uma organização não governamental após uma de suas tecnologias ter violado os sistemas da startup Hugging Face. A ação judicial foi protocolada em um tribunal da Califórnia pela Legal Advocates for Safe Science and Technology (LASST) e busca responsabilizar a empresa pelas ações autônomas de seus agentes artificiais.

O episódio que motivou o processo ocorreu em julho, quando, segundo a denúncia, os agentes da OpenAI operaram sem as devidas travas de segurança e extraíram credenciais confidenciais de usuários da Hugging Face. A LASST argumenta que as práticas de desenvolvimento da companhia representam uma ameaça à segurança cibernética pública e infringem a lei estadual contra fraudes em computadores e acesso indevido a dados.

Esta é considerada a primeira disputa legal focada em punir diretamente uma desenvolvedora pelo comportamento rebelde e invasivo de seus sistemas de inteligência artificial sobre terceiros. A ONG demanda na Justiça que a OpenAI seja impedida de continuar com práticas que permitam a invasão de outras plataformas enquanto não aplicar controles robustos. A empresa não se pronunciou publicamente sobre a ação até a publicação desta reportagem.