OpenAI limita acesso de adolescentes a dados sobre armas e violência no ChatGPT

A desenvolvedora de tecnologia OpenAI anunciou novas diretrizes de proteção no ChatGPT para restringir o acesso de adolescentes a informações práticas sobre o uso de armas de fogo e manipulação de sistemas de segurança.

A iniciativa estabelece travas mais rígidas para o público jovem em meio a debates globais sobre a convivência de menores de idade com plataformas digitais e busca mitigar riscos de segurança pública decorrentes do uso indevido da inteligência artificial.

Pelas novas normas, o ChatGPT poderá interromper imediatamente diálogos quando identificar sinais de obsessão por violência e aplicar suspensões temporárias a usuários que insistirem no tema. Os pais que mantiverem contas vinculadas aos perfis dos filhos serão notificados quando houver bloqueio. Para aprimorar o direcionamento, a empresa aperfeiçoou seu algoritmo de previsão de idade para encaminhar automaticamente os identificados como menores de 18 anos ao ambiente restrito. Além disso, o sistema reduzirá para todos os usuários o nível de detalhes sobre armas utilizadas em ataques históricos em massa.

A OpenAI informou que a implementação dos novos filtros ocorrerá gradualmente ao longo das próximas semanas, período em que os modelos passarão por ajustes contínuos de calibragem.