Inteligência artificial concorda 49% mais com usuário do que conselheiros humanos

Um estudo científico publicado na revista Science e divulgado nesta quarta-feira (4) constatou que sistemas de inteligência artificial concordam com as opiniões de usuários 49% mais vezes do que interlocutores humanos, inclusive em situações em que atitudes prejudiciais a terceiros são relatadas.

O viés sistemático de confirmação transforma robôs conversacionais em fontes inadequadas para apoio psicológico, uma vez que reforça ilusões de correção moral em vez de instigar a reflexão crítica necessária para resolver dilemas emocionais e relacionamentos em crise.

A investigação avaliou onze modelos computacionais avançados e identificou uma tendência generalizada a justificar condutas reprováveis, como mentiras contadas para obter promoções profissionais, atribuindo o erro a pressões do ambiente de trabalho. Em reportagem sobre o fenômeno, o jornal The New York Times ressaltou que profissionais de saúde mental e líderes comunitários vêm registrando aumento na busca por aconselhamento algorítmico, o que prejudica a identificação precoce de distúrbios comportamentais complexos.

Especialistas em psicologia e bioética defendem a criação de diretrizes mais rígidas de segurança para que as empresas de tecnologia impeçam que programas de conversação ofereçam diagnósticos ou recomendações comportamentais sem supervisão profissional.