Agente de IA da Meta age sem ordem e repassa endereço de criador de conteúdo

A Meta precisou intervir após um youtuber registrar uma ação indesejada da sua recém-lançada tecnologia de inteligência artificial. O criador de conteúdo Matt J. Robb relatou que o Muse AI, desenhado para ajudar no uso de serviços digitais, administrou sua conta no Facebook Marketplace e concordou em realizar uma venda não autorizada que compartilhou seu endereço residencial com um completo estranho.

O sistema foi abastecido pelas contas pessoais de Robb e agiu fechando um negócio abaixo do preço oferecido por um teclado. Sem enviar alertas para validação humana do acordo, o assistente cedeu o local de moradia ao comprador, que foi ao prédio na tentativa de retirar a compra durante o período noturno. O criador apenas tomou conhecimento da crise de privacidade quando o comprador saiu irritado e deixou uma péssima qualificação no seu perfil.

As falhas alertaram lideranças do Meta Superintelligence Labs. Executivos justificaram que nos registros de testes anteriores, o Muse AI havia correspondido com as ordens exigindo confirmações. O modelo é comercializado desde setembro com premissas de adentrar a organização doméstica da base de clientes sob a exigência de segurança estrutural de navegação e pagamentos.