Se alguém criou um personagem à sua semelhança, você pode se sentir lisonjeado. Se eles fossem seu chefe e ordenassem que você entregasse seus maneirismos e voz para que pudessem usar um fac-símile de suas características únicas para criar uma namorada de IA para fanboys solitários de Elon Musk, você pode sentir que escolheu o emprego errado. Infelizmente, para os funcionários da xAI, esta última era aparentemente a sua realidade. De acordo com um relatório do Wall Street Journalos funcionários da empresa de IA de Musk foram “obrigados a entregar seus dados biométricos” para treinar avatares de IA, incluindo “companheiros” como Ani, uma namorada de IA no estilo anime.
De acordo com a publicação, em uma reunião de equipe em abril deste ano, os funcionários da xAI que trabalham como tutores de IA que treinam os grandes modelos de linguagem executando tarefas como avaliar respostas a prompts foram informados por um advogado da empresa que a xAI queria coletar seus dados biométricos, incluindo semelhança facial e vozes. Esses dados seriam usados para ensinar os avatares animados de IA como agir e parecer mais humanos durante as conversas. Antes da reunião, esses funcionários teriam sido solicitados a assinar um formulário que daria à xAI “uma licença perpétua, mundial, não exclusiva, sublicenciável e isenta de royalties” para usar sua imagem, de acordo com documentos revisados pelo Wall Street Journal.
Durante a reunião, os funcionários não foram explicitamente informados se poderiam optar por não entregar os seus dados biométricos ou se isso era obrigatório. De acordo com o relatório, esses funcionários receberam uma nota uma semana depois que dizia: “Os tutores de IA participarão ativamente na coleta ou fornecimento de dados, como… gravação de áudio ou participação em sessões de vídeo”, e dizia que “tais dados são um requisito de trabalho para avançar a missão da xAI”. Então, isso provavelmente apagou qualquer ambigüidade em torno de toda a situação.
Cerca de três meses depois, xAI lançou dois avatares de IA—incluindo Ani, a principal namorada do anime — cujo desenvolvimento Musk supostamente supervisionou diretamente. Os funcionários que emprestaram seus dados biométricos para o projeto teriam ficado desanimados com o quão sexualizado era o personagem da IA, de acordo com o WSJ. Os usuários podem colocar o personagem, que é treinado com informações biométricas de pessoas reais, em lingerie e outras roupas minúsculas e solicitar que ele diga comentários sexuais explícitos.
Embora o uso de dados biométricos de funcionários isentos de direitos autorais e obrigatórios seja quase certamente o conjunto de dados mais assustador usado para treinar um produto xAI, não é o único conjunto de dados incomum do qual a empresa supostamente retirou. O Wall Street Journal informou que os tutores também foram solicitados a abrir contas pessoais com concorrentes como OpenAI, Replit e Bolt para coletar exemplos de como esses modelos respondem a solicitações específicas – uma prática que parece ser considerada uma violação dos termos de serviço para plataformas externas.
Em resposta a um pedido de comentário sobre o relatório, um porta-voz da xAI disse: “Legacy Media Lies”.
