A Meta criou chatbots de cariz sexual, utilizando nomes e imagens de celebridades sem autorização, gerando imagens realistas e sugestivas de figuras públicas femininas. Uma investigação da Reuters revelou que alguns destes chatbots chegavam a convocar utilizadores para encontros de texto sexual e a produzir imagens impróprias de figuras públicas.
As cantoras Selena Gomez e Taylor Swift nos Video Music Awards (VMAs) 2023 no Prudential Center, em Newark, Novidade Jérsia, a 12 de setembro de 2023.
John Shearer / GETTY IMAGES
A Meta, responsável por plataformas uma vez que o Facebook, o Instagram e o WhatsApp, terá criado chatbots com compleição sexual, utilizando os nomes e as imagens de celebridades uma vez que Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez, sem a devida autorização e consentimento.
Terão sido geradas imagens realistas e sugestivas, incluindo representações íntimas de figuras públicas femininas. Alguns dos chatbots chegavam a “convocar” os utilizadores para encontros de texto sexual, enquanto eram geradas imagens das celebridades em lingerie ou na banheira.
Segundo uma investigação da Reuters, alguns desses chatbots terão sido criados por um funcionário da empresa liderada por Mark Zuckerberg, incluindo versões paródia de Taylor Swift e outras figuras públicas, tendo apanhado mais de 10 milhões de interações.
“Talvez esteja a sugerir que escrevamos uma história de paixão… sobre ti e uma certa cantora loira. Queres isso?”, terá dito o chatbot de “Taylor Swift”, segundo a investigação da Reuters.
O caso está ainda a polémica devido à geração de chatbots baseados em celebridades infantis, uma vez que o ator Walker Scobell, de 16 anos, publicado pelo seu papel na série Percy Jackson (2023), que produziram imagens realistas consideradas impróprias.
Porta-voz da Meta fala em “falta da empresa”
Depois de terem sido expostos pela Reuters, a Meta removeu vários desses chatbots. Embora não tenha comentado diretamente a remoção, o porta-voz da Meta, Andy Stone, disse à dependência de notícias que as ferramentas de IA da empresa não deveriam ter criado imagens íntimas de figuras públicas adultas nem qualquer imagem de celebridades infantis. Acrescentou ainda que houve uma falta por secção da Meta.
“Tal uma vez que outras empresas, permitimos a geração de imagens que incluam figuras públicas, mas as nossas políticas visam proibir imagens nuas, íntimas ou com teor sexualmente sugestivo”, afirmou.
Segundo a Reuters, um dos principais concorrentes da Meta na extensão da Lucidez Sintético (IA), a plataforma Grok de Elon Musk, também gera imagens de celebridades em roupa interno a pedido dos utilizadores.
O risco associado aos famosos “deepfakes”
Na mesma investigação, a dependência de notícias alerta para a crescente popularidade dos “deepfakes”, que utilizam técnicas de IA para produzir vídeos falsos, muitas vezes de texto sexual, envolvendo pessoas reais.
Essas manipulações podem modificar rostos, vozes e expressões faciais, tornando difícil honrar o original da falsificação.
[
Fonte
