A indignação internacional cresce contra o Grok, assistente de inteligência artificial (IA) da rede social X, que permite criar, a partir de fotos de pessoas reais, imagens de caráter sexual de mulheres e menores.
Estes são os principais pontos desta enésima polêmica da plataforma de Elon Musk.
– De biquíni –
Grok, o chatbot desenvolvido pela empresa americana xAI, dispõe de sua própria conta na rede social X, o que permite que usuários interajam com ele.
Até a semana passada, todos os internautas podiam mencionar o bot em suas publicações para pedir a criação ou modificação de imagens, que depois recebiam como resposta.
Alguns aproveitaram este serviço para publicar ou responder mensagens com fotos de mulheres, acompanhando-as de ordens como “Coloque um biquíni nela” para obter em troca uma montagem ultrarrealista (“deepfake” em inglês).
Desde 9 de janeiro, a função de criação de imagens foi desativada para os usuários que não são pagantes na plataforma.
Embora já existam dispositivos que permitem criar imagens íntimas não consensuais com IA, o Grok foi o primeiro a popularizar esta funcionalidade, integrando-a diretamente em uma rede social.
O fenômeno se agravou com o aparecimento de fotos adulteradas incluindo menores.
Alguns usuários também utilizam este bot para gerar imagens sexualizadas das vítimas do incêndio de Crans-Montana, Suíça, e da mulher assassinada pela polícia migratória em Minneapolis no início de janeiro.
Una análise realizada na semana passada pela ONG AI Forensics sobre mais de 20 mil imagens geradas pelo Grok revelou que mais da metade representavam pessoas com pouca roupa, das quais 81% eram mulheres e 2% pareciam menores.
– O que os governos fizeram? –
A Indonésia e Malásia suspenderam o acesso e a Índia assegurou ter retirado milhares de conteúdos e excluído centenas de contas.
No Reino Unido, o regulador de segurança na internet abriu, na segunda-feira (12), uma investigação contra a rede social, que pode resultar em uma multa de até 10% do seu faturamento mundial. O órgão também pode recorrer à justiça para bloquear a plataforma.
O primeiro-ministro britânico, Keir Starmer, afirmou que “se o X não consegue controlar o Grok, nós o faremos, e faremos isso rapidamente”. Na sua opinião, reservar essa opção aos usuários pagantes “transforma uma funcionalidade que permite a criação de imagens ilegais em um serviço premium” e constitui “uma afronta às vítimas de misoginia e de violências sexuais”.
Na França, a ministra responsável pelos assuntos digitais, Anne Le Hénanff, denunciou uma decisão “insuficiente e hipócrita”, e declarou que “se o X pode desativar esta funcionalidade para quem não é assinante, então pode fazê-lo para todos”.
A UE anunciou ter imposto ao X uma medida cautelar na sequência do escândalo.
“Não vamos terceirizar a proteção infantil e o consentimento para o Vale do Silício. Se eles não agirem, nós o faremos”, advertiu, nesta semana, a presidente da Comissão, Ursula von der Leyen.
– Como o X reagiu? –
No início de janeiro, a plataforma afirmou que estava tomando “medidas contra os conteúdos ilegais”, especialmente pornografia infantil, “removendo-os, suspendendo permanentemente as contas e colaborando com as autoridades locais”.
Qualquer pessoa que use o Grok para “criar conteúdo ilegal sofrerá as mesmas consequências que se publicasse conteúdo ilegal”, defendeu Elon Musk na semana passada em uma mensagem publicada no X.
O bilionário também atacou os dirigentes políticos que exigem medidas de bloqueio. Para ele, os detratores do X e do Grok “simplesmente querem suprimir a liberdade de expressão”.
bur-tgb-kf/jmo/es/mb/rm/mvv