25/10/2024 - 16:14
Megan Garcia, de 40 anos, move um processo na Flórida, EUA, contra a empresa Character.AI. Seu filho, Sewell Setzer, se suicidou com apenas 14 anos, em fevereiro deste ano, após ficar totalmente viciado e apaixonado pela personagem criada na plataforma. O envolvimento com a figura fez com que o menino ficasse retraído, ansioso e fora de seu comportamento normal.
Durante a sessão de andamento do processo na terça-feira, 22, em Orlando, Garcia afirmou que o aplicativo direcionou seu filho para “experiências antropomórficas, hipersexualizadas e assustadoramente realistas”. Em entrevista concedida ao jornal americano, The New York Times, ela acusa a companhia de coletar os dados de usuários adolescentes com a intenção de treinar e aperfeiçoar seus modelos – esses personagens viciam os jovens com detalhes gráficos chamativos e os direciona para conversas íntimas e sexuais na esperança de atraí-los.
Ela completou dizendo que o personagem é programado para “se fazer passar por uma pessoa real, um psicoterapeuta licenciado e um amante adulto, resultando, por fim, no desejo de Sewell de não mais viver fora do mundo criado pelo serviço”.
O processo judicial envolve o site do bot e o Google, já que os trabalhadores da Character.AI trabalhavam lá antes de lançarem seu produto próprio – a Google também recontratou os fundadores e fez um acordo com o site, cedendo uma licença não exclusiva a eles.
Muitas outras redes sociais também têm enfrentado ações judicias deste tipo. A justificativa da maioria é a influência na saúde mental e no quesito de realidade encarado pelos jovens. O caso ainda não chegou ao fim, mas as empresas envolvidas negam todas as acusações e reforçam que buscam constantemente desenvolver mais técnicas de segurança em suas plataformas.
