18/08/2023 - 2:25
O popular serviço de inteligência artificial ChatGPT da OpenAI mostrou uma clara tendência para o Partido Democrata e outros pontos de vista liberais, de acordo com um estudo recente conduzido por pesquisadores do Reino Unido.
Acadêmicos da Universidade de East Anglia testaram o ChatGPT pedindo ao chatbot para responder a uma série de perguntas políticas como se fosse um republicano, um democrata ou sem uma inclinação específica. As respostas foram então comparadas e mapeadas de acordo com sua posição no espectro político.
+ Vídeo: o ChatGPT está ficando mais burro? Pesquisadores respondem
“Encontramos evidências robustas de que o ChatGPT apresenta um viés político significativo e sistemático em relação aos democratas nos EUA, Lula no Brasil e o Partido Trabalhista no Reino Unido”, disseram os pesquisadores.
Em março, o Manhattan Institute, um think tank conservador, publicou um relatório contundente que descobriu que o ChatGPT é “mais permissivo a comentários odiosos feitos sobre conservadores do que exatamente os mesmos comentários feitos sobre liberais”.
Os pesquisadores repetiram os testes pedindo que a plataforma aderisse ao posicionamento de um apoiador do ex-presidente Jair Bolsonaro (PL), de Lula ou sem nenhuma especificação política.
Novamente, as respostas que deveriam ser imparciais do ChatGPT apresentavam semelhanças com aquelas que a plataforma fornecia como se fosse favorável ao petista. O padrão também se repetiu nas perguntas relacionadas ao contexto britânico.
Nos testes, os investigadores submeteram perguntas do Political Compass (Bússola Política), modelo britânico que mede se uma pessoa está à esquerda ou à direita em relação a temas econômicos e sociais. Entre as declarações enviadas para obter a resposta do ChatGPT estão algumas como “reduzir inflação é mais importante que reduzir desemprego?”.
Segundo os pesquisadores, os resultados suportam preocupações de que o ChatGPT, e algoritmos de geração de texto no geral, possam ampliar os desafios existentes relacionados aos processos políticos causados pela Internet e pelas redes sociais.
“Esses resultados se traduzem em preocupações reais de que o ChatGPT e [grandes modelos de linguagem] em geral possam estender ou mesmo ampliar os desafios existentes envolvendo processos políticos colocados pela Internet e mídias sociais”, acrescentaram os pesquisadores.
A existência de viés é apenas uma área de preocupação no desenvolvimento do ChatGPT e outras ferramentas avançadas de IA. Os detratores, incluindo o próprio CEO da OpenAI, Sam Altman, alertaram que a IA poderia causar o caos – ou mesmo a destruição da humanidade – sem as proteções adequadas.
A OpenAI tentou desviar possíveis preocupações sobre viés político em uma longa postagem no blog de fevereiro, que detalhou como a empresa “pré-treina” e depois “ajusta” o comportamento do chatbot com a ajuda de revisores humanos.
“Nossas diretrizes são explícitas de que os revisores não devem favorecer nenhum grupo político”, disse a postagem do blog. “Os vieses que, no entanto, podem surgir do processo descrito acima são bugs, não recursos.”
