Os usuários do ChatGPT estão reclamando que o popular chatbot ficou “mais preguiçoso” ao se recusar a concluir algumas solicitações complexas. Seu criador, o OpenAI, está investigando o comportamento estranho.
Plataformas de mídia social estão repletas de relatos de que o ChatGPT – um “modelo de linguagem grande” treinado em enormes quantidades de dados da Internet – está resistindo a solicitações de trabalho intensivo, como solicitações para ajudar o usuário a escrever codificar e transcrever blocos de texto.
A estranha tendência surgiu à medida que a OpenAI, apoiada pela Microsoft, enfrenta forte concorrência de outras empresas que buscam produtos generativos de inteligência artificial, incluindo o Google, que recentemente lançou sua própria ferramenta de chatbot “Gemini”.
No final do mês passado, o usuário X e executivo de startups Matt Wensing postou capturas de tela de uma troca na qual pediu ao ChatGPT para “listar todas as semanas entre agora e 5 de maio de 2024”.
O chatbot inicialmente recusou, alegando que “não pode gerar uma lista exaustiva de cada semana individual” – mas acabou concordando quando Wensing insistiu.
“O GPT definitivamente ficou mais resistente a realizar trabalhos tediosos”, escreveu Wensing em 27 de novembro. “Essencialmente, dando a você parte da resposta e depois dizendo para você fazer o resto”.
Em um segundo exemplo, Wensing pediu ao ChatGPT para gerar algumas dezenas de linhas de código. Em vez disso, o chatbot forneceu-lhe um modelo e disse-lhe para “seguir este padrão” para concluir a tarefa.
Em outro caso viral , o ChatGPT recusou a solicitação de um usuário para transcrever texto incluído em uma foto de uma página de um livro.
Funcionários do ChatGPT confirmaram na última quinta-feira que estavam examinando a situação. “Ouvimos todos os seus comentários sobre o GPT4 ficar mais preguiçoso! não atualizamos o modelo desde 11 de novembro e isso certamente não é intencional. o comportamento do modelo pode ser imprevisível e estamos tentando consertar isso.”
A empresa posteriormente esclareceu seu ponto de vista, afirmando que “a ideia não é que o modelo tenha mudado de alguma forma desde 11 de novembro”.
“Acontece que as diferenças no comportamento do modelo podem ser sutis – apenas um subconjunto de prompts pode ser degradado e pode levar muito tempo para que clientes e funcionários percebam e corrijam esses padrões”, disse a empresa.
O ChatGPT e outros chatbots cresceram em popularidade desde o ano passado. No entanto, os especialistas levantaram preocupações sobre a sua tendência para “alucinar” ou cuspir informações falsas e imprecisas, como um incidente recente em que o ChatGPT e o chatbot Bard do Google alegaram falsamente que Israel e o Hamas tinham chegado a um acordo de cessar-fogo quando não havia acordo. ocorreu na época.
Um estudo recente realizado por pesquisadores da Universidade de Long Island descobriu que o ChatGPT respondeu incorretamente a cerca de 75% das perguntas sobre o uso de medicamentos prescritos – e deu algumas respostas que teriam causado danos aos pacientes.
A OpenAI tem enfrentado turbulências internas após a demissão surpresa e recontratação de Sam Altman como seu CEO. Um relatório da semana passada disse que funcionários seniores da OpenAI levantaram preocupações de que Altman era “psicologicamente abusivo” com os funcionários antes de sua demissão inicial.
O ChatGPT continua sendo o chatbot mais popular do gênero, alcançando mais de 100 milhões de usuários semanais ativos em novembro, de acordo com Altman.