24/08/2023 - 9:53
Após a badalação inicial em torno de ferramentas de IA generativa, como o ChatGPT, há cada vez mais discussões sobre os erros de informação gerados por essas plataformas, frequentemente chamados de “alucinações” pela indústria. A questão, no entanto, é que os erros decorrem da forma como essas aplicações funcionam, algo que é ignorado por muitos críticos. “A questão aí é que essas ferramentas de IA trabalham de forma probabilística, e em muitos casos a resposta é exata, e não tem nada a ver com probabilidades. E é nessas situações que as famosas ‘alucinações’ costumam aparecer”, destacou Luis Fernando Liguori, head de arquitetura da AWS Brasil, no AWS Summit for Financial Services, evento da AWS para o setor financeiro que ocorreu nesta quarta-feira (23) em São Paulo.
Para Liguori, quem quiser extrair valor das plataformas de grandes modelos de linguagem (Large Language Models, ou LLMs, em inglês) deve focar esforços em fornecer o contexto correto. Ou seja, a resposta dada pela ferramenta a uma determinada tarefa será mais efetiva à medida que mais dados de apoio sejam fornecidos. É nesse contexto que cresce a demanda pelos chamados engenheiros de prompt, profissionais especializados em “fazer as perguntas certas da forma certa” para as ferramentas.
Em sua apresentação sobre o tema, Liguori detalhou que a IA generativa é resultado de um processo de evolução tecnológica de anos. Este processo começou com aplicações de Aprendizado de Máquina (Machine Learning), evoluiu para o Deep Learning e agora culmina na IA generativa. Ao longo desse processo, os dados usados passaram de ser simples a complexos, tanto na entrada quanto na saída das informações. O executivo ressaltou também que o avançado estágio das ferramentas de IA é possibilitado pela explosão da quantidade de dados disponíveis e pela capacidade de processamento fornecida pelas plataformas de cloud.
A hora dos FinOps
Outro tema debatido no evento foi como a área de FinOps – termo usado para áreas focadas em controle de custos com plataformas de nuvem – pode ajudar as companhias a monitorar com mais eficiência os custos e explorar de forma mais eficaz os recursos da nuvem. “No Nubank, o time de FinOps interage com pessoas de outras áreas, chamadas de Cost Champions. Essas pessoas são treinadas e certificadas, e ficam responsáveis por levar para suas áreas as melhores práticas de gestão de custo da nuvem”, disse Daniel Capp, líder da área de operações e produtos do banco digital.
Ainda sobre este tema, Marcelo Oliveira, diretor-executivo do banco Agi (ex-Agibank), ressaltou a importância da área de FinOps para controle de gastos com nuvem. “Entre o fim de 2021 e o primeiro semestre deste ano, nosso volume de dados da nuvem dobrou. Mas nossa conta foi reduzida em 10%, não por ‘pedidos de desconto’, mas sim pelo uso mais eficaz das ferramentas de cloud”, pontuou.