Por Stephen Nellis
(Reuters) – Os chips de inteligência artificial da Qualcomm superaram os da Nvidia em duas de três medições de eficiência energética em um novo conjunto de dados de teste publicado nesta quarta-feira, enquanto uma startup taiwanesa superou ambas em uma categoria.
A Nvidia domina o mercado de treinamento de modelos de IA com grandes quantidades de dados. Mas depois que esses modelos são treinados, eles são usados de maneira mais ampla no que é chamado de “inferência”, realizando tarefas como gerar respostas de texto a prompts e decidir se uma imagem contém um gato, por exemplo.
Os analistas acreditam que o mercado de chips de inferência para data centers crescerá rapidamente à medida que as empresas incluem tecnologias de IA em seus produtos, mas companhias como o Google, da Alphabet, já estão explorando como manter o controle sobre os custos adicionais que a medida trará.
Um desses grandes custos é a eletricidade, e a Qualcomm usou seu histórico de projetar chips para dispositivos movidos a bateria, como smartphones, para criar um chip chamado Cloud AI 100, que visa um consumo parcimonioso de energia.
Em dados de teste publicados nesta quarta-feira pela MLCommons, um consórcio de engenharia que mantém benchmarks de teste amplamente usados no setor, o AI 100 da Qualcomm superou o chip H100, carro-chefe da Nvidia, na classificação de imagens, com base em quantas consultas de servidor de data center cada chip pode realizar por watt.
Os chips da Qualcomm atingiram 197,6 consultas de servidor por watt contra 108,4 consultas por watt da Nvidia. A Neuchips, uma startup fundada pelo veterano acadêmico de chips de Taiwan Youn-Long Lin, ficou em primeiro lugar com 227 consultas por watt.
