A IBM Cloud anunciou recentemente a integração dos aceleradores de IA Intel Gaudi 3 nos serviços da corporação, tornando-se a primeira provedora de nuvem a oferecer essa tecnologia aos clientes.
Conforme divulgado, a parceria visa fornecer soluções de IA escaláveis e econômicas para empresas que buscam otimizar o desempenho de suas aplicações de inteligência artificial.
- Novo CEO da Intel faz promessa de transformação: “clientes merecem mais”
- Intel confirma data de lançamento de nova geração de processadores
Detalhes do Intel Gaudi 3
Os aceleradores Intel Gaudi 3 foram projetados especificamente para cargas de trabalho de IA, incorporando recursos como motores de cálculo matricial, núcleos de processamento tensorial e memória de alta largura de banda.
Além disso, possuem portas Ethernet integradas que facilitam a inferência acelerada de redes neurais profundas. Essa arquitetura permite que as empresas escalem de um único nó (com oito aceleradores) para clusters de até 1.024 nós (8.192 aceleradores), utilizando switches Ethernet padrão da indústria, o que contribui para a redução de custos operacionais.
Intel vs NVIDIA
Testes preliminares conduzidos pela Signal65 indicam que o Intel Gaudi 3 oferece desempenho altamente competitivo em comparação com as GPUs NVIDIA H100 e H200.
Utilizando modelos de IA reconhecidos, como o Granite (8B) da IBM e o Llama-3.1 da Meta, o Gaudi 3 demonstrou throughput de inferência superior em determinadas configurações. Por exemplo, em configurações com entradas e saídas de 1.024 tokens, o acelerador do Time Azul superou as GPUs da NVIDIA em termos de taxa de transferência.
Custo-benefício é fator d epeso
No mais, o custo-benefício também é um fator crucial para empresas que buscam soluções de IA eficientes. Os aceleradores Gaudi 3 estão disponíveis na IBM Cloud a uma taxa consideravelmente menor, US$60 (R$337) por hora, em comparação com os US$85 (R$447) por hora das instâncias NVIDIA H100 e H200.
A diferença de preço resulta em uma vantagem econômica substancial, tornando o Gaudi 3 uma opção atraente para organizações que desejam equilibrar desempenho e custos em suas implementações de IA.
Vale destacar que a IBM também planeja integrar o suporte ao Gaudi 3 em sua plataforma de IA e dados, o watsonx, expandindo os recursos de infraestrutura de IA disponíveis para os clientes e otimizando o desempenho de inferência dos modelos.