Ícone do site Pichau Arena

Servidor de IA local Lemonade, apoiado pela AMD, recebe suporte oficial para NVIDIA CUDA

Imagem: reprodução/Videocardz

-Quebra de barreiras
-Avanços técnicos e hardware de ponta
-Foco no desenvolvedor

O ecossistema de Inteligência Artificial local ganhou um capítulo interessante de interoperabilidade. O Lemonade SDK, um projeto de servidor de IA de código aberto apoiado e otimizado pela AMD, recebeu uma atualização significativa (versão 10.7.0) que adiciona suporte nativo para GPUs da rival NVIDIA por meio da tecnologia CUDA.

A mudança chama a atenção por se tratar de uma ferramenta desenvolvida inicialmente com foco no hardware da AMD, como processadores x86, placas de vídeo Radeon e as CPUs Ryzen AI. Com o novo update, o Lemonade se consolida como uma solução multiplataforma capaz de rodar nativamente nos três principais ecossistemas de hardware do mercado atual AMD, NVIDIA e Apple (via Metal).

Imagem: reprodução/Lemonade

O que é o Lemonade?
O Lemonade funciona como um servidor local de IA projetado para configurar e otimizar de forma automática o uso de CPUs, GPUs e NPUs para tarefas de texto, imagem e áudio. Ele se destaca por sua compatibilidade com APIs de grandes serviços de nuvem e ferramentas de IA, como OpenAI, Anthropic e Ollama, permitindo que desenvolvedores migrem suas aplicações da nuvem para o hardware local apenas mudando o endpoint de destino. O software está disponível para Windows, Linux, macOS e Docker.

Novidades da versão 10.7.0
Suporte a CUDA no Windows e Linux: A integração foi feita adicionando o backend llamacpp:cuda. O changelog do projeto no GitHub também aponta que já foram aplicadas correções de detecção para as novas arquiteturas de hardware da NVIDIA, como a linha Blackwell, e melhorias no ecossistema PRIME do Linux.

Expansão para geração de imagens: Além do texto, a atualização traz suporte para o backend CUDA do stable-diffusion.cpp no Linux, e suporte a Vulkan (para Windows e Linux), ampliando o desempenho em múltiplos fornecedores de placas gráficas.

Suporte ao modelo LMX-Omni, agora compatível com aplicações que renderizam saídas multimídia através de interfaces que usam a API da OpenAI (como o Open WebUI e o AnythingLLM).

Monitoramento e Benchmarks: A nova versão introduz uma ferramenta nativa de métricas do Prometheus para monitoramento em tempo real e o comando lemonade bench, que permite aos usuários padronizar e comparar o desempenho de modelos de linguagem (LLMs) entre diferentes motores de execução, como llama.cpp, vLLM, FastFlowLM e o ecossistema Ryzen AI dentro da mesma máquina.

Essa atualização demonstra um movimento pragmático no desenvolvimento de softwares de IA de código aberto: mesmo com o patrocínio da AMD, garantir que a ferramenta funcione sem barreiras no hardware da NVIDIA amplia drasticamente a sua adoção pela comunidade de desenvolvedores.

0 0 votos
Classificação do artigo
Sair da versão mobile