A IBM acaba de lançar o Granite 4.0, uma nova família de modelos de linguagem de código aberto que promete sacudir o mercado de Inteligência Artificial (IA) empresarial. O objetivo? Reduzir drasticamente os custos de infraestrutura, um dos maiores obstáculos para a adoção generalizada da IA nas empresas. Com uma arquitetura inovadora, o Granite 4.0 combina o poder dos modelos Mamba com a robustez dos transformers, oferecendo uma alternativa mais eficiente e acessível para as organizações.

Uma Nova Arquitetura para um Novo Cenário

A grande aposta da IBM reside na arquitetura híbrida do Granite 4.0. Desenvolvido com base em pesquisas da Carnegie Mellon University e da Princeton University, o modelo Mamba processa informações sequencialmente, em vez de analisar todos os tokens simultaneamente, como fazem os transformers tradicionais. Essa abordagem inovadora permite que o Granite 4.0 lide com contextos mais longos e múltiplas sessões simultaneamente, consumindo significativamente menos memória RAM.

A família Granite 4.0 inclui três modelos principais: Granite-4.0-H-Small (32 bilhões de parâmetros totais, 9 bilhões ativos), Granite-4.0-H-Tiny (7 bilhões totais, 1 bilhão ativo) e Granite-4.0-H-Micro (3 bilhões densos). Os modelos Tiny e Micro foram projetados para aplicações de baixa latência, edge e locais, tornando-os ideais para dispositivos com recursos limitados.

O Fim do Gargalo Quadrático?

Os modelos transformer tradicionais sofrem com o chamado “gargalo quadrático”: quando o comprimento do contexto dobra, os cálculos quadruplicam. O Mamba, por outro lado, tem requisitos computacionais que escalam linearmente com o comprimento da sequência. A abordagem híbrida da IBM combina camadas Mamba-2 com blocos transformer convencionais em uma proporção de 9:1, removendo as codificações posicionais. Os modelos foram treinados em amostras que se estendem a 512.000 tokens, com desempenho validado de até 128.000 tokens.

Essa mudança arquitetônica atende a uma necessidade crítica das empresas, que muitas vezes precisam investir em grandes frotas de GPUs ou cortar recursos para lidar com o gargalo quadrático dos transformers. A escalabilidade linear do Mamba, combinada com a precisão dos transformers, permite reduzir o consumo de memória e a latência, sem comprometer o desempenho.

Desempenho Sem Compromisso

A IBM afirma que o modelo Granite-4.0-H-Small superou todos os modelos de peso aberto no benchmark IFEval do Stanford HELM, exceto o Llama 4 Maverick da Meta, um modelo de 402 bilhões de parâmetros, mais de doze vezes maior que o Granite 4.0. Os modelos também demonstraram fortes capacidades de chamada de função, essenciais para aplicações de IA agentic empresariais.

A empresa está mudando a métrica de sucesso de vitórias em rankings para o custo por tarefa resolvida. As empresas se preocupam mais com quantas consultas de clientes, revisões de código ou análises de sinistros elas podem executar por dólar do que com um pequeno salto em benchmarks sintéticos.

Confiança e Segurança em Primeiro Lugar

Em um cenário de crescente escrutínio regulatório, a IBM posiciona a estrutura de segurança do Granite 4.0 como um diferencial fundamental. O Granite se tornou a única família de modelos de linguagem aberta a obter a certificação ISO 42001, atendendo ao primeiro padrão internacional para responsabilização, explicabilidade, privacidade de dados e confiabilidade em sistemas de gerenciamento de IA.

Além da certificação, a IBM implementou a assinatura criptográfica para todos os checkpoints do modelo Granite 4.0 distribuídos através do Hugging Face e oferece até US$ 100.000 para identificação de vulnerabilidades. A empresa também fornece uma indenização ilimitada para reivindicações de propriedade intelectual de terceiros contra conteúdo gerado pelos modelos Granite em sua plataforma watsonx.ai.

O Desafio do Ecossistema

A IBM posiciona o Granite 4.0 como infraestrutura, e não como um produto isolado. Os modelos estão disponíveis através do watsonx.ai e de parceiros como Dell Technologies, Hugging Face, Nvidia NIM e Replicate. O suporte para Amazon SageMaker JumpStart e Microsoft Azure AI Foundry está a caminho.

Do ponto de vista do hardware, os modelos Granite 4.0 híbridos são compatíveis com as GPUs AMD Instinct MI-300X, “permitindo uma redução ainda maior de sua pegada de memória”. A arquitetura híbrida tem suporte otimizado em vLLM 0.10.2 e Hugging Face Transformers, com otimização em andamento em runtimes llama.cpp e MLX.

Olhando para o Futuro

A IBM planeja lançar variantes “inteligentes” para raciocínio complexo ainda este ano e modelos Nano para dispositivos edge até o final do ano. Empresas como EY e Lockheed Martin estão entre os primeiros parceiros de acesso, embora a IBM não tenha divulgado casos de uso ou dados de desempenho específicos.

A adoção inicial provavelmente ocorrerá em cargas de trabalho que precisam de contextos de 32K–128K, como busca aumentada por recuperação, análise de documentos legais e assistentes de várias etapas.

O Granite 4.0 representa um passo importante para democratizar o acesso à IA, tornando-a mais acessível e eficiente para empresas de todos os tamanhos. Resta saber se a IBM conseguirá construir um ecossistema robusto em torno do Granite 4.0, mas o potencial para transformar o cenário da IA empresarial é inegável.