Huawei apresenta OceanStor M900 para mitigar gargalos de memória em IA de grande escala

Huawei apresenta o OceanStor M900 Context Memory Storage para cache KV em IA de grande escala, reduzindo latência e otimizando infraestruturas.

À medida que as organizações abandonam as interações simples de inteligência artificial em direção a conversas mais longas, raciocínio complexo e agentes autónomos, as exigências sobre a infraestrutura tecnológica mudam significativamente. O processamento de janelas de contexto cada vez maiores coloca uma enorme pressão sobre a capacidade de memória, tornando o fornecimento contínuo de dados aos aceleradores um fator tão crítico quanto o poder de computação bruto.

Um dos principais desafios identificados pela indústria é a gestão da cache de valores-chave (KV), que armazena informações geradas durante a inferência para permitir que os modelos reutilizem computações anteriores. Com a expansão das janelas de contexto, estas caches crescem consideravelmente, esgotando os recursos tradicionais de memória de sistema e de GPU, que, apesar de rápidos, apresentam limitações de capacidade e custos elevados.

Durante a conferência HUAWEI CONNECT 2026, realizada em Xangai, a Huawei apresentou o OceanStor M900 Context Memory Storage, uma plataforma desenvolvida especificamente para suportar a inferência de IA em datacenters de hiperescala e na infraestrutura Ascend SuperPoD da marca.

Segundo a fabricante, a nova solução introduz uma camada dedicada de armazenamento em memória de contexto, estendendo a cache KV para além da memória dos aceleradores e do sistema, integrando-a num pool de armazenamento partilhado e multi-nível. Através do barramento de alta velocidade UnifiedBus da Huawei, o OceanStor M900 permite a partilha de recursos de cache KV num cluster, com a empresa a reivindicar uma capacidade de até 64PB e um aumento substancial do contexto disponível por NPU.

O sistema integra ainda o disco ASU, que combina funções de CPU, redes e controlador de armazenamento. Combinado com semânticas KV nativas, este design permite que as NPU acedam aos dados de cache armazenados num único salto, evitando a conversão de protocolos convencionais e o encaminhamento por CPU. De acordo com os dados avançados pela Huawei e reportados pelo The Register, esta abordagem reduz a latência de acesso para 60 microssegundos, duplicando potencialmente o rendimento de tokens e reduzindo para metade o tempo até ao primeiro token em cargas de trabalho típicas de programação com IA.

No que respeita à durabilidade e aos custos, a tecnologia de armazenamento adaptativo com reconhecimento de KV da Huawei gere a colocação de dados de acordo com os ciclos de vida da cache, apresentando uma resistência anunciada de até 24 escritas de unidades por dia, o que representa um valor significativamente superior ao de unidades SSD convencionais. A empresa argumenta que esta durabilidade poderá traduzir-se numa redução dos custos de substituição e manutenção ao longo do tempo.

A relevância deste lançamento enquadra-se na estratégia da Huawei para repensar a infraestrutura de inteligência artificial, posicionando a memória, a rede e a computação como elementos profundamente interligados para o desempenho de inferência, numa altura em que o crescimento da IA agêntica torna crucial a retenção, partilha e recuperação eficiente de contexto.

Fontes

• https://www.theregister.com/ai-and-ml/2026/10/19/sponsored-ai-inference-is-running-into-a-memory-bottleneck-huawei-wants-to-tackle-it-with-oceanstor-m900/5303543