OpenAI otimiza cache de prompts no GPT-6 para reduzir latência e custos

Atualizado a 23 de setembro de 2026 às 15:35

A OpenAI introduziu melhorias no cache de prompts do GPT-6, incluindo novos diagnósticos e breakpoints, visando otimizar custos e latência para programadores.

Eficiência reforçada no GPT-6

A OpenAI revelou novas funcionalidades para a gestão de cache de prompts no GPT-6, focadas em otimizar o desempenho das aplicações que dependem dos seus modelos de linguagem. O objetivo central desta atualização é permitir que os programadores consigam reduzir tanto a latência como os custos operacionais associados às chamadas de API.

O que muda no cache de prompts

A atualização introduz um conjunto de ferramentas que dão aos utilizadores um controlo mais granular sobre como os dados são armazenados e reutilizados. Entre as principais novidades destacam-se:

• Taxas de sucesso superiores: Otimizações internas que aumentam a probabilidade de o sistema encontrar dados em cache, evitando o reprocessamento desnecessário.
• Novos diagnósticos: Ferramentas que permitem aos programadores monitorizar a eficácia do cache em tempo real.
• Breakpoints explícitos: Uma funcionalidade que permite definir pontos de paragem específicos, oferecendo maior precisão na gestão do contexto.
• Controlos de latência e custo: Configurações que permitem ajustar o comportamento do modelo para equilibrar a velocidade de resposta com a economia de recursos.

Estas melhorias são fundamentais para empresas e programadores que escalam soluções baseadas em IA, onde a eficiência no processamento de grandes volumes de texto é um fator crítico para a viabilidade económica e técnica dos projetos. A gestão eficiente de recursos é, tal como noutras áreas tecnológicas, um pilar para a sustentabilidade de serviços digitais, tal como discutido noutros contextos de inovação, como a privacidade em sistemas autónomos ou a escolha de hardware acessível.

Fontes

• https://openai.com/index/better-prompt-caching-for-gpt-6