OpenAI disponibiliza GPT-6 Astra Ultrafast acelerado por GPUs NVIDIA Blackwell
A OpenAI lançou o modelo GPT-6 Astra Ultrafast, que opera sobre a arquitetura de GPUs NVIDIA Blackwell e já está disponível na OpenAI API, além de contas elegíveis do ChatGPT Work e Codex. O novo modo oferece velocidade de geração de tokens até 8 vezes superior à do modo Astra Standard graças a otimizações de inferência. Executivos da OpenAI destacaram que investimentos da NVIDIA em ferramentas e na programabilidade de suas GPUs permitiram o desenvolvimento de kernels de alto desempenho para as plataformas Blackwell e Rubin.
O que se sabe
- O GPT-6 Astra Ultrafast roda em GPUs NVIDIA Blackwell e foi disponibilizado na OpenAI API e para usuários elegíveis do ChatGPT Work e Codex.1
- O Astra Ultrafast proporciona uma geração de tokens até 8 vezes mais rápida em comparação ao modo Astra Standard.1
- O ganho de velocidade decorre de otimizações de inferência desenvolvidas pela OpenAI que aproveitam a arquitetura NVIDIA Blackwell.1
- A OpenAI utiliza seus próprios modelos internos para aperfeiçoar o software de inferência executado nas GPUs NVIDIA.1
- Philippe Tillet, líder de inferência na OpenAI, declarou que o investimento da NVIDIA em ferramentas e documentação capacitou os modelos a programar com eficiência GPUs Blackwell e Rubin.1
- Uday Ruddarraju, diretor de tecnologia de computação da OpenAI, afirmou que a programabilidade da NVIDIA viabilizou a entrega da aceleração presente no Astra Ultrafast.1
- A plataforma programável da NVIDIA possibilita o reaproveitamento de infraestrutura computacional entre treino, inferência e aprendizado por reforço.1
“NVIDIA’s deep investment in tooling and documentation has enabled us to make our models exceptionally good at programming Blackwell and Rubin GPUs”Philippe Tillet1
“Our work with NVIDIA is helping us make AI faster and more useful”Uday Ruddarraju1
Cronologia
- OpenAI disponibiliza o GPT-6 Astra Ultrafast acelerado por GPUs NVIDIA Blackwell
Quem está envolvido
GA
GPT-6 Astra Ultrafastmodelo de inteligência artificial
NB
NVIDIA Blackwellarquitetura de GPU
N
Nvidiafornecedora de infraestrutura e GPUs
O
OpenAIdesenvolvedora de IA
PT
Philippe Tilletlíder de inferência da OpenAI
UR
Uday RuddarrajuCTO de computação da OpenAI