OpenAI leva GPT-Astra, Sol e Luna ao Google Cloud Model Garden
Google Cloud recebe modelos da OpenAI em prévia privada. Entenda governança, Codex, limites e o que muda para empresas.
Categoria: Infraestrutura
AWS, data centers, chips, GPUs, Nvidia e computação em nuvem
404 publicações encontradas
Google Cloud lança llm-d 1.0 para reduzir desperdício na inferência de LLMs
llm-d 1.0 usa roteamento consciente de cache para servir LLMs em GPUs e TPUs. Veja onde ele ajuda — e onde só…
Hugging Face integra TPUs ao PyTorch: o que muda com o TorchTPU
TorchTPU leva TPUs ao fluxo nativo do PyTorch. Entenda o que muda para Transformers, Diffusers e equipes que usam Google Cloud.
TorchNeuron entra em beta e simplifica uso do AWS Trainium com bibliotecas da Hugging Face
Hugging Face integra TorchNeuron ao PyTorch: entenda o que muda para treinar e executar modelos no AWS Trainium.
TorchNeuron: PyTorch ganha backend nativo para os chips AWS Trainium
PyTorch e AWS anunciam o TorchNeuron: backend aberto para usar Trainium com APIs conhecidas, eager e torch.compile.
Microsoft Maia 300: como o novo chip de IA tenta reduzir a dependência de GPUs
Microsoft detalha Maia 300, seu sistema de IA para inferência em 2027. Veja arquitetura, eficiência, limites e impacto.
Ai2 troca prioridades por orçamento de GPU e reduz intervenção em reparos
Ai2 detalha como orçamento de tempo, fair-share e preempção tornaram a fila de GPUs mais justa e reduziram trabalho operacional.
NVIDIA Dynamo usa ID de sessão para reduzir desperdício de cache em agentes de IA
Dynamo passa a tratar a sessão inteira do agente como unidade de inferência e relata ganhos de 12% a 16% de throughput…
Amazon abandona NDAs para data centers e coloca transparência no centro da expansão da IA
AWS diz que deixou de usar NDAs com governos para novos data centers. O que muda — e o que ainda falta…
PyTorch integra Helion ao vLLM para acelerar inferência de LLMs em GPUs Hopper
Novo backend Helion para vLLM mira GPUs NVIDIA Hopper e superou caminhos padrão em testes; veja ganhos, limites e como avaliar.
NVIDIA lança DGX Spark de 64 GB para IA local e clusters de até 128 GB
O novo DGX Spark de 64 GB chega em 23 de outubro; duas unidades prometem executar modelos maiores localmente. Veja limites e…
Perplexity lança Photon, motor de busca em Rust para acelerar agentes de IA
Photon reduz a latência de busca da Perplexity e cria um modo rápido para agentes; veja os ganhos, limites e impacto prático.
Anthropic fecha megacontrato de US$ 11,6 bilhões com a Akamai e aposta em CPUs para agentes de IA
Em contrato de sete anos, a Anthropic compromete US$ 11,6 bilhões na nuvem da Akamai com direito a até 5% de ações,…
Califórnia aprova leis que obrigam data centers a revelar consumo de energia e água
Pacote de sete leis exige que data centers divulguem consumo de energia e água e paguem pelos custos que geram na rede…
NVIDIA usa AI Day Singapore para levar IA do piloto à produção no Sudeste Asiático
Evento em Singapura mostra modelos Nemotron 3 na segurança pública e a aposta da NVIDIA em soberania digital na região.
NVIDIA mostra como inferência confidencial retém 96% do desempenho em GPUs Blackwell
Computação confidencial da NVIDIA retém até 98% do throughput em inferência privada de DeepSeek-R1 em GPUs Blackwell.
Qualcomm apresenta Snapdragon 8 Elite Gen 6 com IA de até 30 bilhões de parâmetros no celular
Snapdragon 8 Elite Gen 6 roda modelos de até 30 bilhões de parâmetros no celular, com IA local, câmera 8K e agente…
Por que quase todo mundo acha motivos para rejeitar data centers de IA
Estudo de 18 meses revela o mosaico de motivações por trás da rejeição local a data centers nos EUA.
NVIDIA lança DSX Ready para qualificar energia e refrigeração em fábricas de IA
Programa conecta projetos de referência a produtos de energia e refrigeração, com Hitachi Energy, LG Energy Solution, Tesla e Vertiv já qualificadas.
TensorRT distribui inferência entre GPUs e gera vídeo 4,5x mais rápido no Cosmos 3
Nova inferência multi-dispositivo do TensorRT 11.0 usa paralelismo Ulysses para cortar a geração de vídeo de 156 para 34 segundos em oito…
RBS-Attention acelera em até 20x o prefill de LLMs de contexto longo
Método sem treinamento acelera em até 20x o prefill de atenção em contextos de 128 mil tokens, mantendo a qualidade em modelos…
Trump aposta em data centers de IA — e sua própria base diz não
Pesquisa mostra que 60% dos americanos rejeitam data centers, incluindo 47% dos republicanos — enquanto Trump reforça o apoio à infraestrutura de…
O imposto do KV cache: por que servidores de inferência ficam sem memória antes de computação
A VRAM não estoura pelo tamanho do modelo, mas pelo KV cache que cresce com pedidos simultâneos. Veja a conta e as…
Lixo eletrônico da IA pode encher 23 milhões de contêineres até 2050, alerta novo relatório
Relatório da Basel Action Network alerta que o descarte de hardware de IA foi subestimado e pode triplicar o e-waste global até…