Por que uma GPU mais rápida não resolve o tempo até o primeiro token (TTFT)
Em clusters de produção, o prefill responde por só 2% a 23% do TTFT. Fila, cold start e transferência de cache KV…
Categoria: Inteligência Artificial
Modelos de IA, LLMs, agentes, IA generativa e pesquisa em inteligência artificial
4445 publicações encontradas
Google lança 4 experiências interativas do BTS dentro do app Gemini
Parceria entre Google Gemini e BTS traz quiz de músicas, aulas de coreano e prompts reais dos integrantes por tempo limitado no…
NVIDIA usa ChatGPT Work para automatizar fluxos e escalar a equipe global
A NVIDIA usa o ChatGPT Work para automatizar fluxos repetitivos, eliminar análises manuais e escalar processos de go-to-market para equipes globais.
Cursor lança Origin, plataforma de código que rivaliza com o GitHub
A Cursor, agora parte da SpaceX, lança o Origin, plataforma de hospedagem de código que rivaliza com o GitHub e promete interoperabilidade…
Mojo agora é open source: a linguagem para a era da IA abre o código sob Apache 2.0
A Modular libera o compilador e a toolchain do Mojo sob Apache 2.0, quatro anos após o lançamento e uma semana após…
Roteamento de modelos vira prioridade: custo dos LLMs e a ascensão do open-source
Entrevista com Arvind Jain, CEO da Glean, mostra como rotear modelos reduz custos em até 4x e por que empresas não dependem…
NVIDIA lança TensorRT Model Connect: checkpoint do Hugging Face vira inferência C++ em dois comandos
Projeto open source elimina a etapa ONNX e gera um artefato .bundle que roda em C++ nativo sem PyTorch no caminho de…
Filhos de Robin Williams reativam Instagram do ator para combater abuso de IA com sua imagem
Filhos de Robin Williams reativam o Instagram do ator para combater o uso abusivo de sua imagem e voz geradas por IA.
Quanta memória seu agente de IA realmente precisa? Estudo da IBM mostra que a dose certa depende do modelo
Estudo da IBM com 8 modelos mostra que a memória de agentes de IA precisa de dose calibrada: modelos fracos ganham +16…
Agentes de codificação de IA destravam simulação de materiais com o NVIDIA ALCHEMI Toolkit
Agentes de codificação com IA geram e executam simulações de materiais no NVIDIA ALCHEMI Toolkit; benchmark com 45 pipelines valida a abordagem.
OpenAI endurece protocolos de segurança após agentes de IA invadirem o Hugging Face
Após agentes de IA fugirem de sandboxes e invadirem o Hugging Face, OpenAI anuncia novos controles: monitoramento de raciocínio e alerta em…
LangChain lança Tuned Evaluators: avaliadores prontos que monitoram agentes de IA em produção
Novo recurso do LangSmith anexa feedback de qualidade a traces em produção, com modelo especializado que supera modelos de fronteira por uma…
NVIDIA distribui UMAP entre múltiplas GPUs e reduz análise em escala massiva de horas para minutos
Novo recurso do cuML e cuVS 25.06 distribui a construção do grafo de vizinhos por várias GPUs, reduzindo a análise de centenas…
Do protótipo à produção: a arquitetura por trás de agentes de IA seguros e governados
Construir um agente de IA funcional é fácil; colocá-lo em produção corporativa exige camadas de controle de acesso, rastreamento, verificação de dados…
Etched dobra valuation para US$ 21 bilhões em um mês com chips focados em inferência de IA
Startup levantou US$ 700 milhões liderados pela Jane Street e aposta em chip de prefill de baixa voltagem e memória de escala…
Estudo do MIT descobre “decaimento de atribuição”: imagens de IA não podem mais ser rastreadas até os dados de treinamento
Pesquisadores do CSAIL mostram que, em modelos treinados com muitos dados, remover imagens de um artista ou de uma pessoa não muda…
Presidente da OpenAI alerta: empresas precisam acelerar defesas de IA contra ataques autônomos
Greg Brockman detalha o incidente “OpenAI-Hugging Face” e defende que equipes de segurança adotem agentes de IA para se proteger de ataques…
Como rodar o Qwen3.8-27B como agente de código local em 3 comandos
Aprenda a rodar o Qwen3.8-27B como agente de código local usando Ollama e OpenCode em apenas três comandos.
Modelos de embeddings multi-vetor (ColBERT) chegam ao Sentence Transformers 6.0
O Sentence Transformers 6.0 adiciona modelos de embeddings multi-vetor no estilo ColBERT, com o novo MultiVectorEncoder.
Experimento da Perplexity na Índia mostra o que acontece quando o grátis vira pago
Dados da Sensor Tower mostram o que aconteceu com a Perplexity na Índia depois que a oferta gratuita via Airtel começou a…
OpenAI lança ChatGPT para adolescentes com modo de estudo e proteções de segurança
A OpenAI anunciou o ChatGPT for Teens, com modo de estudo, lembretes de lição de casa e proteções de segurança ativadas por…
Warp lança fábrica de software pronta para desenvolvimento com agentes de IA
O Warp Factories promete entregar uma fábrica de software pronta para empresas que querem automatizar o desenvolvimento com agentes de IA.
SAM: rede P2P de confiança zero do Google para agentes de IA compartilharem ferramentas
Sovereign Agent Mesh (SAM) é uma rede P2P de confiança zero, licenciada em Apache-2.0, para agentes de IA compartilharem ferramentas via MCP.
Firefox Smart Window ganha citações na web, agrupamento de abas e escolha de modelo de IA
O Smart Window do Firefox agora traz citações da web, agrupamento automático de abas e escolha entre modelos de IA, incluindo opções…