Por que isso importa agora
Fluxos de trabalho multiagentes mudaram o formato da inferência local. Um agente líder decompõe uma tarefa e dispara subagentes: o que parecia uma única requisição vira dezenas de chamadas independentes ao modelo. Apontadas para um único motor local, essas chamadas disputam os mesmos slots de execução. A fila cresce enquanto uma workstation, um laptop ou um DGX Spark na mesma rede fica ocioso.
O Personal AI Router (PAIR), anunciado pela NVIDIA nesta semana, ataca exatamente esse gargalo. É um roteador virtual de inferência que descobre máquinas compatíveis na rede doméstica e distribui requisições independentes entre elas. Não é um novo motor de inferência — o Ollama ou o LM Studio continuam executando o modelo no nó que o PAIR selecionar.
Sem nova API — o detalhe que mais importa
O PAIR não introduz uma API de cluster. Ele faz proxy das interfaces compatíveis com Ollama e LM Studio que os agentes já usam, assumindo a porta padrão de cada motor. Se o harness escuta em outro lugar, a porta do proxy é configurável. O repositório também expõe endpoints de proxy compatíveis com OpenAI.
A consequência prática: harnesses de agentes existentes não precisam de nenhuma mudança. O agente decide o que pedir; o PAIR decide onde executar.
Descoberta, pareamento e transporte
O PAIR usa mDNS para encontrar sistemas próximos automaticamente, com adição por endereço IP quando a descoberta falha. A confiança é estabelecida por um PIN de seis dígitos exibido na máquina convidante e digitado na convidada; toda comunicação nó-a-nó fica bloqueada até o pareamento concluir. O tráfego entre nós pareados é então protegido com mTLS usando certificados gerados.
Como o escalonador escolhe o nó
Um nó só é elegível para uma requisição quando o motor exigido está habilitado e o modelo exato está presente. Modelos não precisam ser idênticos no cluster: sistemas diferentes podem ter modelos diferentes, e o PAIR roteia conforme a localização do modelo. Para cada requisição, o escalonador pesa cinco sinais: se o nó está online e pronto, se o motor é suportado, se o modelo exato está presente, a carga atual de jobs e a utilização de GPU.
É concorrência em nível de workload, com limite explícito: o PAIR atribui cada requisição a um único nó elegível, onde ela permanece por toda a vida. Ele não faz pool de VRAM, não funde GPUs em um acelerador maior nem fragmenta uma única requisição entre máquinas.
Os números da demonstração (com ressalvas)
A demonstração da NVIDIA pareia o PAIR com o Hermes Desktop, criando uma carga de cinco subagentes sobre uma caixa de entrada residencial sintética, com o Ollama executando Qwen 3.6 35B A3B em cada nó. Em um laptop RTX Spark, a carga levou 18 minutos em média. Em um cluster PAIR de três dispositivos (laptop RTX Spark, DGX Spark e RTX 5090), a média caiu para 8 minutos e 48 segundos.
Disponibilidade e requisitos
O PAIR chega hoje como beta público (v0.1.1), com instaladores assinados para Windows, macOS e Linux, e o código-fonte completo no GitHub sob Apache 2.0. Roda inteiramente na rede local, com internet necessária apenas para baixar modelos. Suporta GPUs GeForce RTX série 20 ou mais recentes, GPUs RTX PRO de workstation a partir de Turing, DGX Spark e Apple M4 ou superior. Nós Windows, Linux e macOS podem ser pareados entre si, em x64 e arm64 (Windows on ARM é experimental).
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
