Shepherd: o runtime open source que permite rebobinar agentes de IA como commits do Git

Shepherd: o runtime open source que permite “rebobinar” agentes de IA como se fossem commits do Git

Pesquisadores da Northeastern University e Stanford University lançaram o Shepherd, um runtime Python open source que registra cada interação de um agente de IA como um evento tipado em um rastro de execução similar ao Git. O resultado: é possível fazer fork, replay e reversão de qualquer ponto de uma execução de agente — algo que nenhum runtime atual oferece.

O problema que o Shepherd resolve

Agentes de codificação que rodam por longos períodos acumulam estado que nenhum transcript captura. No passo 10 de uma execução, um agente pode ter arquivos editados, um servidor de desenvolvimento rodando, pacotes instalados e um cache de prompt aquecido. Se ele interpreta mal um traceback e sobrescreve um arquivo que já estava correto, as opções de recuperação são ruins: corrigir para frente consome contexto e tokens, e reiniciar do zero não reproduz exatamente o que aconteceu porque execuções são não-determinísticas.

O Shepherd resolve isso tratando cada interação agente-ambiente como um “commit” que cobre tanto o processo do agente quanto o sistema de arquivos, em modo copy-on-write. Voltar a um ponto anterior é um simples fork a partir daquele commit.

Números que impressionam

Os resultados reportados pela equipe de pesquisa são notáveis:

• Fork 5× mais rápido que Docker: o Shepherd bifurca o processo do agente e seu sistema de arquivos em uma fração do tempo de um container Docker.
• Mais de 95% de reuso de cache de prompt no replay: como o prefixo do prompt até o ponto de ramificação não muda, os tokens cacheados são reaproveitados, reduzindo drasticamente o custo.
• Supervisor ao vivo melhora taxas de aprovação: no benchmark CooperBench (pair-coding), um meta-agente supervisor elevou a taxa de acerto de 28,8% para 54,7%.
• Otimização contrafactual: exploração com branching superou baselines em até 11 pontos em quatro benchmarks, reduzindo o tempo de execução em até 58%.
• Treinamento Tree-RL: gerar rollouts com fork em momentos selecionados melhorou o TerminalBench-2 de 34,2% para 39,4%.

Como funciona

O Shepherd organiza o framework em quatro conceitos: tasks (funções tipadas cujo corpo o modelo preenche), effects (cada interação que cruza a fronteira da task), runs (o registro durável dessas interações) e workspaces. Permissões são declaradas na assinatura da task — por exemplo, May[GitRepo, ReadOnly] é compilado para os diretórios graváveis daquela execução e aplicado via syscall jail nativa (Seatbelt no macOS, Landlock no Linux).

O projeto está disponível com licença MIT e pode ser instalado com pip install shepherd-ai. Requer Python 3.11+ e está em alpha inicial — ainda não é recomendado para produção.

Por que isso importa

O Shepherd introduz um primitivo novo e fundamental para agentes de IA: execução versionada e bifurcável. Assim como o Git transformou o desenvolvimento de software ao tornar branches e reversões operações triviais, o Shepherd pode transformar a engenharia de agentes ao tornar a recuperação de falhas uma operação de runtime em vez de uma reengenharia do prompt ou do fluxo.

Para equipes brasileiras que trabalham com agentes autônomos — seja em automação de processos, desenvolvimento assistido ou P&D — ferramentas como o Shepherd reduzem o custo de experimentação e aumentam a confiabilidade de execuções longas. O fato de ser open source e ter uma API Python limpa facilita a integração com stacks existentes.