TypeSafe lança Jev, modelo que abandona texto e gera decisões estruturadas

Um modelo que abandona o texto por completo

A TypeSafe, startup fundada por um dos co-inventores do ChatGPT, saiu do stealth com o lançamento do Jev — um modelo especializado que abandona a geração de texto e responde com valores estruturados e tipados em uma única consulta paralela. A aposta é eliminar pela arquitetura dois dos maiores gargalos dos LLMs em produção: falhas de tipo e alucinações de saída.

Desenvolvido durante dois anos em segredo por Diogo Almeida, veterano da OpenAI, o Jev não gera tokens de forma autoregressiva. Em vez disso, recebe um estado não estruturado como entrada e devolve valores estruturados type-safe em paralelo. “Pense no Jev como uma chamada de função com inteligência de fronteira: estado não estruturado entra, decisões probabilísticas tipadas saem”, resumiu Almeida.

Arquitetura e treinamento

O diferencial começa no método de treinamento, batizado de RLCD (Reinforcement Learning for Calibrated Decisions). Enquanto modelos de fronteira usam RLHF ou RLVR para agradar preferências humanas de conversa, o Jev é treinado para produzir probabilidades calibradas sobre lógica de execução — o que garante que os escores de confiança retornados correspondam de fato à precisão da saída.

No lugar da geração sequencial, o Jev usa um sampler paralelo ciente de hardware que avalia e entrega todos os valores estruturados de uma vez. A restrição estrutural limita as saídas a esquemas predefinidos, eliminando os pipelines de parsing e os wrappers de proteção necessários ao implantar LLMs tradicionais em fluxos de automação empresarial. O sampler interno processa seleções de alta cardinalidade de até 255 opções discretas.

Números de desempenho e custo

Nas avaliações internas, o Jev registrou latência de ponta a ponta entre 70 e 500 milissegundos, contra os 3 a 329 segundos observados em implantações conversacionais de fronteira. Em fluxos de trabalho com grafos de computação fixos, a execução chegou a ser até 193,6 vezes mais rápida que baselines de consenso do GPT-6 Astra e do Fable 5.1.

O custo de entrada é de US$ 0,042 por milhão de tokens, bem abaixo das taxas conversacionais que variam de US$ 0,20 a US$ 10. Como a amostragem paralela gera estados estruturados sem passadas autoregressivas, a TypeSafe entrega tokens de saída sem cobrança por metering.

Nos testes de estresse, um bot reativo operou sobre estados de jogo do Doom a 10 consultas por segundo, com custo de aproximadamente US$ 7 por hora. A TypeSafe abriu o acesso antecipado para desenvolvedores e já está integrando equipes de engenharia da lista de espera.