Jina AI lança jina-ocr-v1, parser de documentos de 3,4B com decodificação especulativa

Jina AI lança jina-ocr-v1, parser de documentos de 3,4B com decodificação especulativa para GPUs de baixo custo

A Jina AI — hoje parte da Elastic — liberou o jina-ocr-v1, um parser visual de documentos de ponta a ponta. Ele recebe PDFs, digitalizações, tabelas, gráficos ou notas fiscais e devolve Markdown limpo em uma única passada. O diferencial está na eficiência: o modelo foi projetado para rodar em GPUs modestas, como a NVIDIA L4.

Arquitetura enxuta

O modelo tem 3,4 bilhões de parâmetros no total, mas ativa apenas cerca de 570 milhões de parâmetros do decodificador por token — graças a uma arquitetura Mixture-of-Experts (MoE). O checkpoint já embarca um cabeçote de decodificação especulativa, o que acelera a geração sem perder qualidade.

O jina-ocr-v1 pós-treina o DeepSeek-OCR e preserva seus dois componentes de eficiência. O DeepEncoder, com ~380 milhões de parâmetros, encadeia o SAM, um compressor convolucional 16x e o CLIP-L, transformando uma página de 1024×1024 pixels (4.096 patches) em apenas 256 tokens visuais. Um modo de resolução dinâmica adiciona até 9 blocos locais, limitando a página a 1.156 tokens visuais.

O decodificador é um DeepSeek-3B-MoE com 12 camadas, 64 especialistas roteados e 2 compartilhados, com roteamento top-6. A posição máxima é de 32.768 tokens. A saída é Markdown, com tabelas em HTML e fórmulas em LaTeX.

Resultados e licença

No relatório técnico, o modelo alcança 91,14 no OmniDocBench v1.6 e 83,4 no olmOCR-Bench. Os pesos abertos pesam cerca de 6,8 GB em BF16 e rodam em Transformers ou vLLM.

Atenção à licença: é CC BY-NC 4.0, ou seja, liberada para pesquisa e uso não comercial. Uso comercial exige entrar em contato com a Jina AI.

Como a decodificação especulativa funciona aqui

A saída de OCR é quase determinística e localmente estruturada — o cenário ideal para decodificação especulativa. A Jina AI adicionou um cabeçote FastMTP: um bloco denso de rascunho aplicado recursivamente por K=3 passos. O decodificador verifica os rascunhos de forma gulosa e aceita o prefixo mais longo que coincide com suas próprias escolhas.

Como o texto confirmado é sempre igual à decodificação gulosa pura, o ganho de velocidade é sem perdas. Com K=3, o modelo confirma em média 2,73 tokens por passo.

Para quem trabalha com processamento de documentos em escala — extração de dados de notas fiscais, digitalização de arquivos ou pipelines de RAG — a combinação de desempenho competitivo com requisitos modestos de GPU torna o jina-ocr-v1 uma alternativa relevante no ecossistema de código aberto.