Do prompt ao modelo próprio: o framework de 8 passos da AWS para customizar IA

Você tem acesso aos modelos da Anthropic, Meta, Mistral e Amazon via Amazon Bedrock. A pergunta difícil nunca foi “qual modelo usar”, mas “o que fazer com ele para o seu problema específico”: melhorar o prompt, plugar documentos com RAG, fazer fine-tuning ou treinar algo do zero? O excesso de opções gera paralisia — e errar a escolha sai caro em dinheiro de computação, tempo de lançamento e credibilidade.

Para resolver isso, a AWS publicou um framework de decisão em 8 passos, o espectro de customização de IA generativa. A ideia central é simples: comece pela abordagem mais simples e só avance quando for estritamente necessário. Este guia resume o framework e o que ele significa na prática.

✅ O que você ganha

• Um caminho claro para escolher entre prompt, RAG, fine-tuning e modelos customizados.
• Critérios objetivos de escalonamento — saber exatamente quando subir de nível.
• Menos desperdício: a maioria das cargas de trabalho nunca precisa passar do passo 3.
• Mapeamento direto para os serviços AWS (Bedrock, SageMaker, Nova Forge).
• Uma analogia intuitiva (a cozinha do chef) para explicar os trade-offs à equipe.

⚠️ O que você NÃO ganha

• Um atalho mágico: o framework exige testar cada passo e validar a saída.
• Garantia de precisão — ele reduz erro de decisão, não elimina o trabalho de avaliação.
• Recomendação universal: a escolha certa depende do seu caso e dos seus dados.

Requisitos

Os 8 passos do espectro

O espectro se divide em três categorias: USAR (não mexer no modelo, mudar como você fala com ele), APRIMORAR (adicionar coisas ao redor do modelo, mantendo os pesos congelados) e TREINAR (mudar o modelo em si).

Passos 1–2: Use o modelo como está

Passo 1 é chamar um modelo fundacional (Claude, Amazon Nova, Llama, Mistral) direto pelo Bedrock, sem nenhuma customização. Serve para tarefas genéricas como resumo, tradução e geração de código. Quando avançar: saída genérica demais ou formato errado.

Passo 2 é a engenharia de prompt: system prompts, exemplos few-shot e raciocínio por chain-of-thought. O modelo tem o conhecimento, mas precisa de orientação sobre formato, tom e caminho de raciocínio. Quando avançar: prompt ultrapassa ~2.000 tokens, ainda alucina fatos do domínio, ou exige conhecimento que o modelo não tem.

Passos 3–5: Aprimore o modelo

Passo 3 — RAG: forneça conhecimento externo no momento da inferência usando Amazon Bedrock Knowledge Bases. O modelo gera respostas fundamentadas nos seus dados, reduzindo alucinações sem retreinar. Quando avançar: latência de recuperação alta, janela de contexto estourada, ou o modelo ainda não raciocina sobre o conteúdo recuperado.

Passo 4 — Prompt caching: pré-processe e armazene em cache prefixos de prompt usados com frequência (instruções de sistema, exemplos few-shot) para reduzir latência e custo em consultas repetitivas. Quando avançar: você precisa de um modelo menor e mais barato que entregue a mesma qualidade.

Passo 5 — Destilação: transfira o conhecimento de um modelo “professor” maior para um “aluno” menor. O Bedrock Model Distillation produz modelos até 500% mais rápidos e 75% mais baratos, com perda de precisão inferior a 2%. Quando avançar: o modelo destilado não reproduz o tom, formato ou estilo de raciocínio necessário.

Passos 6–8: Treine o modelo

Passo 6 — Fine-tuning: atualize os pesos com dados rotulados (pares entrada-saída). Disponível como PEFT/LoRA para datasets menores ou fine-tuning completo. O reforço por fine-tuning (RFT) é a alternativa quando criar exemplos perfeitos à mão é caro: você define uma função de recompensa e o modelo aprende a otimizar contra ela. Quando avançar: o modelo não entende terminologia ou conceitos do domínio.

Passo 7 — Continued pre-training (CPT): expanda o conhecimento fundamental treinando em grandes volumes de dados não rotulados do domínio. O desafio histórico é o esquecimento catastrófico — resolvido pelo Amazon Nova Forge com data mixing, que mistura seu corpus proprietário com dados curados da Amazon a cada fase. Quando avançar: nenhuma arquitetura existente atende e você precisa de controle total.

Passo 8 — Modelo customizado (Nova Forge): construa seu próprio modelo de fronteira a partir de checkpoints intermediários. Para indústrias especializadas (farmacêutica, robótica, finanças, manufatura) que precisam de diferenciação competitiva durável.

Comparação rápida

Erros comuns (e como evitar)

• Pular direto para fine-tuning quando um bom prompt resolveria: teste o passo 1 antes de investir em treinamento.
• Escolher CPT “porque temos muitos dados”: volume de dados não justifica CPT; se os dados são referência factual, RAG resolve por menos.
• Fazer fine-tuning “porque RAG está lento”: fine-tuning muda comportamento, não velocidade de inferência. O problema de latência se resolve com chunking, busca híbrida ou caching.
• Servir o modelo professor gigante em produção sem destilar: valide com o grande, destile para o pequeno antes de escalar.

Troubleshooting

• ❌ Saída genérica ou mal formatada → Causa: instruções fracas. Solução: suba para o passo 2 com system prompt, formato de saída e few-shot.
• ❌ Modelo alucina fatos do domínio → Causa: conhecimento ausente. Solução: passo 3 (RAG) — fundamentar é mais barato que treinar.
• ❌ Latência alta em produção → Causa: repetição de prefixos. Solução: passo 4 (prompt caching) ou passo 5 (destilação).
• ❌ Tom/formato não bate mesmo com prompt e RAG → Causa: comportamento, não conhecimento. Solução: passo 6 (fine-tuning).
• ❌ Modelo não entende terminologia do domínio → Causa: lacuna de compreensão estrutural. Solução: passo 7 (CPT).

FAQ

• Qual passo resolve a maioria dos casos? Os passos 1 a 3. A regra da AWS: a maioria das cargas de trabalho nunca precisa passar do passo 3.
• Posso combinar passos? Sim. O híbrido mais comum é RAG + fine-tuning: fine-tune para alinhamento de comportamento e RAG para conhecimento dinâmico.
• O que é RFT? Reinforcement fine-tuning: em vez de exemplos perfeitos rotulados, você define uma função de recompensa que pontua saídas.
• Quando vale usar o Nova Forge? Só quando os passos 1–7 não bastam e você pretende monetizar o modelo como produto — exige dados proprietários massivos.
• Por onde começar? Pelo passo 1, com um modelo existente no Bedrock. Se a saída atender, acabou. Se não, identifique o que falha e suba um passo.

O que isso significa para o futuro

O framework reflete uma mudança de maturidade: de “temos um modelo” para “temos um modelo que funciona para o nosso caso”. A tendência é que ferramentas como o Nova Forge e o SDK (pip install amzn-nova-forge) continuem comprimindo o tempo e a equipe necessários para treinar modelos customizados — aproximando o custo do passo 8 do alcance de empresas que antes só chegavam ao passo 3.