Decodificação especulativa no vLLM: um guia prático de configuração e decisão
Guia prático sobre decodificação especulativa no vLLM: como escolher o modelo draft, calcular o custo de VRAM, entender o impacto da temperatura…
Tag: H100
1 publicações encontradas