Há um reflexo quase automático em ciência de dados: diante de um novo problema de modelagem, buscar o algoritmo que “ganha competições”. Hoje esse posto é do XGBoost. Mas um experimento com 358 partidas históricas de futebol mostrou que o modelo mais simples — regressão logística — pode dar uma aula ao campeão do Kaggle.
O experimento
O pesquisador Ari Joury testou cinco classificadores na mesma tarefa: prever se uma partida internacional de futebol termina em vitória do time da casa, empate ou vitória do visitante. Os modelos competidores foram:
- Regressão logística
- Random Forest
- KNN (k-vizinhos mais próximos)
- Rede neural pequena
- XGBoost
Cada modelo recebeu as mesmas três features para 358 partidas históricas (Copas do Mundo de 2010-2022 e Euros 2020/2024): diferença de força entre os times, força combinada e indicador de mata-mata. A métrica principal foi log-loss, não acurácia.
A acurácia apenas pergunta se a classe mais provável estava correta. O log-loss avalia o vetor completo de probabilidades e penaliza duramente erros cometidos com alta confiança. Para um problema de três classes, o baseline de adivinhação uniforme é ln(3) ≈ 1.099 — qualquer modelo acima disso está pior que jogar uma moeda de três lados.
O resultado surpreendente
| Modelo | Log-loss CV | Acurácia CV |
|---|---|---|
| Regressão logística | 1.001 | 54% |
| Random Forest | 1.011 | 56% |
| KNN | 1.013 | 53% |
| Rede neural | 1.115 | 52% |
| XGBoost | 1.169 | 48% |
Dois fatos chamam a atenção. O primeiro é o pódio: a regressão logística simples venceu com o melhor log-loss, e o XGBoost — o modelo que domina o Kaggle — ficou em último. O segundo é ainda mais surpreendente: o XGBoost marcou acima de 1.099, o baseline de adivinhação uniforme. Um modelo com 48% de acurácia era, pelo log-loss, pior que jogar uma moeda de três lados.
Por que o modelo “chato” venceu: o trade-off viés-variância
A explicação está na decomposição viés-variância, um dos conceitos mais importantes em machine learning aplicado:
Erro = Viés² + Variância + Ruído irredutível- Viés: erro por suposições erradas — um modelo rígido demais perde estrutura real nos dados.
- Variância: erro por sensibilidade excessiva à amostra de treino — um modelo flexível demais se ajusta ao ruído que não se repetirá.
- Ruído irredutível: a aleatoriedade genuína do fenômeno. No futebol, esse termo é enorme: um chute desviado decide uma eliminatória.
Com apenas 358 exemplos e 3 features, o XGBoost — com sua enorme capacidade de modelagem — simplesmente memorizou ruído em vez de aprender sinal. A regressão logística, com sua superfície de decisão linear, foi forçada a encontrar a estrutura real que generaliza bem.
Lições práticas
O experimento demonstra três princípios valiosos para qualquer cientista de dados:
- Comece simples: uma regressão logística bem ajustada frequentemente supera modelos complexos em datasets pequenos com alto ruído.
- Escolha a métrica certa: acurácia pode ser enganosa. O XGBoost teve 48% de acurácia mas foi pior que adivinhar — isso só aparece no log-loss.
- Conheça seu ruído: quando o ruído irredutível domina (como em esportes, finanças ou comportamento humano), modelos mais simples e com maior viés tendem a generalizar melhor.
O código Python usado no experimento está disponível no artigo original e usa cross_val_predict com 5-fold cross-validation do scikit-learn. Um excelente ponto de partida para replicar a análise nos seus próprios dados.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
