跳转至

评估与调优

模型选择、评估、超参数优化

交叉验证

  • K-Fold / Stratified K-Fold
  • Leave-One-Out
  • 时间序列交叉验证

评估指标

  • 分类:Accuracy / Precision / Recall / F1 / AUC-ROC
  • 回归:MSE / MAE / R²
  • 多分类:macro / micro / weighted 平均

正则化

  • L1 (Lasso):稀疏化,特征选择
  • L2 (Ridge):平滑,防止过拟合
  • ElasticNet:L1 + L2 组合

超参搜索

  • Grid Search — 穷举
  • Random Search — 随机采样
  • Bayesian Optimization — 概率模型引导
  • Optuna — 自动化超参优化

练习

  • 用交叉验证对比不同模型表现
  • 用 Optuna 对 XGBoost 做超参优化
  • 绘制学习曲线,判断欠拟合/过拟合

资源

资源 链接
Optuna 官方文档 https://optuna.readthedocs.io/
Sklearn 模型选择 https://scikit-learn.org/stable/model_selection.html