评估与调优¶
模型选择、评估、超参数优化
交叉验证¶
- K-Fold / Stratified K-Fold
- Leave-One-Out
- 时间序列交叉验证
评估指标¶
- 分类:Accuracy / Precision / Recall / F1 / AUC-ROC
- 回归:MSE / MAE / R²
- 多分类:macro / micro / weighted 平均
正则化¶
- L1 (Lasso):稀疏化,特征选择
- L2 (Ridge):平滑,防止过拟合
- ElasticNet:L1 + L2 组合
超参搜索¶
- Grid Search — 穷举
- Random Search — 随机采样
- Bayesian Optimization — 概率模型引导
- Optuna — 自动化超参优化
练习¶
- 用交叉验证对比不同模型表现
- 用 Optuna 对 XGBoost 做超参优化
- 绘制学习曲线,判断欠拟合/过拟合
资源¶
| 资源 | 链接 |
|---|---|
| Optuna 官方文档 | https://optuna.readthedocs.io/ |
| Sklearn 模型选择 | https://scikit-learn.org/stable/model_selection.html |