核心两招
- Bagstrapping：每棵树用有放回采样的子集训练
- 随机特征：分裂时只看随机特征子集 → 树之间相关性下降
分类用多数投票，回归取平均。相对单棵决策树更抗过拟合，仍保持一定可解释性（特征重要性）。
交互：出门决策森林
延伸
先看清单棵树怎么分裂：决策树演示。集成还有 Boosting（如 GBDT/XGBoost）——串行纠错，通常更猛也更吃调参。
很多「弱一点、不一样」的决策树，投票往往比单棵树稳
分类用多数投票，回归取平均。相对单棵决策树更抗过拟合，仍保持一定可解释性（特征重要性）。
先看清单棵树怎么分裂：决策树演示。集成还有 Boosting（如 GBDT/XGBoost）——串行纠错，通常更猛也更吃调参。