分类: 第六章:监督学习-决策树

6 篇文章

thumbnail
scikit-learn库之决策树
scikit-learn库之决策树   在scikit-learn库中决策树使用的CART算法,因此该决策树既可以解决回归问题又可以解决分类问题,即下面即将讲的DecisionTreeClassifier和DecisionTreeRegressor两个模型。 使用场景   DecisionTreeClassi…
thumbnail
决策树总结
决策树总结 ID3算法、C4.5算法和CART算法比较 决策树优缺点 优点 简单明了,生成的决策树很直观,在逻辑上可以得到很好的解释,属于白盒模型。 通常情况下不需要进行数据预处理。 缺点 决策树算法非常容易过拟合,进而导致泛化能力不强。(可以通过设置节点最少样本数量和限制决策树层数来改进) 决策树会因为样本发生一点的改动,进而导致树结构发生剧烈变…
thumbnail
决策树CART算法
决策树CART算法   决策树C4.5算法虽然对决策树ID3算法做了很大的改良,但是缺点也是很明显的,无法处理回归问题、使用较为复杂的熵来作为特征选择的标准、生成的决策树是一颗较为复杂的多叉树结构,CART算法针对这些问题又做了进一步的优化。 决策树CART算法学习目标 基尼指数和熵 CART算法对连续值和特征值的处理 CART…
thumbnail
决策树C4.5算法
决策树C4.5算法   为了解决决策树ID3算法的不足,ID3算法的作者昆兰基于它的不足改进了决策树ID3算法。但是可能会有人有疑问,既然上一个决策树算法叫做ID3算法,为什么改进版本不叫做ID4或者ID5呢?因为当时决策树过于火爆,有人二次创新把ID4、ID5都用掉了,由此作者另辟蹊径把ID3算法的改进版本称为C4算法,后来C…
决策树ID3算法
决策树ID3算法   决策树(decision tree)是一种基本的分类与回归方法,同时由于自身是弱分类器特别适合集成学习,例如随机森林、XgBoost。   上述整个过程其实就是决策树实现的一个过程,接下来将从理论层面抽象的讲解三种形式的决策树。 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下…

You cannot copy content of this page