

决策树的训练与测试


如何切分特征(选择节点)

-
衡量标准-熵


-
信息增益

决策树构造实例

信息增益:表示特征X使得类Y的不确定性减小的程度。(分类后的专一性,希望分类后的结果是同类在一起)

Outlook = sunny时,熵值 = (-2/5)*log(2/5)/log2 - (3/5) * log(3/5) / log(2)
..........


决策树算法

连续值

剪枝策略

剪枝策略












Outlook = sunny时,熵值 = (-2/5)*log(2/5)/log2 - (3/5) * log(3/5) / log(2)
..........







原文:https://www.cnblogs.com/douzujun/p/8378053.html