PK200

首页 > 游戏资讯 > 正文

决策树归纳算法贪心的本质,决策树归纳的特点

时间:2024-03-30 09:47:58

1984年,几位统计学家出版了一本名为《Classification and Regression Trees》的书,介绍了二元决策树的生成。 ID3、C4.5 和CART 都使用贪婪(即非回溯)方法,其中决策树是使用自顶向下递归分而治之方法构建的。大多数决策树归纳算法遵循自上而下的方法,从一组训练元组及其关联的类标签开始构建决策树。一旦建立了数字,训练集就会被递归地划分为更小的子集。算法生成_决策_树。决策树是根据数据分区D 中的训练元组生成的。输入:数据分区D、一组训练原语及其相应的类标签。 attribute_list,候选属性的集合。属性选择方法。确定“最佳”将数据元组拆分为各个类的拆分标准的过程。该标准由分裂属性(splitting_attribute)和分裂点或分裂子集组成。输出:决策树方法: (1) 创建节点N; (2) 如果D 的所有祖先都属于同一类C, (3) 返回N 作为标有类C 的叶节点(4) 如果attribute_list 为空( 5) 返回N作为叶子节点,标记D的多数类; //majority (6) 使用Attribute_selection_method(D,attribute_list)找到最好的'spitting_criterion; (7) 使用splitting_criterionN标记节点; (8) if splitting_attribute is允许离散值和多路分裂//仅限于二叉树(9)attribute_list attribute_list-splitting_attribute; //splitting_criterion 删除j 的每个输出的分裂属性(10)。将元组进行分割,并为每个分区生成一棵子树。 (11) 令Dj 为D 中满足输出j 的数据元组的集合; (12) 如果Dj 为空,则(13) 向标记为多数的节点N 添加一个叶子班级。 (14) else 将Generate_decision_tree(Dj,attribute_list) 返回的节点添加到N; endfor (15) 返回N;

决策树归纳算法贪心的本质,决策树归纳的特点

1984年,一些统计学家出版了《分类和回归树》一书,其中介绍了二元决策树的生成。 ID3、C4.5 和CART 都采用贪婪(即非回溯)技术。它是用自上而下的递归pide-and-conquer 方法构建的。大多数决策树归纳算法遵循自上而下的构建决策树的方法,从一组训练元组及其关联的类标签开始。训练集是递归的。算法Generate_decision_tree.决策树是根据数据分区D中的训练祖先生成的。输入:数据分区D,训练祖先及其对应的类标签的集合。 attribute_list,候选属性的集合。 Attribute_selection_method 确定将过程数据元组分类为不同类别的“最佳”愿景。该标准由属性分裂(splitting_attribute)和点或子集分裂组成。输出: 决策树方法:(1) 创建节点N。 (2) If的祖先D都属于同一个类C。 then(3) 返回N 作为标有类C 的叶节点。 (4) 如果Attribute_list 为空, (5) 返回N 作为叶子节点来标记D 的多数类。 //多数投票(6) 使用Attribute_selection_method(D,attribute_list) 找到“最佳”spitting_criterion;(7) 用splitting_criterion 标记节点N;(8) 如果splitting_attribute 是离散的并且有多个//如果允许分区则不受限制二叉树(9 )attribute_list attribute_list-splitting_attribute; //删除分割属性(10) pide splitting_criterion的每个输出j //每个分区的祖先和子树生成(11) let Dj是D中满足outputj的数据元组集合;(12)如果Dj 为空,则(13) 将叶子添加到节点N 并将其标记为D 的多数类; (14) 否则将由Generate_decision_tree(Dj,attribute_list) 返回的节点添加到N;endfor (15) 返回N ;

参考资料: 百度百科翻译: 谷歌翻译本文由LearningYard Academy创作。文章中部分照片和文字来自网络。如有侵犯版权,请联系我们删除。