15、分治法：使用决策树和规则进行分类

分治法：使用决策树和规则进行分类

1. 理解决策树

决策树学习器是强大的分类器，它利用树结构来建模特征与潜在结果之间的关系。其树状结构得名于它类似真实树木的生长方式，从底部宽大的树干开始，向上逐渐分裂成越来越细的树枝。同样，决策树分类器使用分支决策结构将示例引导到最终的预测类别值。

为了更好地理解其实际工作原理，以一个预测是否接受工作邀请的决策树为例。待考虑的工作邀请从根节点开始，然后经过决策节点，这些节点需要根据工作的属性做出选择。这些选择将数据沿着分支划分，指示决策的潜在结果，这里通常表示为“是”或“否”的结果，但在其他情况下可能有更多可能性。如果可以做出最终决策，树将终止于叶节点（也称为终端节点），这些节点表示一系列决策的结果所应采取的行动。在预测模型中，叶节点提供了给定树中一系列事件的预期结果。

决策树算法的一个重要优点是，类似流程图的树结构不仅供机器内部使用。模型创建后，许多决策树算法会以人类可读的格式输出结果结构，这有助于深入了解模型在特定任务中如何工作以及为何有效或无效。这也使得决策树特别适用于需要分类机制透明的应用场景，例如：
- 信用评分模型，其中导致申请人被拒绝的标准需要清晰记录且无偏差。
- 客户行为的营销研究，如满意度或客户流失情况，这些结果将与管理层或广告机构共享。
- 根据实验室测量、症状或疾病进展率进行的医疗状况诊断。

尽管决策树在上述应用中显示了其在决策过程中的价值，但它的用途不止于此。实际上，决策树是最广泛使用的机器学习技术之一，几乎可以应用于任何类型的数据建模，通常具有出色的开箱即用性能。然而，尽管其适用性广泛，但在某些情况下可能不是理想选择。例如，数据包含许多具有多个级别的名义特征或大量数值特