决策树CART例子

rpart包的rpart函数

Iris数据集

library(rpart) #加载rpart包

head(iris) #看看iris数据集里有哪些变量

iris以鸢尾花的特征作为数据来源，数据集包含150个数据，分为3类，每类50个数据，每个数据包含4个属性分别是花萼长度、花萼宽带、花瓣长度、花瓣宽度

用gini度量纯度

iris.rp1=rpart(Species~.,data=iris,method=\split=\ini\

# rpart(formula, data, method, parms, ...)得到决策树对象，其中 （1）formula是回归方程的形式，y~x1+x2+?，iris一共有5个变量，因变

量是Species,自变量是其余四个变量，所以formula可以省略为Species~.

（2） data是所要学习的数据集 （3）method根据因变量的数据类型有如下几种选择：anova（连续型），poisson（计数型），class（离散型），exp（生存型），因为我们的因变量是花的种类，属于离散型，所以method选择class

（4）parms可以设置纯度的度量方法，有gini（默认）和information（信

息增

习题

[1]商务智能产生的原因是什么？ [2]怎么认识商务智能？

[3]商务智能对企业有什么价值？

[4]举例说明商务智能在保险、证券、银行、电信、制造、零售和物流等行业的应用。 [5]讨论商务智能与ERP、CRM和SCM等业务管理系统的关系。 [6]商务智能系统包括哪些部分？分别有什么功能？

[7]结合具体的商务智能项目，说明商务智能系统的组成。 [8]讨论数据集成对商务智能项目的重要性。

[9]阅读下面的案例，分析产生问题的原因并给出对策。 一位新上任的大型国企老总曾经表达过这样的困惑。当他向下属提出，希望查看近十年企业的生产和运营数据时，他手边得到了各种各样不同的数据报表。这些数据报表大致可以分成两种类型：一种是两年前，即ERP上线之前的，这是一些简单、杂乱而又枯燥的数据。另一种是有了ERP以后的，数据变得清楚而有条理，但仍然有来自ERP、CRM、SCM以及计费业务等不同应用的数据和各种分析报告。 在仔细查看这些报表之后，这位国企老总惊讶地发现，不同的系统可以得出截然相反的两种结论。例如某一产品，它的动态成本反映在ERP系统和CRM、SCM系统中相差很大，如果引用ERP和CRM里面的数据，它就是一款很成功、销量很好的产品，但在SCM中，

习题

[1]商务智能产生的原因是什么？ [2]怎么认识商务智能？

[3]商务智能对企业有什么价值？

[4]举例说明商务智能在保险、证券、银行、电信、制造、零售和物流等行业的应用。 [5]讨论商务智能与ERP、CRM和SCM等业务管理系统的关系。 [6]商务智能系统包括哪些部分？分别有什么功能？

[7]结合具体的商务智能项目，说明商务智能系统的组成。 [8]讨论数据集成对商务智能项目的重要性。

[9]阅读下面的案例，分析产生问题的原因并给出对策。 一位新上任的大型国企老总曾经表达过这样的困惑。当他向下属提出，希望查看近十年企业的生产和运营数据时，他手边得到了各种各样不同的数据报表。这些数据报表大致可以分成两种类型：一种是两年前，即ERP上线之前的，这是一些简单、杂乱而又枯燥的数据。另一种是有了ERP以后的，数据变得清楚而有条理，但仍然有来自ERP、CRM、SCM以及计费业务等不同应用的数据和各种分析报告。 在仔细查看这些报表之后，这位国企老总惊讶地发现，不同的系统可以得出截然相反的两种结论。例如某一产品，它的动态成本反映在ERP系统和CRM、SCM系统中相差很大，如果引用ERP和CRM里面的数据，它就是一款很成功、销量很好的产品，但在SCM中，

精品文档就在这里

-------------各类专业好文档，值得你下载，教育，管理，论文，制度，方案手册，应有尽有-------------- --------------------------------------------------------------------------------------------------------------------------------------------

决策树法(Decision Tree）

决策树(decision tree)一般都是自上而下的来生成的。每个决策或事件（即自然状态）都可能引出两个或多个事件，导致不同的结果，把这种决策分支画成图形很像一棵树的枝干，故称决策树。 决策树就是将决策过程各个阶段之间的结构绘制成一张箭线图，我们可以用下图来表示。

选择分割的方法有好几种，但是目的都是一致的：对目标类尝试进行最佳的分割。 从根到叶子节点都有一条路径，这条路径就是一条“规则”。 决策树可以是二叉的，也可以是多叉的。 对每个节点的衡量： 1) 通过该节点的记录数

2) 如果是叶子节点的话，分类的路径 3) 对叶子节点正

1、长城公司该选择哪一种方案？

长城照相器材厂是一家有着 20年生产照相机历史的企业。最近企业实行改制，由国有独资企业改制为股份制企业，并通过猎头公司招聘李远担任公司的总经理。李远上任后要求公司的发展规划部为公司的未来发展提出方案。发展规划部提出了两个方案供公司领导班子选择：一个方案是继续生产传统产品，另一个方案是生产数码相机。 根据发展规划部的分析测算，如果照相机市场需求量大的话，生产传统相机一年可获利 30 万元，而生产数码相机则可获利 50 万元。如果市场需求量小，生产传统相机仍可获利 10 万元，生产数码相机将亏损 5万元。 根据对照相机市场所作的调研和市场分析，市场需求量大的概率为 0.8，需求量小的概率为 0.2。 以李远为总经理的公司领导班子根据发展规划部提交的方案将作出怎样的决策？

2、某公司生产一种电视机，有两种方案可选：一是建大厂，需要投资2800万元；二是建小厂，需要投资1200万元。两种方案建成后使用期都是十年。公司对十年中该电视的市场销售预测如下：高需求、中需求、低需求的概率分别为0·5、0·3、0·2。在高需求下每年获利大厂为1000万，小厂为400万；在中需求下每年获利大厂为500万，小厂为300万；在低需求

决策树法(Decision Tree）

决策树(decision tree)一般都是自上而下的来生成的。每个决策或事件（即自然状态）都可能引出两个或多个事件，导致不同的结果，把这种决策分支画成图形很像一棵树的枝干，故称决策树。 决策树就是将决策过程各个阶段之间的结构绘制成一张箭线图，我们可以用下图来表示。

选择分割的方法有好几种，但是目的都是一致的：对目标类尝试进行最佳的分割。 从根到叶子节点都有一条路径，这条路径就是一条“规则”。 决策树可以是二叉的，也可以是多叉的。 对每个节点的衡量： 1) 通过该节点的记录数

2) 如果是叶子节点的话，分类的路径 3) 对叶子节点正确分类的比例

有些规则的效果可以比其他的一些规则要好。

决策树的构成要素[1]

决策树的构成有四个要素：(1)决策结点；(2)方案枝；(3)状态结点；(4)概率枝。如图所示：

总之，决策树一般由方块结点、圆形结点、方案枝、概率枝等组成，方块结点称为决策结点，由结点引出若干条细支，每条细支代表一个方案，称为方案枝；圆形结点称为状态结点，由状态结点引出若干条细支，表示不同的自然状态，称为概率枝。每条概率枝代表

精品文档就在这里

-------------各类专业好文档，值得你下载，教育，管理，论文，制度，方案手册，应有尽有-------------- --------------------------------------------------------------------------------------------------------------------------------------------

决策树法(Decision Tree）

决策树(decision tree)一般都是自上而下的来生成的。每个决策或事件（即自然状态）都可能引出两个或多个事件，导致不同的结果，把这种决策分支画成图形很像一棵树的枝干，故称决策树。 决策树就是将决策过程各个阶段之间的结构绘制成一张箭线图，我们可以用下图来表示。

选择分割的方法有好几种，但是目的都是一致的：对目标类尝试进行最佳的分割。 从根到叶子节点都有一条路径，这条路径就是一条“规则”。 决策树可以是二叉的，也可以是多叉的。 对每个节点的衡量： 1) 通过该节点的记录数

2) 如果是叶子节点的话，分类的路径 3) 对叶子节点正

决策树法(Decision Tree）

决策树(decision tree)一般都是自上而下的来生成的。每个决策或事件（即自然状态）都可能引出两个或多个事件，导致不同的结果，把这种决策分支画成图形很像一棵树的枝干，故称决策树。 决策树就是将决策过程各个阶段之间的结构绘制成一张箭线图，我们可以用下图来表示。

选择分割的方法有好几种，但是目的都是一致的：对目标类尝试进行最佳的分割。 从根到叶子节点都有一条路径，这条路径就是一条“规则”。 决策树可以是二叉的，也可以是多叉的。 对每个节点的衡量： 1) 通过该节点的记录数

2) 如果是叶子节点的话，分类的路径 3) 对叶子节点正确分类的比例

有些规则的效果可以比其他的一些规则要好。

决策树的构成要素[1]

决策树的构成有四个要素：(1)决策结点；(2)方案枝；(3)状态结点；(4)概率枝。如图所示：

总之，决策树一般由方块结点、圆形结点、方案枝、概率枝等组成，方块结点称为决策结点，由结点引出若干条细支，每条细支代表一个方案，称为方案枝；圆形结点称为状态结点，由状态结点引出若干条细支，表示不同的自然状态，称为概率枝。每条概率枝代表

决策树学习的过拟合问题

姓名：

专业：通信与信号系统 学号：

一 决策树学习简介

决策树学习是一种逼近离散值目标函数的方法，这种方法将从一组训练数据中学习到的函数表示为一棵决策树。决策树叶子为类别名，其他的结点由实体的特征组成，每个特征的不同取值对应一个分枝。若要对一个实体分类，从树根开始进行测试，按特征的取值向下进入新结点，对新结点进行测试，过程一直进行到叶结点，实例被判为属于该叶子结点所标记的类别。它可以表示任意的离散函数和离散特征，可以将实例分成两个或多个类。

二 决策树学习的过拟合问题产生原因

决策树是判断给定样本与某种属性相关联的决策过程的一种表示方法。决策树的每个内部结点是对属性的一个测试，每个分支代表一个测试输出，每个叶结点表示某个类别或类别的分布。当一个待分类的样本沿根结点经内部结点的测试达到某个叶结点时，则判定该样本属于此叶结点所标识的类别。

建立决策树的过程，即树的生长过程是不断地把训练数据集进行划分的过程，每次划分对应一个属性，也对应着一个内部结点，划分所选的属性应使划分后的分组“差异”最大。决策树生成算法的不同主要体现在对“差异”的衡量方式上。

通常直接生成的完全决策树不能立即用于对未知样本进行分类。由于完全决策树对训练

决策树法,很典型的例题

决策树法,很典型的例题

例：设某茶厂计划创建精制茶厂，开始有两个方案，方案 一是建年加工能力为 800担的小厂，方案二是建年加工能 力为 2000 担的大厂。两个厂的使用期均为 10 年，大厂投 资25万元，小厂投资10万元。产品销路没有问题，原料来 源有两种可能 ( 两种自然状态 ) :一种为 800 担，另一种为 2000担。两个方案每年损益及两种自然状态的概率估计值 见下表自然状态 原料800担 原料2000担 概率 0.8 0.2 建大厂(投资25 万元) 13.5 25.5 建小厂(投资10 万元) 15.0 15.0

决策树法,很典型的例题

补充： 风险型决策方法——决策树方法 风险决策问题的直观表示方法的图示法。因为图的形状 像树，所以被称为决策树。 决策树的结构如下图所示。图中的方块代表决策节点， 从它引出的分枝叫方案分枝。每条分枝代表一个方案， 分枝数就是可能的相当方案数。圆圈代表方案的节点， 从它引出的概率分枝，每条概率分枝上标明了自然状态 及其发生的概率。概率分枝数反映了该方案面对的可能 的状态数。末端的三角形叫结果点，注有各方案在相应 状态下的结果值。

决策树法,很典型的例题

状态节点

概率分枝 4 概率