数据仓库与数据挖掘考试习题汇总
更新时间:2023-04-11 14:09:01 阅读量: 实用文档 文档下载
数据仓库与数据挖掘考
试习题汇总
Company number:【WTUT-WT88Y-W8BBGB-BWYTT-19998】
第一章
1、数据仓库就是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合。
2、元数据是描述数据仓库内数据的结构和建立方法的数据,它为访问数据仓库提供了一个信息目录,根据数据用途的不同可将数据仓库的元数据分为技术元数据和业务元数据两类。
3、数据处理通常分成两大类:联机事务处理和联机分析处理。
4、多维分析是指以“维”形式组织起来的数据(多维数据集)采取切片、切块、钻取和旋转等各种分析动作,以求剖析数据,使拥护能从不同角度、不同侧面观察数据仓库中的数据,从而深入理解多维数据集中的信息。
5、ROLAP是基于关系数据库的OLAP实现,而MOLAP是基于多维数据结构组织的OLAP实现。
6、数据仓库按照其开发过程,其关键环节包括数据抽取、数据存储于管理和数据表现等。
7、数据仓库系统的体系结构根据应用需求的不同,可以分为以下4种类型:两层架构、独立型数据集合、以来型数据结合和操作型数据存储和逻辑型数据集中和实时数据仓库。
8、操作型数据存储实际上是一个集成的、面向主题的、可更新的、当前值的(但是可“挥发”的)、企业级的、详细的数据库,也叫运营数据存储。
9、“实时数据仓库”以为着源数据系统、决策支持服务和仓库仓库之间以一个接近实时的速度交换数据和业务规则。
10、从应用的角度看,数据仓库的发展演变可以归纳为5个阶段:以报表为主、以分析为主、以预测模型为主、以运营导向为主和以实时数据仓库和自动决策为主。
第二章
1、调和数据是存储在企业级数据仓库和操作型数据存储中的数据。
2、抽取、转换、加载过程的目的是为决策支持应用提供一个单一的、权威数据源。因此,我们要求ETL过程产生的数据(即调和数据层)是详细的、历史的、规范的、可理解的、即时的和质量可控制的。
3、数据抽取的两个常见类型是静态抽取和增量抽取。静态抽取用于最初填充数据仓库,增量抽取用于进行数据仓库的维护。
4、粒度是对数据仓库中数据的综合程度高低的一个衡量。粒度越小,细节程度越高,综合程度越低,回答查询的种类越多。
5、使用星型模式可以从一定程度上提高查询效率。因为星型模式中数据的组织已经经过预处理,主要数据都在庞大的事实表中。
6、维度表一般又主键、分类层次和描述属性组成。对于主键可以选择两种方式:一种是采用自然键,另一种是采用代理键。
7、雪花型模式是对星型模式维表的进一步层次化和规范化来消除冗余的数据。
8、数据仓库中存在不同综合级别的数据。一般把数据分成4个级别:早期细节级、当前细节级、轻度综合级和高度综合级。
第三章
1、SQL Server SSAS提供了所有业务数据的同意整合试图,可以作为传统报表、在线分析处理、关键性能指示器记分卡和数据挖掘的基础。
2、数据仓库的概念模型通常采用信息包图法来进行设计,要求将其5个组成部分(包括名称、维度、类别、层次和度量)全面地描述出来。
3、数据仓库的逻辑模型通常采用星型图法来进行设计,要求将星型的各类逻辑实体完整地描述出来。
4、按照事实表中度量的可加性情况,可以把事实表对应的事实分为4种类型:事务事实、快照事实、线性项目事实和事件事实。
5、确定了数据仓库的粒度模型以后,为提高数据仓库的使用性能,还需要根据拥护需求设计聚合模型。
6、在项目实施时,根据事实表的特点和拥护的查询需求,可以选用时间、业务类型、区域和下属组织等多种数据分割类型。
7、当维表中的主键在事实表中没有与外键关联时,这样的维称为退化维。它于事实表并无关系,但有时在查询限制条件(如订单号码、出货单编号等)中需要用到。
8、维度可以根据其变化快慢分为元变化维度、缓慢变化维度和剧烈变化维度三类。
9、数据仓库的数据量通常较大,且数据一般很少更新,可以通过设计和优化索引结构来提高数据存取性能。
10、数据仓库数据库常见的存储优化方法包括表的归并与簇文件、反向规范化引入冗余、表的物理分割(分区)。
第四章
1、关联规则的经典算法包括Apriori算法和FP-growth算法,其中FP-grownth 算法的效率更高。
2、如果L2={{a,b},{a,c},{a,d},{b,c},{b,d}},则
连接产生的C3={{a,b,c},{a,b,d},{a,c,d},{b,c,d}}
再经过修剪,C3={{a,b,c},{a,b,d}}
3、设定supmin=50%,交易集如
则L1={A},{B},{C} L2={A,C}
T1 A B C
T2 A C
T3 A D
T4 B E F
第五章
1、分类的过程包括获取数据、预处理、分类器设计和分类决策。
2、分类器设计阶段包含三个过程:划分数据集、分类器构造和分类器测试。
3、分类问题中常用的评价准则有精确度、查全率和查准率和集合均值。
4、支持向量机中常用的核函数有多项式核函数、径向基核函数和S型核函数。第六章
1、聚类分析包括连续型、二值离散型、多值离散型和混合类型4种类型描述属性的相似度计算方法。
2、连续型属性的数据样本之间的距离有欧氏距离、曼哈顿距离和明考斯基距离。
3、划分聚类方法对数据集进行聚类时包含三个要点:选种某种距离作为数据样本减的相似性度量、选择评价聚类性能的准则函数和选择某个初始分类,之后用迭代的方法得到聚类结果,使得评价聚类的准则函数取得最优值。
4、层次聚类方法包括凝聚型和分解型两中层次聚类方法。
填空题20分,简答题25分,计算题2个(25分),综合题30分
1、数据仓库的组成P2
数据仓库数据库,数据抽取工具,元数据,访问工具,数据集市,数据仓库管理,信息发布系统
2、数据挖掘技术对聚类分析的要求有哪几个方面P131
可伸缩性;处理不同类型属性的能力;发现任意形状聚类的能力;减小对先验知识和用户自定义参数的依赖性;处理噪声数据的能力;可解释性和实用性
3、数据仓库在存储和管理方面的特点与关键技术P7
数据仓库面对的是大量数据的存储与管理
并行处理
针对决策支持查询的优化
支持多维分析的查询模式
4、常见的聚类算法可以分为几类P132
基于划分的聚类算法,基于层次的聚类算法,基于密度的聚类算法,基于网格的聚类算法,基于模型的聚类算法等。
5、一个典型的数据仓库系统的组成P12
数据源、数据存储与管理、OLAP服务器、前端工具与应用
6、数据仓库常见的存储优化方法P71
7、表的归并与簇文件;反向规范化,引入冗余;表的物理分割。
8、数据仓库发展演变的5个阶段P20
9、以报表为主
10、以分析为主
11、 以预测模型为主
12、 以运行向导为主以实时数据仓库、自动决策应用为主
13、 ID3算法主要存在的缺点P116
14、 (1)ID3算法在选择根结点和各内部结点中的分枝属性时,使用信息增
益作为评价标准。信息增益的缺点是倾向于选择取值较多的属性,在有些情况下这类属性可能不会提供太多有价值的信息。
15、 (2)ID3算法只能对描述属性为离散型属性的数据集构造决策树。
16、 简述数据仓库ETL 软件的主要功能和对产生数据的目标要求。P30
17、 ETL 软件的主要功能:
18、 数据的抽取,数据的转换,数据的加载
19、 对产生数据的目标要求:
20、 详细的、历史的、规范化的、可理解的、即时的、质量可控制的
21、 简述分类器设计阶段包含的3个过程。★
22、 划分数据集,分类器构造,分类器测试
23、 什么是数据清洗P33★
24、 数据清洗是一种使用模式识别和其他技术,在将原始数据转换和移到数
据仓库之前来升级原始数据质量的技术。
25、 支持度和置信度的计算公式及数据计算(P90)
26、 找出所有的规则X Y , 使支持度和置信度分别大于门限支持度: 事务
中X 和Y 同时发生的比例,P(X Y)置信度:项集X 发生时,Y 同时发生的条
件概率P(Y|X) 27、 Example:
28、
()()()
Support X Y c X Y Support X →=0.67) Beer(0.4,}Diaper ,Milk {?
29、
30、
13、利用信息包图设计数据仓库概念模型需要确定的三方面内容。P57
确定指标,确定维度,确定类别
14、K-近邻分类方法的操作步骤(包括算法的输入和输出)。P128
15、什么是技术元数据,主要包含的内容P29
技术元数据是描述关于数据仓库技术细节的数据,应用于开发、管理和维护DW,包含:
●DW结构的描述,如DW的模式、视图、维、层次结构和导出
数据的定义,数据集市的位置和内容等
●业务系统、DW和数据集市的体系结构和模式
●汇总算法。包括度量和维定义算法,数据粒度、主题领
域、聚合、汇总和预定义的查询和报告。
●由操作型业务环境到数据仓库业务环境的映射。包括源数
据和他们的内容、数据分割、数据提取、清洗、转换规则
和数据刷新规则及安全(用户授权和存取控制)
16、业务元数据主要包含的内容P29
业务元数据:从业务角度描述了DW中的数据,提供了介于使用者和实际系统之间的语义层,主要包括:
●使用者的业务属于所表达的数据模型、对象名和属性名
●访问数据的原则和数据的来源
●系统提供的分析方法及公式和报表的信息。
17、K-means算法的基本操作步骤(包括算法的输入和输出)。P138★
18、数据从集结区加载到数据仓库中的主要方法P36
●SQL命令(如Insert或Update)
●由DW供应商或第三方提供专门的加载工具
●由DW管理员编写自定义程序
19、多维数据模型中的基本概念:维,维类别,维属性,粒度P37
●维:人们观察数据的特定角度,是考虑问题的一类属性,
如时间维或产品维
●维类别:也称维分层。即同一维度还可以存在细节程度不同的各
个类别属性(如时间维包括年、季度、月等)
●维属性:是维的一个取值,是数据线在某维中位置的描述。
●粒度:DW中数据综合程度高低的一个衡量。粒度低,细节程度
高,回答查询的种类多
20、Apriori 算法的基本操作步骤P93★
Apriori 使用一种称作逐层搜索的迭代方法,K 项集用于探索K+1项集。 该方法是基于候选的策略,降低候选数
Apriori 剪枝原则:若任何项集是非频繁的,则其超集必然是非频繁的
(不用产生和测试超集)
该原则基于以下支持度的特性:
? 项集的支持度不会超过其子集
? 支持度的反单调特性(anti-monotone ):如果一个集合不能通过
测试,则它的所有超集也都不能通过相同的测试。
令 k=1
产生长度为1的频繁项集
循环,直到无新的频繁项集产生
? 从长度为k 的频繁项集产生长度为k+1的候选频繁项集
? 连接步:项集的各项排序,前k-1个项相同
? 若候选频繁子集包含长度为k 的非频繁子集,则剪枝
? 剪枝步:利用支持度属性原则
? 扫描数据库,计算每个候选频繁集的支持度
? 删除非频繁项, 保留频繁项
什么是数据仓库
数据仓库是一个面向主体的、集成的、时变的、非易失的数据集合,支持管理过程的决策过程
)
()()(:,Y s X s Y X Y X ≥???
数据仓库排除与对于决策无用的数据,提供特定主题的简明视图。通过集成多个异种数据源而构成
数据仓库总是物理地分离存放数据,这些数据源于操作环境下的应用数据操作性的数据更新不会发生在数据仓库的环境下.
2
联机事务处理OLTP (on-line transaction processing)
传统的关系DBMS的主要任务
他们涵盖了一个组织的大部分日常操作:购买、库存、制造、银行、工资、注册、记账等。
联机分析处理OLAP (on-line analytical processing)
数据仓库系统的主要任务
数据分析和决策
OLTP和OLAP的区别
用户和系统的面向性:OLTP面向顾客,而OLAP面向市场
数据内容:OLTP系统管理当前数据,而OLAP管理历史的数据。
数据库设计:OLTP系统采用实体-联系(ER)模型和面向应用的数据库设计,而OLAP系统通常采用星形和雪花模型
视图:OLTP系统主要关注一个企业或部门内部的当前数据,而OLAP 系统主要关注汇总的统一的数据。
访问模式:OLTP访问主要有短的原子事务组成,而OLAP系统的访问大部分是只读操作,尽管许多可能是复杂的查询
数据仓库和OLAP工具基于多维数据模型。这种模型将数据看作数据立方体形式。数据立方体允许从多维对数据建模和观察。它由维和事实定义。
3 最流行的数据仓库数据模型是多维模型,这种模型可以以星形模式、雪花型模式或事实星座模式形式存在。
建立数据仓库模型:维与度量
星型模型: 最常见的模型范例是星形模式,其中数据仓库包括(1)一个大的包含大批数据并且不含冗余的中心表(事实表);(2)一组小的附属表(维表),每维一个。中间是事实表,连接一组维表
雪花模式: 雪花模式是星型模式的变种,其中某些维表是规范化的,而数据进一步分解到附加的维表中,它的图形类似于雪花的形状
事实星座表: 多个事实表共享维表,这种模式可以看作星型模式及,因此称为星系模式或事实星座
数据立方体度量是一个数值函数,可以对数据立方体空间的每一个点求值。通过对给定点的各维-值对聚集数据,计算该点的度量值。
度量可以根据所用的聚集函数类型可以分成三类(即分布的、代数的和整体的)。
概念分层定义一个映射序列,将低层概念映射到更一般的较高层概念。
多维数据模型中的OLAP操作
(1)上卷:上卷操作通过沿一个维的概念分层向上攀升或者通过维规约,对数据
立方体进行聚集;
(2)下钻:下钻是上卷的逆操作,它由不太详细的数据到更详细的数据。下钻可
以通过沿维的概念分层向下或引入附加的维来实现;
(3)切片和切块:切片操作对给定立方体的一个维进行选择,导致一个子立方
体。切块操作通过对两个或多个维执行选择,定义子立方体;
(4)转轴(旋转):转轴是一种可视化操作,它转动数据的视角,提供数据的替
代表示;
(5)其他OLAP操作:钻过执行涉及多个事实表的查询;钻透操作使用关系
SQL机制,钻透数据立方体的底层,到后段关系表。
三层数据仓库的系统结构
(1)底层是仓库数据服务器,它几乎总是关系数据库系统。
(2)中间层是OLAP服务器,其典型的实现或者是(i)关系OLAP(ROLAP)模
型,即扩充的关系DBMS,它将对多维数据的操作映射为标准的关系操作;
或者是(ii)多维OLAP(MOLAP)模型即专门的服务器,它直接实现多维数据和操作。
(3)顶层是前段客户层,它包括查询和报表工具、分析工具和/或数据挖掘工具
(例如趋势分析、预测等)。
从结构的角度看,有三种数据仓库模型:企业仓库、数据集市和虚拟仓库。
数据集市(Data Mart):数据集市包含企业范围数据的一个子集,对于特定的用户群是有用的。其范围限于选定的主题。
根据数据的来源不同,数据集市分为独立的和依赖的两类。
数据仓库后端工具和实用程序包含以下功能:数据提取;数据清理;数据变换;装入;刷新。
数据立方体的物化有三种选择:(1)不物化;(2)完全物化;(3)部分物化。有三种数据仓库应用:信息处理、分析处理和数据挖掘。
4
分类和预测
找出描述并区分数据类和概念的模型(或函数)以便能够使用模型预测类标记未知的对象类。
例如:依据气候划分国家类型或者依据每里的耗油量划分汽车类型。
表示形式:判定树,分类规则,神经网络。
预测:预测某些未知的或空缺的数据值。
聚类分析
类标记未知:把数据聚类或分组成新的类,例如:把房子聚类来找出房子的分布模式。
聚类依据以下原则:最大化类内的相似性和最小化类间的相似性。
FP-树结构的优点
完整性: 不会破坏任何交易的长模式为频繁模式挖掘保存了完整的信息
简洁性减少了不相关的信息—非频繁项集被删掉
频繁项集按支持度递减顺序排列:越是频繁的项集越有可能被共享
不会比原数据库大(如果不算节点链和计数)
基本思想(分治策略):
使用FP-树循环的产生频繁模式路径
方法对于每一个项,先构造它的条件模式基,然后构造它的条件FP-树
在每一个新创建的条件FP-树上重复此过程
直到结果FP树为空,或它只包含一条路径(单路径将产生所有的它的子路径的结合,每一条子路径都是一个频繁模式)
挖掘FP-树的主要步骤
1)为FP-树中的每一个节点构造条件模式基
2)为每一个条件模式基条件FP-树
3)循环的挖掘条件FP-树,生成至今为止获得的频繁模式
如果条件FP-树只包含单条路径,简单的列举所有的模式
一、名词解释
1.数据仓库:是一种新的数据处理体系结构,是面向主题的、集成的、不
可更新的(稳定性)、随时间不断变化(不同时间)的数据集合,为企业决策支持系统提供所需的集成信息。
2.孤立点:指数据库中包含的一些与数据的一般行为或模型不一致的异常
数据。
3.OLAP:OLAP是在OLTP的基础上发展起来的,以数据仓库为基础的
数据分析处理,是共享多维信息的快速分析,是被专门设计用于支持复杂的分析操作,侧重对分析人员和高层管理人员的决策支持。
4.粒度:指数据仓库的数据单位中保存数据细化或综合程度的级别。粒度
影响存放在数据仓库中的数据量的大小,同时影响数据仓库所能回答查询问题的细节程度。
5.数据规范化:指将数据按比例缩放(如更换大单位),使之落入一个特定的
区域(如0-1)以提高数据挖掘效率的方法。规范化的常用方法有:最大-最小规范化、零-均值规范化、小数定标规范化。
6.关联知识:是反映一个事件和其他事件之间依赖或相互关联的知识。如
果两项或多项属性之间存在关联,那么其中一项的属性值就可以依据其他属性值进行预测。
7.数据挖掘:从大量的、不完全的、有噪声的、模糊的、随机的数据中,
提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。
8.OLTP:OLTP为联机事务处理的缩写,OLAP是联机分析处理的缩写。
前者是以数据库为基础的,面对的是操作人员和低层管理人员,对基本数据进行查询和增、删、改等处理。
9.ROLAP:是基于关系数据库存储方式的,在这种结构中,多维数据被映
像成二维关系表,通常采用星型或雪花型架构,由一个事实表和多个维度表构成。
10.MOLAP:是基于类似于“超立方”块的OLAP存储结构,由许多经压缩
的、类似于多维数组的对象构成,并带有高度压缩的索引及指针结构,
通过直接偏移计算进行存取。
11.数据归约:缩小数据的取值范围,使其更适合于数据挖掘算法的需要,
并且能够得到和原始数据相同的分析结果。
12.广义知识:通过对大量数据的归纳、概括和抽象,提炼出带有普遍性
的、概括性的描述统计的知识。
13.预测型知识:是根据时间序列型数据,由历史的和当前的数据去推测未
来的数据,也可以认为是以时间为关键属性的关联知识。
14.偏差型知识:是对差异和极端特例的描述,用于揭示事物偏离常规的异
常现象,如标准类外的特例,数据聚类外的离群值等。
15.遗传算法:是一种优化搜索算法,它首先产生一个初始可行解群体,然
后对这个群体通过模拟生物进化的选择、交叉、变异等遗传操作遗传到
下一代群体,并最终达到全局最优。
16.聚类:是将物理或抽象对象的集合分组成为多个类或簇(cluster)的过程,
使得在同一个簇中的对象之间具有较高的相似度,而不同簇中的对象差
别较大。
17.决策树:是用样本的属性作为结点,用属性的取值作为分支的树结构。
它是分类规则挖掘的典型方法,可用于对新样本进行分类。
18.相异度矩阵:是聚类分析中用于表示各对象之间相异度的一种矩阵,n个
对象的相异度矩阵是一个nn维的单模矩阵,其对角线元素均为0,对角线两侧元素的值相同。
19.频繁项集:指满足最小支持度的项集,是挖掘关联规则的基本条件之
一。
20.支持度:规则A→B的支持度指的是所有事件中A与B同地发生的的概
率,即P(A∪B),是AB同时发生的次数与事件总次数之比。支持度是对关联规则重要性的衡量。
21.可信度:规则A→B的可信度指的是包含A项集的同时也包含B项集的
条件概率P(B|A),是AB同时发生的次数与A发生的所有次数之比。可信度是对关联规则的准确度的衡量。
22.关联规则:同时满足最小支持度阈值和最小可信度阈值的规则称之为关
联规则。
二、综合题
1.何谓数据挖掘它有哪些方面的功能
从大量的、不完全的、有噪声的、模糊的、随机的数据中,提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程称为数据挖掘。相关的名称有知识发现、数据分析、数据融合、决策支持等。
数据挖掘的功能包括:概念描述、关联分析、分类与预测、聚类分析、趋势分析、孤立点分析以及偏差分析等。
2.何谓数据仓库为什么要建立数据仓库
数据仓库是一种新的数据处理体系结构,是面向主题的、集成的、不可更新的(稳定性)、随时间不断变化(不同时间)的数据集合,为企业决策支持系统提供所需的集成信息。
建立数据仓库的目的有3个:
一是为了解决企业决策分析中的系统响应问题,数据仓库能提供比传统事务数据库更快的大规模决策分析的响应速度。
二是解决决策分析对数据的特殊需求问题。决策分析需要全面的、正确的集成数据,这是传统事务数据库不能直接提供的。
三是解决决策分析对数据的特殊操作要求。决策分析是面向专业用户而非一般业务员,需要使用专业的分析工具,对分析结果还要以商业智能的方式进行表现,这是事务数据库不能提供的。
3.列举操作型数据与分析型数据的主要区别。
4.
OLTP即联机事务处理,是以传统数据库为基础、面向操作人员和低层管理人员、对基本数据进行查询和增、删、改等的日常事务处理。
OLAP即联机分析处理,是在OLTP基础上发展起来的、以数据仓库基础上的、面向高层管理人员和专业分析人员、为企业决策支持服务。
OLTP和OLAP的主要区别如下表:
5.
粒度是指数据仓库的数据单位中保存数据细化或综合程度的级别。粒度影响存放在数据仓库中的数据量的大小,同时影响数据仓库所能回答查询问题的细节程度。按粒度组织数据的方式主要有:
①简单堆积结构
②轮转综合结构
③简单直接结构
④连续结构
6.简述数据仓库设计的三级模型及其基本内容。
概念模型设计是在较高的抽象层次上的设计,其主要内容包括:界定系统边界和确定主要的主题域。
逻辑模型设计的主要内容包括:分析主题域、确定粒度层次划分、确定数据分割策略、定义关系模式、定义记录系统。
物理数据模型设计的主要内容包括:确定数据存储结构、确定数据存放位置、确定存储分配以及确定索引策略等。在物理数据模型设计时主要考虑的因素有: I/O存取时间、空间利用率和维护代价等。
提高性能的主要措施有划分粒度、数据分割、合并表、建立数据序列、引入冗余、生成导出数据、建立广义索引等。
7.在数据挖掘之前为什么要对原始数据进行预处理
原始业务数据来自多个数据库或数据仓库,它们的结构和规则可能是不同的,这将导致原始数据非常的杂乱、不可用,即使在同一个数据库中,也可能存在重复的和不完整的数据信息,为了使这些数据能够符合数据挖掘的要求,提高效率和得到清晰的结果,必须进行数据的预处理。
为数据挖掘算法提供完整、干净、准确、有针对性的数据,减少算法的计算量,提高挖掘效率和准确程度。
8.简述数据预处理方法和内容。
①数据清洗:包括填充空缺值,识别孤立点,去掉噪声和无关数据。
②数据集成:将多个数据源中的数据结合起来存放在一个一致的数据存
储中。需要注意不同数据源的数据匹配问题、数值冲突问题和冗余问题等。
③数据变换:将原始数据转换成为适合数据挖掘的形式。包括对数据的
汇总、聚集、概化、规范化,还可能需要进行属性的重构。
④数据归约:缩小数据的取值范围,使其更适合于数据挖掘算法的需
要,并且能够得到和原始数据相同的分析结果。
9.简述数据清理的基本内容。
①尽可能赋予属性名和属性值明确的含义;
②统一多数据源的属性值编码;
③去除无用的惟一属性或键值(如自动增长的id);
④去除重复属性(在某些分析中,年龄和出生日期可能就是重复的属性,
但在某些时候它们可能又是同时需要的)
⑤去除可忽略字段(大部分为空值的属性一般是没有什么价值的,如果不
去除可能造成错误的数据挖掘结果)
⑥合理选择关联字段(对于多个关联性较强的属性,重复无益,只需选择
其中的部分用于数据挖掘即可,如价格、数据、金额)
⑦去掉数据中的噪音、填充空值、丢失值和处理不一致数据。
10.简述处理空缺值的方法。
①忽略该记录;
②去掉属性;
③手工填写空缺值;
④使用默认值;
⑤使用属性平均值;
⑥使用同类样本平均值;
⑦预测最可能的值。
11.常见的分箱方法有哪些数据平滑处理的方法有哪些
分箱的方法主要有:
①统一权重法(又称等深分箱法)
②统一区间法(又称等宽分箱法)
③最小熵法
④自定义区间法
数据平滑的方法主要有:平均值法、边界值法和中值法。
12.何谓数据规范化规范化的方法有哪些写出对应的变换公式。
将数据按比例缩放(如更换大单位),使之落入一个特定的区域
(如~),称为规范化。规范化的常用方法有:
(1) 最大-最小规范化:
(2) 零-均值规范化: (3) 小数定标规范化:x =x 0/10α 13. 数据归约的方法有哪些为什么要进行维归约
① 数据立方体聚集
② 维归约
③ 数据压缩
④ 数值压缩
⑤ 离散化和概念分层
维归约可以去掉不重要的属性,减少数据立方体的维数,从而减少数据挖掘处理的数据量,提高挖掘效率。
14. 何谓聚类它与分类有什么异同
聚类是将物理或抽象对象的集合分组成为多个类或簇(cluster)的过程,使得在同一个簇中的对象之间具有较高的相似度,而不同簇中的对象差别较大。
聚类与分类不同,聚类要划分的类是未知的,分类则可按已知规则进行;聚类是一种无指导学习,它不依赖预先定义的类和带类标号的训练实例,属于观察式学习,分类则属于有指导的学习,是示例式学习。
15. 举例说明聚类分析的典型应用。
①商业:帮助市场分析人员从客户基本库中发现不同的客户群,并且用不同的购买模式描述不同客户群的特征。
②生物学:推导植物或动物的分类,对基于进行分类,获得对种群中固有结构的认识。
③WEB 文档分类
④其他:如地球观测数据库中相似地区的确定;各类保险投保人的分组;一个城市中不同类型、价值、地理位置房子的分组等。
⑤聚类分析还可作为其他数据挖掘算法的预处理:即先进行聚类,然后再进行分类等其他的数据挖掘。聚类分析是一种数据简化技术,它把基于相似数据特征的变量或个案组合在一起。
16. 聚类分析中常见的数据类型有哪些何谓相异度矩阵它有什么特点
常见数据类型有区间标度变量、比例标度型变量、二元变量、标称型、序数型以及混合类型等。相异度矩阵是用于存储所有对象两两之间相()()0000max min x x min min max min -=-+-0X
X x x σ-=
异度的矩阵,为一个nn维的单模矩阵。其特点是d(i,j)=d(j,i),d(i,i)=0,d(j,j)=0。如下所示:
17.分类知识的发现方法主要有哪些分类过程通常包括哪两个步骤
分类规则的挖掘方法通常有:决策树法、贝叶斯法、人工神经网络法、粗糙集法和遗传算法。分类的过程包括2步:首先在已知训练数据集上,根据属性特征,为每一种类别找到一个合理的描述或模型,即分类规则;然后根据规则对新数据进行分类。
18.什么是决策树如何用决策树进行分类
决策树是用样本的属性作为结点,用属性的取值作为分支的树结构。
它是利用信息论原理对大量样本的属性进行分析和归纳而产生的。决策树的根结点是所有样本中信息量最大的属性。树的中间结点是以该结点为根的子树所包含的样本子集中信息量最大的属性。决策树的叶结点是样本的类别值。
决策树用于对新样本的分类,即通过决策树对新样本属性值的测试,从树的根结点开始,按照样本属性的取值,逐渐沿着决策树向下,直到树的叶结点,该叶结点表示的类别就是新样本的类别。决策树方法是数据挖掘中非常有效的分类方法。
19.简述ID3算法的基本思想及其主算法的基本步骤。
首先找出最有判别力的因素,然后把数据分成多个子集,每个子集又选择最有判别力的因素进一步划分,一直进行到所有子集仅包含同一类型的数据为止。最后得到一棵决策树,可以用它来对新的样例进行分
类。
主算法包括如下几步:
①从训练集中随机选择一个既含正例又含反例的子集(称为窗口);
②用“建树算法”对当前窗口形成一棵决策树;
③对训练集(窗口除外)中例子用所得决策树进行类别判定,找出错判
的例子;
④若存在错判的例子,把它们插入窗口,重复步骤②,否则结束。
20.简述ID3算法的基本思想及其建树算法的基本步骤。
首先找出最有判别力的因素,然后把数据分成多个子集,每个子集又选择最有判别力的因素进一步划分,一直进行到所有子集仅包含同一类型的数据为止。最后得到一棵决策树,可以用它来对新的样例进行分
类。
建树算法的具体步骤如下:
正在阅读:
数据仓库与数据挖掘考试习题汇总04-11
情书怎么写02-18
青春路上,让我们同行12-22
述廉报告样板(精选多篇)09-26
预算员绩效考核表04-25
水电安装常用材料明细表08-26
七年级家长会家长发言稿06-12
解放思想大讨论活动调研报告01-14
试题07-04
- 教学能力大赛决赛获奖-教学实施报告-(完整图文版)
- 互联网+数据中心行业分析报告
- 2017上海杨浦区高三一模数学试题及答案
- 招商部差旅接待管理制度(4-25)
- 学生游玩安全注意事项
- 学生信息管理系统(文档模板供参考)
- 叉车门架有限元分析及系统设计
- 2014帮助残疾人志愿者服务情况记录
- 叶绿体中色素的提取和分离实验
- 中国食物成分表2020年最新权威完整改进版
- 推动国土资源领域生态文明建设
- 给水管道冲洗和消毒记录
- 计算机软件专业自我评价
- 高中数学必修1-5知识点归纳
- 2018-2022年中国第五代移动通信技术(5G)产业深度分析及发展前景研究报告发展趋势(目录)
- 生产车间巡查制度
- 2018版中国光热发电行业深度研究报告目录
- (通用)2019年中考数学总复习 第一章 第四节 数的开方与二次根式课件
- 2017_2018学年高中语文第二单元第4课说数课件粤教版
- 上市新药Lumateperone(卢美哌隆)合成检索总结报告
- 数据挖掘
- 习题
- 仓库
- 汇总
- 数据
- 考试
- 第3章第4节塑料 橡胶 纤维
- 2022-2022年中国医药广告行业现状调查及未来投资价值研究报告
- 包渗时间对Cu表面NiAl涂层组织和性能的影响
- 高端装备创新工程实施指南(2022-2022年)【模板】
- 【精华】学生会个人工作总结3篇
- 机动车综合性能检测站项目可行性研究报告
- 最新精选2022年《生理学》大学期末考核题库完整版300题(含答案)
- 西南交通大学研究生学位论文撰写规范
- 云计算导论教学大纲
- 2022年太原科技大学电子信息工程学院823电路考研强化模拟题
- 汽车配件项目可行性研究报告
- 一二级生物安全实验室标准表模板
- 轴承型号及安装部位
- 公司高管人员年薪考核办法
- 培训经理的10项工作(核心总结)
- 2022-2022年中国六味地黄丸行业市场调研及战略规划投资预测报告
- 【仁爱版】八年级下第二次月考英语试题及答案
- 欧派家居集团股份有限公司番禺分公司_中标190922
- 2022世界机器人大会食品安全保障实施方案.doc
- 简短的感恩母亲的诗歌