数据挖掘Apriori算法C++实现

- --

一、原Apriori算法

1、算法原理：

该算法的基本思想是：首先找出所有的频集，这些项集出现的频繁性至少和预定义的最小支持度一样。然后由频集产生强关联规则，这些规则必须满足最小支持度和最小可信度。然后使用第1步找到的频集产生期望的规则，产生只包含集合的项的所有规则，其中每一条规则的右部只有一项，这里采用的是中规则的定义。一旦这些规则被生成，那么只有那些大于用户给定的最小可信度的规则才被留下来。为了生成所有频集，使用了递推的方法

（1）L1 = find_frequent_1-itemsets(D); // 挖掘频繁1-项集，比较容易

（2）for (k=2;Lk-1 ≠Φ;k++) {

（3）Ck = apriori_gen(Lk-1 ,min_sup); // 调用apriori_gen方法生成候选频繁k-项集

（4）for each transaction t ∈D { // 扫描事务数据库D

（5）Ct = subset(Ck,t);

（6）for each candidate c ∈Ct

（7）c.count++; // 统计候选频繁k-项集的计数

（8）}

（9）Lk ={c ∈Ck|c.count≥min_sup} // 满足最小支持度的k-项集即为频繁k-项集

（10）}

（11）return L= ∪k Lk; // 合并频繁k-项集（k>0）

2、算法流程

①首先单趟扫描数据集，计算各个一项集的支持度，根据给定的最小支持度闵值，得到一项频繁集L1。

②然后通过连接运算，得到二项候选集，对每个候选集再次扫描数据集，得出每个候选集的支持度，再与最小支持度比较。得到二项频繁集L2。

③如此进行下去，直到不能连接产生新的候选集为止。

④对于找到的所有频繁集，用规则提取算法进行关联规则的提取。

3、算法的不足：

（１）数据库重复扫描的次数太多。在由ＣＫ寻找ＬＫ的过程中，ＣＫ中的每一项都需要扫描事务数据库进行验证，以决定其是否加入Ｌｋ，存在的频繁Ｋ－项集越大，重复扫描的次数就越多。这一过程耗时太大，增加了系统１／０开销，处理效率低［１０］，不利于实际应用。

（２）产生的候选集可能过于庞大。如果一个频繁１－项集包含１００个项，那么频繁２－项集就有Ｃ２

１００个，为找到元素个数为１００的频繁项集，如｛ｂ１，ｂ２，…，ｂ１００｝，那么就要扫描数据库１００次，产生的候选项集总个数为：

举例：

对于一个这样庞大的项集，计算机难以存储和计算，挖掘效率低下。

二、算法的改进1

1、改进方法：

性质１：频繁项集的所有非空子集都必须是频繁的。（Ａｐｒｉｏｒｉ性质，记为性质１）

性质２：若频繁Ｋ－项集Ｌｋ中各个项可以做链接产生Ｌｋ＋１

，则Ｌｋ中每个元素在Ｌｋ中出现的次数应大于或等于Ｋ，若小于Ｋ，则删除该项在Ｌｋ中所有的事务集［１１］。（Ａｐｒｉｏｒｉ性质的推论，记为性质２）

改进的方法：在连接之后得到的候选频繁k项，直接进行最小支持度判断，并进行剪枝，从而直接得到频繁k项集，避免候选项集可能过大的问题；

2、算法的流程

①首先单趟扫描数据集，计算各个一项集的支持度，根据给定的最小支持度阈值，得到一项频繁集L1。

- . -word资料-

- --

②然后通过连接运算，对于每个连接的到项直接进行最小支持度判断，如果大于最小支持度的加入频繁二项集，如果小于则舍弃，循环直到连接完毕；得到二项频繁集L2。

③如此进行下去，直到不能连接产生新的频繁项集为止。

3、代码实现的描述（详细描述文末附上）：

使用C++，构造了一个Apriori类：

class Apriori

{

public:

//初始化，输入数据源，得到原始数据集、频繁1项集

void init(string fileName); //连接频繁k项集、并且直接剪枝，得到频繁k+1项集，加入到容器item_list void apri_gen();;//连接频繁k项集、并且直接剪枝，得到频繁k+1项集，加入到频繁项集集合frequentvec中float calculateSup(vector<string> judge_item); //求候选项的支持度

vector<string> mergeItem(vector<string> vect1,vector<string> vect2,int round); //判断两个项是否可以合并成一个新的项集做为新的候选项，能则合并，不能的返回空容器

void showItem();//输出频繁项集

private:

vector<set<string>> datavec; //原始数据集

int trancount; //原始数据项数量

vector<vector<pair<vector<string>,float>>> frequentvec; //频繁项集的集合

double minsup; //设置最小支持度和最小置信度

double minconf; //设置最小支持度和最小置信度

};

运行结果：

效果对比：

数据集大小：9835

数据元素多少：170

置信度：0.05

原始：频繁1项集28

候选2项集2^28

频繁2项集3

改进后：频繁1项集28

频繁2项集3

算法的改进2

第一次扫描数据库时，对于数据库中的数据，利用各项元素的数字编号来替换各数据元素的名称；即将数据元素的名称字符传用数字来替换，从而减少在求各候选项的支持度时的资源消耗；

代码中的改进之处，

string类型的元素转为对应的int代号：储存频繁项集的容器由vector<vector<pair<vector<string>,float>>>变为vector<vector<pair<vector<int>,float>>>；然后对代码进行相应的调整，使得代码正常运行；

代码的描述：

class Apriori

- . -word资料-

- --

{

public:

void init(string fileName); //初始化，输入数据源，得到原始数据集、频繁1项集

void apri_gen();//连接频繁k项集、并且直接剪枝，得到频繁k+1项集，加入到频繁项集集合frequentvec中float calculateSup(vector<int> judge_item); //求候选项的支持度

vector<int> mergeItem(vector<int> vect1,vector<int> vect2,int round); //判断两个项是否可以合并成一个新的项集做为新的候选项，能则合并，不能的返回空容器

void showItem();//输出频繁项集

private:

vector<set<int>> dataNumVec;//原始数据集转换出来的、数据项用代号来表示的数据

map<string,int> reflection; //原始数据中各个不同的元素的代号映射,数据元素从1开始编号

int trancount; //原始数据项数量

vector<vector<pair<vector<int>,float>>> frequentvec; //频繁项集集合，储存各项以及其支持度

double minsup; //设置最小支持度和最小置信度

};

运行结果：

效果对比：

改进后14.496；14.549；14.577

改进前20.165；20.463；20.383

效率提升28.1%

- . -word资料-

- --

- . -word资料-

- --

- . -word资料-

- --

- . -word资料-

- --

- . -word资料-

- --

- . -word资料-

- --

- . -word资料-

- --

- . -word资料-

- --

- . -word资料-

- --

- . -word资料-

- --

- . -word资料-

- --

- . -word资料-

- --

- . -word资料-

- --

- . -word资料-

本文来源：https://www.bwwdw.com/article/raq4.html