负关联规则挖掘技术研究

本书首先向读者介绍了关联规则从研究背景与意义出发，着重向读者讲解负关联规则基本概念，研究负关联规则可能遇到的问题如矛盾规则问题、置信度设置问题、非频繁项集问题、多数据库挖掘问题和冗余规则处理问题等，以及为了解决以上问题所采取的措施（提出的算法），此外在每一种算法之后都会附有相关实验从而帮助读者更好的理解并使用相关算法。

董祥军,教授，博士后，博士生导师，曾任齐鲁工业大学信息学院副院长、院长。山东省人工智能学会副理事长，山东省计算机学会理事，山东物联网协会教育专委会副会长，山东电子学会教育专委会副主任委员，ACM（中国）会员，中国指挥与控制学会认知与行为专委会常务会员。1990年取得山东轻工业学院电气技术专业学士学位，1999年取得山东工业大学计算机应用技术硕士学位，2005年取得北京理工大学计算机应用专业博士学位。2007.6-2009.6在北京理工大学管理与经济学院从事博士后研究，2009.8-2010.2悉尼科技大学访问学者。2001年评为副教授，2005年破格评为教授。主持国家自然科学基金面上项目1项、中国博士后基金项目1项、山东省自然科学基金项目2项、山东省中青年科学家奖励基金项目1项、山东省研究生教育创新计划项目1项、山东省教育厅科技计划项目1项、山东高校优秀中青年教师国外合作项目1项，主持横向课题8项，参与国j级、省级纵向课题等10余项，到位经费400余万元。长期从事数据挖掘方面的研究，在负关联规则、负序列模式方面取得了丰硕的研究成果，发表学术论文70多篇，其中SCI、EI收录50多篇，获得山东省教育厅优秀科研成

目录

第1章关联规则挖掘概述1

1.1数据挖掘概述1

1.1.1数据挖掘的起源1

1.1.2数据挖掘的定义3

1.1.3数据挖掘的任务4

1.2关联规则挖掘7

1.2.1概述7

1.2.2主要算法8

1.2.3Apriori算法详解14

1.2.4由频繁项集产生关联规则19

小结20

第2章挖掘负关联规则的PNARC模型21

2.1负关联规则概述21

2.2正负关联规则相关性模型——PNARC模型23

2.2.1问题分析23

2.2.2负关联规则中支持度与置信度的计算24

2.2.3相关性在正负关联规则挖掘中的应用26

2.2.4PNARC算法29

2.3PNARC模型实验结果30

2.3.1示例数据31

2.3.2更多的实验结果32

小结40

第3章兴趣度在负关联规则中的应用研究41

3.1兴趣度在正关联规则中的应用概述41

3.2χ2检验在负关联规则中的应用研究46

3.2.1假设检验相关知识46

3.2.2χ2检验在负关联规则中的应用研究48

3.2.3算法设计52

3.2.4实验结果53

3.3相关系数在负关联规则中的应用研究55

3.4最小兴趣度在负关联规则中的应用研究57

3.4.1PS兴趣度相关问题讨论57

3.4.2算法设计58

3.4.3实验结果59

小结62

第4章多数据库中的负关联规则挖掘63

4.1多数据库中的正关联规则挖掘概述63

4.2多数据库中的负关联规则挖掘67

4.2.1挖掘合成规则67

4.2.2算法设计及实验68

4.3多数据库中挖掘负加权关联规则72

4.4基于PS兴趣度的多数据库中的负关联规则挖掘79

4.5多数据库中的例外关联规则挖掘82

小结86

第5章负时态关联规则挖掘87

5.1研究时态关联规则的必要性87

5.2两种典型的正时态关联规则挖掘模型88

5.2.1日历模型分析88

5.2.2商品生命周期模型分析90

5.3挖掘时态频繁项集算法91

5.3.1相关定义91

5.3.2GTFS算法设计92

5.3.3GTFS算法举例93

5.4负时态关联规则挖掘模型95

5.4.1相关定义95

5.4.2CTFS算法设计及CTP算法设计97

5.4.3CTP模型举例98

小结100

第6章非频繁项集挖掘技术101

6.1比例比率模型101

6.2两级支持度模型104

6.2.12LS算法设计104

6.2.22LS算法实验结果106

6.2.32LSP算法设计106

6.2.42LSP模型实验结果107

6.3多级最小支持度模型110

6.3.1MLMS模型中非频繁项集的定义110

6.3.2MLMS算法设计111

6.3.3实验结果112

6.4MLMS的兴趣度模型——IMLMS模型114

6.4.1项集的修剪方法114

6.4.2IMLMS算法设计116

6.4.3实验结果118

6.5多项支持度模型119

6.6用基本Apriori算法实现MIS模型124

6.6.1MSB_apriori算法124

6.6.2实验结果125

6.6.3MSB_apriori+算法127

6.6.4实验结果128

6.7扩展的多项支持度模型130

小结132

第7章负关联规则修剪技术的研究136

7.1正关联规则修剪的有关技术回顾136

7.2最小冗余的无损关联规则集表述141

7.2.1有关定义141

7.2.2无损规则集表述的推演142

7.3基于最小相关度的负关联规则修剪技术146

7.4基于多最小置信度的负关联规则修剪技术151

7.4.1多置信度的必要性分析152

7.4.2算法和实验结果155

7.5基于逻辑推理的负关联规则修剪技术158

小结165

第8章负频繁项集及其负关联规则挖掘166

8.1负频繁项集挖掘方法——eNFIS算法166

8.1.1负候选项集支持度计算方法166

8.1.2算法设计及实验结果167

8.2基于多支持度的负频繁项集挖掘算法——emsNFIS算法170

8.3负频繁项集中的负关联规则挖掘问题与对策172

小结175

第9章正负关联规则在大学校园数据分析中的应用176

9.1校园数据分析的意义176

9.2数据预处理177

9.2.1数据预处理简介177

9.2.2校园数据概述180

9.3基于关联规则的大学生心理健康数据分析183

9.3.1心理健康数据预处理183

9.3.2挖掘结果分析187

9.4学生一卡通消费行为与成绩间的关联分析190

9.4.1数据预处理190

9.4.2挖掘结果分析194

9.5图书借阅行为与成绩间的关联分析195

9.5.1数据预处理195

9.5.2挖掘结果分析197

9.6心理健康与成绩间的关联分析197

9.6.1数据预处理197

9.6.2挖掘结果分析199

9.7消费行为、图书借阅行为、心理健康与成绩间的关联分析200

9.7.1数据预处理200

9.7.2挖掘结果分析201

小结203

第10章正负关联规则在医疗数据分析中的应用204

10.1概述204

10.2医疗数据预处理206

10.2.1医疗数据特征206

10.2.2数据选择207

10.2.3数据规范化208

10.2.4数据归约209

10.3正负关联规则在心脑血管疾病分析中的应用210

10.4正负关联规则在糖尿病分析中的应用214

10.5正负关联规则在类风湿性关节炎中的应用217

小结220

缩略语表221

参考文献223

前言

关联规则是描述数据库中（已发生的）数据项（属性，变量）之间（潜在）关系的规则，能够发现形如“牛奶面包”的关联规则。负关联规则是关联规则的重要补充，能够分析已发生和未发生项之间的关联关系，能够发现形如“白酒?瘙綈啤酒”（购买白酒后不再购买啤酒）的负关联规则，为决策提供更全面的信息。

本书是作者在该领域多年研究成果的系统总结，涵盖了负关联规则的基本概念、算法以及具体应用。全书共分为10章，具体内容如下。

（1） 第1章阐述了数据挖掘的起源、定义、任务，介绍了关联规则挖掘的主要算法，并对其经典算法——Apriori算法进行了详细介绍。

（2） 第2章阐述了负关联规则的重要研究意义，重点讨论了挖掘负关联规则的PNARC模型，包括研究负关联规则后出现的问题、负关联规则的支持度与置信度的计算方法以及基于相关性的解决方案、算法设计等内容。

（3） 第3章对多种兴趣度度量方法进行了概述，重点讨论了χ2检验、相关系数、PiatetskyShapiro的兴趣度等方法在挖掘负关联规则中的应用，然后讨论了基于最小兴趣度的负关联规则挖掘模型。

（4） 第4章首先分析了多数据库的正关联规则挖掘方法，提出了利用合成相关性来解决矛盾规则的方法，然后提出了多数据库中挖掘负关联规则的方法。在此基础上，研究了将最小兴趣度用户负关联规则剪枝，还提出了一种挖掘多数据库中的全局例外关联规则的方法。

（5） 第5章首先对时态关联规则进行了概述，分析了几种典型的时态关联规则挖掘模型，然后提出了一个挖掘时态频繁项集的泛化算法——GTFS算法，进而提出了一种基于定制时间约束的时态关联规则挖掘模型——CTP模型。

（6） 当研究负关联规则后，非频繁项集变得非常重要，因为其中含有大量负关联规则。第6章讨论了非频繁项集挖掘的多个模型，在介绍PR模型的基础上，提出了两级支持度2LSP模型、多级支持度MLMS模型及其兴趣度模型IMLMS模型、多项支持度MIS模型、利用基本Apriori算法实现MIS模型的MSB_apriori模型以及扩展的MIS模型。

（7） 第7章讨论了负关联规则的修剪技术。首先介绍了正关联规则修剪的有关技术，其次介绍了最小冗余的无损正关联规则集表述方法，再次讨论了基于最小相关度的负关联规则修剪技术，然后讨论了基于多最小置信度的负关联规则修剪技术，最后讨论了基于逻辑推理的负关联规则修剪技术。

（8） 第8章介绍了从负频繁项集中挖掘负关联规则的方法。首先介绍了挖掘形如a1?瘙綈a2b1?瘙綈b2的负频繁项集的算法eNFIS，然后提出了基于eNFIS和MSapriori算法的多支持度的负频繁项集挖掘算法emsNFIS，最后讨论了从负频繁项集中挖掘负关联规则出现的问题以及用二次相关性解决该问题的方法。

（9） 第9章将正负关联规则挖掘算法应用于大学生校园数据分析之中，详细分析了一卡通消费行为、图书借阅行为、心理健康与成绩间的关联关系，发现好的学习成绩与良好的三餐习惯（特别是按时用早餐）、尽量多地阅读专业课参考书以及保持心理健康之间具有很强的关联关系。

（10） 本章将正负关联规则在医疗数据上进行了应用。首先对数据进行了预处理，然后选取了心脑血管疾病、糖尿病和类风湿关节炎三种疾病的数据进行关联规则挖掘和分析，得到了一些有意义的分析结果。

本书可用作计算机相关专业高年级本科生或研究生教材，也可供数据挖掘、智能信息处理等相关领域的研究人员参考。希望本书能够促进广大科技工作者对负关联规则的认识、应用和创新。

感谢袁汉宁博士，研究生尚世菊、徐田田、李晨露、郝峰撰写了部分章节的内容初稿，感谢郝峰重新实现了全书的算法并做了实验，感谢胡艳羽绘制了全书所有的图形和整理了参考文献，感谢我的太太王丽女士对我的关爱和为家庭所做的贡献，使我能够静下心来写作，感谢清华大学出版社的编辑们对本书的编排工作。

由于作者水平有限，时间紧迫，书中不足之处在所难免，还望读者批评指正。

作者2020年10月于齐鲁工业大学(山东省科学院)