上篇 演化机器学习——内嵌特征选择的学习分类器 3
第1章 上篇引言 3
1.1研究背景 3
1.2上篇主要内容 6
1.3上篇的结构安排 7
第2章 相关工作综述 8
2.1概述 8
2.2学习分类器研究 9
2.2.1进化计算 9
2.2.2基于遗传的机器学习思想 10
2.2.3 Michigan式学习分类器研究进展 12
2.2.4 Pittsburgh式学习分类器研究进展 13
2.3特征选择方法综述 15
2.3.1机器学习中的特征选择问题描述 16
2.3.2特征选择的搜索模型 17
2.3.3 Filter方法 19
2.3.4 Wrapper方法 20
2.3.5 Embedded方法 21
2.4本章小结 21
第3章 基于M emetic算法的Wrapper-Filter特征选择方法 23
3.1概述 23
3.2 Memetic算法 24
3.2.1 Memetic算法思想起源 24
3.2.2 Memetic算法框架 25
3.3基于MA的混合式Wrapper-Filter特征选择方法 28
3.3.1算法设计思想 28
3.3.2算法整体框架 29
3.3.3全局搜索的GA-Wrapper 30
3.3.4局部搜索的Relief-Filter 32
3.3.5计算复杂度分析 34
3.4本章小结 35
第4章 基于合作式协同进化内嵌特征选择的学习分类器 36
4.1概述 36
4.2协同进化算法 37
4.2.1协同进化思想起源 37
4.2.2竞争式协同进化算法模型 38
4.2.3合作式协同进化算法模型 39
4.3基于合作式协同进化的学习分类器 41
4.3.1算法设计思想 41
4.3.2算法框架 42
4.3.3分类器演化的Pittsburgh式学习分类器算法 44
4.3.4计算复杂度分析 45
4.4本章小结 46
第5章 算法评估结果与分析 47
5.1概述 47
5.2算法比较实验框架 48
5.2.1 Benchmark数据集 48
5.2.2性能评估指标 48
5.2.3实验方法 50
5.3 MFS算法实验结果及分析 50
5.3.1算法参数设置 50
5.3.2实验结果与讨论 51
5.4 CoCoLCS_MFS算法实验结果及分析 53
5.4.1算法参数设置 53
5.4.2实验结果与讨论 53
5.4.3显著性检验 55
5.5特征选择对学习分类器的影响分析 55
5.5.1预测准确率 55
5.5.2运行时间 56
5.5.3特征约简率 57
5.5.4显著性检验 58
5.6本章小结 59
第6章 关于演化搜索的一项扩展性工作——基于混合式GVNS算法的多处理器任务调度研究 60
6.1概述 60
6.2多处理器任务调度 61
6.2.1研究背景 61
6.2.2多处理器任务调度问题模型 62
6.2.3调度算法研究进展 64
6.3基于启发式策略的混合式GVNS调度算法的总体设计 67
6.3.1混合式设计的算法思想 67
6.3.2算法整体框架 67
6.4任务优先级定序的启发式策略 69
6.5全局搜索的遗传算法设计 70
6.5.1种群个体的基因编码 70
6.5.2种群初始化与个体适应度评估 70
6.5.3遗传操作设计 71
6.6局部搜索的变邻域搜索算法设计 72
6.6.1算法流程 73
6.6.2邻域结构设计 74
6.6.3局部搜索 75
6.7算法实验结果评估与分析 75
6.7.1性能评估指标与参数设置 76
6.7.2确定图上的结果 76
6.7.3随机图上的结果 80
6.7.4显著性检验 80
6.7.5局部搜索有效性分析 82
6.8本章小结 83
第7章 上篇总结 84
7.1上篇的主要工作总结 84
7.2未来研究工作展望 85
下篇 演化机器学习——分布估计的学习分类器 89
第8章 下篇引言 89
8.1研究背景 89
8.2研究动机 91
8.3下篇的主要工作 92
8.4下篇的结构安排 94
第9章 分布估计算法和学习分类器 96
9.1概述 96
9.2进化计算简介 96
9.3遗传算法 97
9.4分布估计算法 99
9.4.1分布估计算法的基本流程 100
9.4.2分布估计算法分类 100
9.5学习分类器 101
9.5.1 Michigan式学习分类器 102
9.5.2 Pittsburgh式学习分类器 103
第10章 基于L1正则化贝叶斯网络的分布估计算法 106
10.1概述 106
10.2 L1正则化贝叶斯网络 107
10.2.1贝叶斯网络与L1正则化 108
10.2.2候选链接关系建立 110
10.2.3剪枝搜索 111
10.3 L1正则化贝叶斯网络与分布估计算法整合 113
10.4实验设置 114
10.4.1测试函数 114
10.4.2参数配置 116
10.5优化性能比较 117
10.5.1第一组实验 117
10.5.2第二组实验 118
10.6模型比较 125
10.6.1测试函数的理想模型 125
10.6.2模型复杂度比较 126
10.6.3模型准确度比较 127
10.7本章小结 129
第11章 基于分布估计算法的分类器进化算法 131
11.1概述 131
11.2算法框架介绍 132
11.3分类器的知识表示 133
11.4规则进化 135
11.4.1规则评价 135
11.4.2规则重组 135
11.5规则集进化 137
11.5.1规则集评价 137
11.5.2规则集重组 138
11.6规则与规则集进化整合 139
11.7实验设置 139
11.7.1测试数据 141
11.7.2比较对象 143
11.7.3评价指标 144
11.7.4参数设置 145
11.8实验结果 146
11.8.1构造问题 146
11.8.2实际问题 152
11.8.3参数敏感度分析 157
11.9本章小结 158
第12章 面向学习分类器的嵌入式特征选择算法 159
12.1概述 159
12.2本章相关工作 160
12.3算法框架介绍 161
12.4嵌入式特征选择算法 162
12.4.1特征冗余度计算 162
12.4.2特征关联度计算 163
12.5特征选择与学习分类器整合 165
12.6实验设置 167
12.6.1测试数据 167
12.6.2比较对象 168
12.6.3评价指标 169
12.6.4参数设置 170
12.7实验结果 170
12.7.1构造问题 170
12.7.2实际问题 172
12.7.3参数敏感度分析 180
12.8本章小结 181
第13章 基于进化纠错输出编码的多类分类算法 182
13.1概述 182
13.2纠错输出编码方法简介 183
13.3编码矩阵设计 184
13.3.1编码矩阵评价 184
13.3.2优化方法 187
13.4解码策略 188
13.5实验设置 189
13.5.1测试数据 189
13.5.2比较对象 189
13.5.3评价指标与参数设置 190
13.6实验结果 190
13.6.1分类准确率 190
13.6.2训练开销 193
13.6.3结果复杂度与特征约简率 195
13.6.4纠错输出编码性能 197
13.7本章小结 198
第14章 下篇总结与展望 200
14.1下篇总结 200
14.2后续工作展望 201
参考文献 203