基于信息熵与粒子群优化的极限学习机研究及应用

《基于信息熵与粒子群优化的极限学习机研究及应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、北京化工大学学位论文原创性声明本人郑重声明：所呈交的学位论文，是本人在导师的指导下，独立进行研究工作所取得的成果。除文中已经注明引用的内容外，本论文不含任何其他个人或集体已经发表或撰写过的作品成果。对本文的研究做出重要贡献的个人和集体，均已在文中以明确方式标明。本人完全意识到本声明的法律结果由本人承担。作者签名：{盈斗EIA!：2丛红』∑堂二关于论文使用授权的说明学位论文作者完全了解北京化工大学有关保留和使用学位论文的规定，即：研究生在校攻读学位期间论文工作的知识产权单位属北京化工大学。学校有权保留并向国家有关部门或机构

2、送交论文的复印件和磁盘，允许学位论文被查阅和借阅；学校可以公布学位论文的全部或部分内容，可以允许采用影印、缩印或其它复制手段保存、汇编学位论文。口论文暂不公开(或保密)注释：本学位论文属于暂不公开(或保密)范围，在一年解密后适用本授权书。嘲乍暂不公开(或保密)论文注释：本学位论文不属于暂不公开(或保密)范围，适用本授权书。日期：纠红厂弓。学位论文数据集舢㈣㈣㈣川㈣㈣籼lY2628585中图分类号TP39学科分类号520．20论文编号1001020140835密级公开学位授予单位代码10010学位授予单位名称北京化工大学作

3、者姓名陈龙烨学号2011200835获学位专业名称计算机应用技术获学位专业代码081203人工智能理论与应课题来源自选项目研究方向用技术论文题目基于信息熵与粒子群优化的极限学习机研究及应用关键词极限学习机、信息熵、粒子群算法、建模论文答辩日期2014．05．26幸论文类型应用研究学位论文评阅及答辩委员会情况姓名职称工作单位学科专长指导教师耿志强教授北京化工大学计算机应用评阕人1易军凯教授北京化工大学信息安全，优化调度评阅人2盛浩副教授北京航空航天大学计算机应用评阋人3评阅人4评阅人5答辩委员会主席易军凯教授北京化工大学信

4、息安全，优化调度答辩委员1李宏光教授北京化工大学智能控制答辩委员2许南山副教授北京化工大学网络数据库答辩委员3肖亮副教授北京化工大学核磁共振，医学成像答辩委员4聂伟副教授北京化工大学移动通信，信号处理答辩委员5二．中图分类号在((中国图书资料分类法》查询。三．学科分类号在中华人民共和国国家标准(GB／T13745。9)《学科分类与代码》中查询。四．论文编号由单位代码和年份及学号的后四位组成。摘要基于信息熵与粒子群优化的极限学习机研究及应用神经网络(NeuralNetwork)是一种黑箱模型，在不需要知道黑箱里的结构的前提

5、下，对网络里节点之间的关系进行调整，就能够取得数据处理的效果，因而被广泛的应用于各个领域建模之中。极限学习机在2004年被提出，由于其极大地提升了神经网络的训练速率，并且泛化性能也较好，所以近些年来对于极限学习机的研究也倍受研究人员们关注。如果直接利用极限学习机对较高维数据集进行建模，由于数据维数较高以及存在离散数据点，将导致模型复杂以及泛化精度较差等问题，所以本文提出了一种基于互信息与粒子群算法的极限学习机。通过实验仿真以及实际化工领域的应用，验证了所提方法的有效性和可行性。其中本文主要的研究内容如下：1．首先是对神经

6、网络、信息熵和粒子群算法的发展进行了概述，然后提出了一种利用信息熵来对极限学习机的输入进行优化的方法。通过互信息来筛选输入变量，去除了无关以及弱相关变量，然后利用熵权法来对输入变量的权重进行优化，避免了离散数据点对于网络训练精度的影响。同时利用UCI数据集对该方法进行了验证，证明了该方法的可行性。2．提出了一种利用序贯二次规划法与Tent混沌映射的优化粒子群算法。利用序贯二次规划法在局部拥有高效的寻优性能，以及Tent混沌映射有着较好的遍历性，来提升PSO的寻优性能该算法不仅在局部或者是全局都拥有着较好的寻优能力。在群体

7、发生早熟现象时，利用Tent映射北京化工大学硕士学位论文来避免局部最优的问题。最后利用常见的Benchmark函数对算法的可行性进行了验证。3．利用改进的粒子群算法来对极限学习机进行优化，由于极限学习机输入层到隐含层的权值是由随机得到的，采用粒子群算法来对输入权值进行寻优，提高了训练和泛化精度。并将以上方法应用于PTA化工过程建模，不仅降低了数据维度，而且提升了建模精度，从而验证了方法的可行性，对实际的化工过程建模有着一定的指导性。关键词：极限学习机、信息熵、粒子群算法、建模RESEARCHANDAPPLICATIoNS

8、oFINFoRMATIoNENTRoPYANDPARTICLESWARMoPTIMIZATIoNBASEDEXTREMELEARNINGⅣ【ACmNEABSTRACTNeuralnetworksareablack-boxmodel．Thereisnoneedtoknowthepremisestructureofthe