支持向量机核函数及关键参数选择研究

《支持向量机核函数及关键参数选择研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、硕士学位论文支持向量机核函数及关键参数选择研究RESEARCHONSELECTIONOFKERNELFUNCTIONSANDKEYPARAMETERSINSUPPORTVECTORMACHINE尹嘉鹏               哈尔滨工业大学2016年6月国内图书分类号：TP277学校代码：10213国际图书分类号：621.3密级：公开工学硕士学位论文支持向量机核函数及关键参数选择研究硕士研究生：尹嘉鹏导师：尹珅教授申请学位：工学硕士学科：控制科学与工程所在单位：航天学院答辩日期：2016年6月授予学位单位：哈尔滨工业大学ClassifiedIndex:TP277U.D.C:

2、621.3DissertationfortheMasterDegreeinEngineeringRESEARCHONSELECTIONOFKERNELFUNCTIONSANDKEYPARAMETERSINSUPPORTVECTORMACHINECandidate：YinJiapengSupervisor：Prof.YinShenAcademicDegreeAppliedfor：MasterofEngineeringSpeciality：ControlScienceandEngineeringAffiliation：SchoolofAstronauticsDateofDefenc

3、e：June,2016Degree-Conferring-Institution：HarbinInstituteofTechnology哈尔滨工业大学工学硕士学位论文摘要支持向量机是20世纪90年代发展起来的一个机器学习方法，以统计学习理论为根基，广泛地应用于模式识别、回归预测和密度估计等方面。作为该方法重要的组成部分，种类丰富的核函数的选用以及相关核函数参数的整定对其性能有着至关重要的影响，而此问题也引发了该领域许多学者的研究兴趣。本文首先介绍了支持向量机的理论，总结了相关的统计学习理论，分析了统计学习理论对支持向量机的优越性能所起的决定性作用。接着，本文介绍了核函数的相关理

4、论，并对径向基核、多项式核和Sigmoid核三种常用核函数的性质进行了总结和探究，为核函数的类型选择问题提供了理论参考。对于核函数及参数的选择问题，本文重点关注基于类可分性度量的方法，并提出了一种新的类可分性度量“期望平方距离比”（ESDR），对“期望平方距离比”的性质进行了详细的分析，并与另外两种常见的类可分性度量进行对比，从理论上显示出了它的优越性。考虑特定的数据分布，本文推导了高斯分布数据下选用径向基核函数时“期望平方距离比”的表达式，并据此分析了相应的支持向量机核函数参数选择问题。最后，引入实际生产生活中的数据集以及高斯数据集分别进行径向基核支持向量机分类仿真实验。实际

5、数据集上的实验结果表明，相比于其他类可分性判据，“期望平方距离比”能够更好地表征特定核函数及核参数下特征空间中两类数据样本的可分性，基于“期望平方距离比”可以选出更优的核参数，效率远高于传统的网格搜索方法。高斯数据上的实验结果表明，“期望平方距离比”可以用来研究特定数据分布下特定核函数的参数选择问题，具有很高的理论研究价值。本文所有实验结果充分表明，“期望平方距离比”是一种用于解决支持向量机核函数及关键参数选择问题的很好的方法。关键词：支持向量机；核函数；参数选择；类可分性-I-哈尔滨工业大学工学硕士学位论文AbstractBasedonStatisticalLearningT

6、heory,SupportVectorMachine(SVM)isanewmachinelearningmethoddevelopedinthe1990s,andhasbeenwidelyusedinthefieldofpatternrecognition,regressionestimationanddensityestimation.Asacrucialpartofthismethod,thechoiceamongawiderangeofkernelfunctionsandthetuningofrelatedkernelparametershaveabiginfluence

7、onthebehaviorofthemethod.Thisproblemhascertainlyattractedmanyscholars’researchinterestinthisfield.Atthestartofthisthesis,thetheoryofSupportVectorMachineisintroduced,andtherelatedStatisticalLearningTheoryissummarizedfollowedbytheanalysisofthedecisiv