多目标算法在多分类svm优化中的应用

《多目标算法在多分类svm优化中的应用》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、第2页武汉科技大学硕士学位论文入。最近大量实例和迹象表明EAs的机理最适合求解多目标优化，因为它们可在单轮模拟过程中找到多个Pareto最优解，通过逐代累积寻找具有某些特征的个体。甚至有的学者认为，在多目标优化领域EAs要优于其它盲目搜索方法⋯】。虽然这种提法与最优化领域中的“没有免费的午餐(nofreelunch)"定理【12】不太吻合，但迄今为止还没有找到其它方法比EAs更能有效地解决MOPs。多目标进化算法在国外的许多应用案例和掀起的研究热潮已成为事实。进化算法应用于多目标优化领域始于20世纪80年代中期。在1

2、991～1994年期间有几种MOEAs被提出来，后来这些方法及其变种在实际多目标优化问题中得到了成功的应用。近年来一些学者集中研究了基于进化算法的多目标搜索中某些专门问题，如Pareto最优前端的收敛性、小生境技术和精英策略。，代表成果有：Fonseca和Flemingt3】提出的基于排序的适应度赋值多目标遗传算法(MultipleObjectiveGeneticAlgorthm，MOGA)，Horn，Nafpliotis和Goldbergt4J提出的小生境Pareto遗传算法(tlleNichedParetoGen

3、eticAlgorithm，NPGA)，Srinivas和Debt5】提出的非劣解排序遗传算法(NondominatedSortingGeneticAlgorithm，NSGA)，Knowles和Comet61提出的Pareto解存档进化策略(theParetoArchivedEvolutionStrategy，PAES)，Zitzler和T11iele【7】提出的Pareto浓度进化算法(theStrengthParetoEvolutionaryAlgorithm，SPEA)，Zitzler，Laumanns和Th

4、iele[8】提出的改进Pareto浓度进化算法(SPEA2)，Deb，Pratap，Agarwal和Meyarivan[9】提出的改进非劣解排序遗传算法(NSGA．II)。1．3本文的主要工作本文首先对基于Pareto的多目标优化算法的思想以及进化算法进行全面的介绍，之后论述将GA算法应用到多目标优化问题中存在的不足之处，针对GA算法的不足之处提出用禁忌算法与GA算法相结合来弥补GA算法局部搜索能力差，容易陷入局部最优解的问题。用改进后的遗传禁忌算法应用在Pareto多目标优化算法上，提出了多目标遗传禁忌算法MOT

5、SGA(MultipleObjectiveAlgorithmbasedonGeneticAlgorithmandTabuSearchAlgorithm)。并用改进的多目标优化算法MOTSGA算法来解决多类SVM中核参数和惩罚函数的优化问题。通过实验表明，针对求解多类SVM中核参数和惩罚函数优化的问题，MOTSGA算法在搜索的精度上和搜索空间的覆盖方面都取得了较好的效果。1．4本文的结构安排本文分为六章，各章内容组织如下：第一章简要介绍了多目标优化的研究背景及意义、分析了国内外的研究现状，并介绍了本文的主要工作及结构安

6、排。第二章介绍了多目标优化的基本知识，包括多目标优化的数学描述、经典的多目标优化算法、多目标优化算法中存在的问题。第三章首先介绍了简单禁忌算法的基本原理和算法的基本流程；其次针对多目标武汉科技大学硕士学位论文第3页优化中Pareto集合的处理问题，将禁忌搜索算法引入到多目标遗传算法中来，对多目标禁忌算法进行改进，提出了一些改进策略；最后对本文提出的多目标遗传禁忌算法的具体步骤进行了阐述。第四章介绍了RBF核函数下的多类SVM中优化过程中参数选择的原理，以及应用多目标优化进行多类SVM参数优化的优势所在，同时论述如何应

7、用MOTSGA算法解决RBF核函数下多分类SVM算法参数优化问题。第五章分别根据GA算法、MOGA算法和MOTSGA算法分别进行多类SVM参数优化的实验，通过实验结果的比较，说明MOTSGA算法的优势所在。第六章总结了本文的创新点和不足之处，并对将来的工作做出了展望。第4页武汉科技大学硕士学位论文第二章多目标优化算法2．1多目标优化问题的数学描述定义lMOP：一般MOP(Multi．objectiveOptimizesProblem)由刀个决策变量参数、k个目标函数和m个约束条件组成，目标函数、约束条件与决策变量之间

8、是函数关系。最优化总目标如下：m舣imi趵Y=f(x)=(Z(工)，^(工)，．．．，^(x))(2．1)sub曩ecttoP(工)=(PI(工)，e2(z)，⋯，e。(工))≤0，其中，x=“，而⋯．^)∈置J，=∽，咒⋯．以)∈Z这里x表示决策向量，Y表示目标向量，X表示决策向量z形成的决策空间，y表示目标向量J，形成的目标空间，约束条件e