基于多变量信息瓶颈的多特征聚类算法.pdf

《基于多变量信息瓶颈的多特征聚类算法.pdf》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、AthesissubmittedtoZhengzhouUniversityforthedegreeofMasterMulti—featureClusteringbasedonMultivariateInformationBottleneckMethodByXiaoqiangYanSupervisor：Prof．YangdongYeComputerSoftwareandTheorySchoolofInformationEngineeringMay2014原创性声明本人郑重声明：所呈交的学位论文，是本人在导师的指导下，独立进行

2、研究所取得的成果。除文中已经注明引用的内容外，本论文不包含任何其他个人或集体己经发表或撰写过的科研成果。对本文的研究作出重要贡献的个人和集体，均已在文中以明确方式标明。本声明的法律责任由本人承担。学位论文作者：c司小弓虽魄力，忙f月石日学位论文使用授权声明本人在导师指导下完成的论文及相关的职务作品，知识产权归属郑州大学。根据郑州大学有关保留、使用学位论文的规定，同意学校保留或向国家有关部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅；本人授权郑州大学可以将本学位论文的全部或部分编入有关数据库进行检索，可以采用影印、

3、缩印或者其他复制手段保存论文和汇编本学位论文。本人离校后发表、使用学位论文或与该学位论文直接相关的学术论文或成果时，第一署名单位仍然为郑州大学。保密论文在解密后应遵守此规定。⋯一：闭小独日期：劢烨年f月以日摘要多变量信息瓶颈(MultivariateInformationBottleneck)方法是基于信息论的一种多元数据处理方法，此方法能够处理数据压缩与信息保存之问的平衡，有效地发现数据中蕴含的多种潜在模式，解决复杂优化问题中算法精度与效率之间的平衡问题。然而，多变量信息瓶颈方法在做数据分析时仅考虑数据的一种相关变量，忽

4、略其它多种重要的特征信息，使抽取得到的数据模式中包含单独特征带来的偏见。针对上述问题，本文在多变量信息瓶颈方法的基础上提出了一种同时处理数据多种特征的聚类算法：mf-MIB算法。该算法采用提取．合并策略，在对数据进行聚类分析的过程中能够同时考虑多种特征信息，为多种特征处理问题提供了一种有效的解决方法。同时，mf-M1B算法能够学习特征与对应的视觉单词之间的语义相关性，缓解语义鸿沟问题对聚类算法的限制。在图像数据集和视频数据集上的实验结果表明：mf-MIB算法能够有效处理数据中蕴含的多种特征信息，算法性能优于原lB算法；相比

5、于k-means算法、NCuts算法和PLSA算法，mf-M1B算法得到更高的聚类精度和标准化互信息，优势明显；此外，mf-MIB算法能够有限迭代次数内有效地收敛到一个局部最优解。本文提出的mf-MIB算法可应用于聚类分析、模式识别、信息检索等领域，并且实验结果表明其能得到高质量的聚类结果。此外，本文提出的mf-MIB算法比原IB算法适用更多种类的数据集，为IB方法提供了一个新的研究思路。关键词：多变量信息瓶颈，多特征，互信息，聚类分析AbstractMultivariateInformationBottleneck(MI

6、B)isamultipledataanalysismethodbasedoninformationtheory,whichcandetectavarietyofpotentialpatternsandfindasolutiontocomplexproblembybalancingtherelationshipbetweendatacompressionandinformationpreservation．However，MIBmethodfbcusesontheextractionofmultiplecompression

7、patternsandconsidersonlyonerelevantvariable．whichignoresdiversecharacteristicinformationcontainedintheSOUrcedata．Sothedataanalysisresultswillembodyprejudiceproducedbyasinglefeature．Inresponsetotheaboveproblems，thispaperproposesanovelandefrectivemultiplefeaturesclu

8、steringalgorithmbasedonmultivariateIBmethod：mfMIBalgorithm，whichcanprocessmultiplefeaturesbyadopting‘draw．and．merge，strategy．mf-MIBmethodcantakemultiple