《面向农作物叶片病害鲁棒性识别的深度卷积神经网络研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。
命０料苓在尤大彥ＵｎｉｖｅｒｓｉｔｏｆＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｏｆＣｈｉｎａｙｇｙ博士学位论文？面向表作物叫＇片病毒鲁棒性识別目的深皮卷积神经网洛研堯＃伟作者姓名．兰控觸学与工程学科专业导师姓名＾二〇一八年十刀完成？时间 博士学位论文戀面向农作物叶片病害魯棒性识别的深度卷积神经网络研究作者姓名：曾伟辉学科专业：控制科学与工程导师姓名：李淼研宄员一完成时间：二〇八年十月 ＵｎｌＣｈｉｉｖｅｒｓｉｔｙｏｆＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｏｇｙｏｆｎａ’Ａｄｉｓｓｅｒｔａｔｉｏｎｆｏｒｄｏｃｔｏｒｓｄｅｇｒｅｅ藝ＲｅｓｅａｒｃｈｏｎＲｏｂｕｓｔＲｅｃｏｎｉｔｉｏｎｏｆｇＣｒｏｐＬｅａｆＤｉｓｅａｓｅｓｂａｓｅｄｏｎＤｅｅｐＣｏｎｖｏｌｕｔｉｏｎＮｅｕｒａｌＮｅｔｗｏｒｋＡｕｔｈｏｒ：ＺｅｎＷｅｉｈｕｉｇＳｅｃｉａｌｉｔ：ＣｏｎｔｒｏｌＳｃｉｅｎｃｅａｎｄＥｎｉｎｅｅｒｉｎｐｙｇｇＳｕｐｅｒｖｉｓｏｒ：Ｐｒｏｆ．ＬｉＭｉａｏＦｉｎｉｓｈｅｄｔｉｍｅ：Ｏｃｔｏｂｅｒ２０１８， 中国科学技术大学学位论文原创性声明本人声明所呈交的学位论文，是本人在导师指导下进行研究工作所取得的成果，论文中不包含任何他人已经发表或撰。除已特别加以标注和致谢的地方外写过的研宄成果一。与我同工作的同志对本研究所做的贡献均己在论文中作了明确的说明。作者签名：脅件释签字日期：中国科学技术大学学位论文授权使用声明一作为申请学位的条件之，学位论文著作权拥有者授权中国科学技术大学拥有学位论文的部分使用权，即：学校有权按有关规定向国家有关部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅，可以将学位论文编入《中国学位论文全文数据库》等有关数据库进行检索，可以采用影印、缩印或扫描等复制手段保存一、汇编学位论文。本人提交的电子文档的内容和纸质论文的内容相致。保密的学位论文在解密后也遵守此规定。０公开□保密（年）：作者签名：导师签名签字闩期：签字日期： 摘要摘要农作物病害识别对于农作物病害的准确诊断和科学防治具有极其重要的作用，也是农产品产量和品质的重要保障，民以。我国是农业大国食为天。农业是人类的衣食之源，、生存之本是国民经济建设和发展的基石。农作物安全生产是提高农业经济效率，促进农业可持续发展的必要条件，更是构建和谐社会，建设社会主义新农村的重要保障，。随着生活水平的日渐提高人们对日常农作物品，质的要求也越来越高，农作物病害是限制农业生产的重要影响因素其影响范围广，、危害大等特点将直接影响农作物的产量和品质。有鉴于此，本论文旨在研宄面向实际环境下的农作物病害图像的鲁棒性识Ｉ另，，促进以人工智能技术Ｊ以有效改善因缺乏专业知识无法准确诊断病害的限制为载体的农业专家知识和经验的推广普及，从而显著提高农作物病害的诊断和防治效果。本论文的主要创新点包括：一１、针对实际环境下农作物病害识别精度不高的问题，提出了种高阶残差卷－ｌＮｅｔｗｏｒｋ积神经网络方法（ＨｉｈＯｒｄｅｒＲｅｓｉｄｕａｌＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａＨＯＲｅｓＮｅｔ），ｇ，用来实现农作物病害的快速准确识别。高阶残差网络可以为病害表观提供丰富细一，致的特征表达，能够有效提高模型的病害识别精度同时还具有定的抗干扰能一－力，定程度上能够提高系统的鲁棒性。通过对自然环境下采集的ＡＥＳＣＤ９２１４数据集进行精度和鲁棒性测试实验，结果表明，基于高阶残差的深度卷积神经网络能实现对农作物病害的准确而鲁棒的识别。一２、针对实际环境下农作物病害识别鲁棒性弱的问题，提出了种高阶残差－－ｉｈｒｄｅｒｉｌｉ和参数共享反馈的卷积神经网络模型（ＨｇＯＲｅｓｄｕａａｎｄＰａｒａｍｅｔｅｒＳｈａｒｎｇＦＣｏｎｖｏｉＨＯＲＰｅｅｄｂａｃｋｌｕｔｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋＳＦ），，以实现实际环境下农作物病害的高精度和强鲁棒性的识别。该方法中高阶残差子网络为病害表观提供丰富细致的特征表达，能够有效提高模型的病害识别精度；参数共享反馈子网络使得原深层特征中的背景噪声进一步被抑制，能够有效提高模型的鲁棒性。通过和现ＭＫ－Ｄ２上对比结果显示提出的ＨＯＲＰＳＦ方法在兼顾识别有方法在公有数据集，－，表现更为优异ＳＣＤ９２１４数据集上的准确率、识别鲁棒性方面。同时通过对ＡＥ测试结果表明，ＨＯＲＰＳＦ方法能实现实际环境下农作物病害的高精度和强鲁棒性的识别。３、针对农作物病害图像背景复杂、病斑区域小、病斑与背景对比度小从而容易造成两者混靖等特点而严重影响病害识别效果，导致识别鲁棒性不高的问题，一Ｓｅ－Ａｔｅｎ提出了种基于自注意力的卷积神经网络（ｌｆｔｉｏｎＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋ，ＳＡＣＮＮ），以实现农作物病害病斑有效特征的提取以及农作物病害识Ｉ 摘要别的高精度。ＳＡＣＮＮ方法包括基本网络和自注意力网络。其中基本网络主要用，自注意力网络主要用于获取病斑区域的局部特征于提取图像全局特征。实验结－ＣＤ－果表明１４Ｄ２上的识别，ＳＡＣＮＮ方法在数据集ＡＥＳ９２和ＭＫ准确率分别达９５３ＭＫ－１％９７０％，Ｄ２上的识别准确到了．和．其中在率优于现有的方法１．９％，这表明引入自注意力机制的卷积神经网络能够重点关注图像重要区域，从而有效提－高识别精度。在ＡＥＳＣＤ９２１４测试集中添加不同等级的噪声测试显示了ＳＡＣＮＮ，方法对于噪声的抗干扰能力说明了ＳＡＣＮＮ方法具有强鲁棒性。此外，本论文还探讨了自注意力网络在深度网络中的位置选择、通道大小设置、网络数目等方一面对识别性能的影响，以进步清楚展示自注意力网络工作机制，希望能为其他研宄者提供启发。，综上所述基于本论文提出的以上研宄工作，实现了对实际环境下农作物病害图像识别的高精度和强鲁棒性，为农作物准确、鲁棒的诊断和防治提供技术支持，具有非常重要的理论研宄意义和现实应用价值。关键词：农作物病害；；卷；图像识别；鲁棒性高阶残差积神经网络ＩＩ ＡｂｓｔｒａｃｔＡＢＳＴＲＡＣＴｄ？Ｃｒｏｐｉｓｅａｓｅｒｅｃｏｎｉｔｉｏｎｌａｓａｎｉｍｏｒｔａｎｔｒｏｌｅｉｎｔｈｅａｃｃｕｒａｔｅｄｉａｎｏｓｉｓａｎｄｓｃｉｇｐｙｐｇｅｎｔｉｆｌｆｄｉｉｓｌｉｍｉｌｄｉｃｃｏｎｔｒｏｏｃｒｏｓｅａｓｅｓａｎｄｉｔａｓｏａｎｏｒｔａｎｔｕａｒａｎｔｅｅｆｏｒｔｈｅｅａｎｄｐ，ｐｇｙｕａｌｉｔｏｆａｒｉｃｕｌｔｕｒａｌｒｏｄｕｃｔｓｈｉｎａｉｂｉｉｌＴｈｉｌｌｑｙｇｐ．Ｃｓａｇａｒｃｕｔｕｒａｌｃｏｕｎｔｒ．ｅａｒｃｕｔｕｒａｇｙｇｐｒｏｄｕｃｔｓａｒｅｉｍｐｏｒｔａｎｔｆｏｒｅｏｌｅａｎｄｃｏｕｎｔｒ．Ａｒｉｃｕｌｔｕｒｅｉｓｎｏｔｏｎｌｔｈｅｆｏｕｎｄａｔｉｏｎｐｐｙｇｙｏｆｈｕｍａｎｆｏｏｄａｎｄｌｉｖｉｎｂｕｔａｌｓｏｔｈｅｃｏｒｎｅｒｓｔｏｎｅｏｆｎａｔｉｏｎａｌｅｃｏｎｏｍｉｃｃｏｎｓｔｒｕｃｔｉｏｎｇ，ａｎｄｄｅｖｅｌｏｐｍｅｎｔ．Ｔｈｅｓａｆｅｒｏｄｕｃｔｉｏｎｏｆｃｒｏｓｉｓａｎｅｃｅｓｓａｒｃｏｎｄｉｔｉｏｎｔｏｉｍｒｏｖｅｐｐｙｐ？ａｇｒｉｃｕｌｔｕｒａｌｅｃｏｎｏｍｉｃｅｆｆｉｃｉｅｎｃｙａｎｄｔｏｒｏｍｏｔｅｔｈｅｓｕｓｔａｉｎａｂｌｅｄｅｖｅｌｏｍｅｎｔｏｆａｒｉｐｐｇｃｕｌｔｕｒｅＩｉｌｉｂｉｌｄｈｉｉｔｔｒｔｉｎ．ｔｓａｓｏａｎｍｐｏｒｔａｎｔｕａｒａｎｔｅｅｔｏｕａａｒｍｏｎｏｕｓｓｏｃｅａｎｄｃｏｎｓｕｃｇｙｇ？ａｉｌｉｔｔｒｉｄｅＷｉｈｈｅｉｍｔｏｆｌｉｖｉｎｔｅｏｌｅａｒｅｓｅｅｋｎｅｗｓｏｃａｓｃｏｕｎｓ．ｔｔｒｏｖｅｍｅｎｇｓａｎｄａｒｄｓｙｐ，ｐｐｉｎｈｉｈｕａｌｉｔｏｆａｒｉｃｕｌｔｕｒａｌｒｏｄｕｃｔｓＣｒｏｄｉｓｅａｓｅｓｗｉｔｈｈｉｈｉｍａｃｔａｎｄｌａｒｅｈａｒｍｙ．ｇｇｑｇｐｐｇｐｇｉｍｏｒｔａｎｔｌｌｉｍｉｔｔｈｅｄｅｖｅｌｏｍｅｎｔｏｆａｒｉｃｕｌｔｕｒａｌｉｎｄｕｓｔｒａｎｄｔｈｕｓｄｉｒｅｃｔｌａｆｅｃｔｔｈｅｐｙｐｇｙ，ｙｉｅｌｄａｎｄｕａｌｉｔｙｏｆｃｒｏｓ．ｙｑｐＴｈｅｒｅｆｏｒｅ，ｔｈｅｇｏａｌｏｆｔｈｉｓｔｈｅｓｉｓｉｓｔｏｓｔｕｄｙｔｈｅｒｏｂｕｓｔｎｅｓｓｒｅｃｏｇｎｉｔｉｏｎｏｆｃｒｏｐ？ｄｉｉｓｅａｓｅｓｉｎｒｅａｌｅｎｖｉｒｏｎｍｅｎｔｓｔｏｅｆｆｅｃｔｉｖｅｌｏｖｅｒｃｏｍｅｔｈｅｌｉｍｉｔａｔｉｏｎｏｆｉｎａｃｃｕｒａｔｅｄ，ｙｍｏ？ａｎｏｓｉｓｏｆｃｒｏｄｉｓｅａｓｅｓｄｕｅｔｏｔｈｅｌａｃｋｏｆｒｏｆｅｓｓｉｏｎａｌｋｎｏｗｌｅｄｅｔｏｒｏｔｅｔｈｅｏｇｐ，ｐｐｐｇｐｕｌａｒｉｚａｔｉｏｎｏｆｔｈｅｋｎｏｗｌｅｄｅａｎｄｅｘｐｅｒｉｅｎｃｅｏｆａｒｉｃｕｌｔｕｒａｌｅｅｒｔｓｂａｓｅｄｏｎａｒｔｉｆｉｃｉａｌｇｇｘｐｉｎｔｅｌｌｉｅｎｃｅｔｅｃｈｎｏｌｏａｎｄｔｓｉｉｆｃａｎｔｌｉｍｒｏｖｅｔｈｅｄｉａｎｏｓｉｓａｎｄｃｏｎｔｒｏｌｅｆｆｅｃｔｏｆｇｇｙ，ｏｇｎｉｙｐｇｃｒｏｄｉｓｅａｓｅｓ．Ｔｈｅｍａｎｎｎｏｖａｔｉｏｎｓｏｆｔｈｉｓｔｈｅｓｓａｒｅ：ｐｉｉｉｒｗｅ？ｒｅｃｒ１．Ｔｏｄｅａｌｗｉｔｈｔｈｅｒｅａｌｅｎｖｉｒｏｎｍｅｎｔｓｈａｖｉｎｇｐｏｏｏｎｉｔｉｏｎａｃｃｕｒａｃｙ，ｐｏｇ？－ｒｋｆｏｐｏｓｅａｈｉｇｈｏｒｄｅｒｒｅｓｉｄｕａｌｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏ（ＨＯＲｅｓＮｅｔ）ｒａｃｃｕｒａｔｅｒｅｃ－ｏｎ．ｌｉｆｉｈｇｉｚｉｎｇｃｒｏｄｉｓｅａｓｅｓＴｈｅＨＯＲｅｓＮｅｔｉｓｃａａｂｌｅｏｆｅｘｏｔｉｎｌｏｗｌｅｖｅｌｅａｔｕｒｅｓｗｔｐｐｐｇ－？ｔｌｉｎｒｏｂｅｃｄｅｔａｉｌｓａｎｄｈｉｈｌｅｖｅｌｆｅａｔｕｒｅｓｗｉｔｈａｂｓｔｒａｃｔｒｅｐｒｅｓｅｎｔａｔｉｏｎｓｉｍｕｌｔａｎｅｏｕｓｙｏｊｇｄｅ－ｓｒｔｏｉｍｒｏｖｅｔｈｅａｎｔｉｉｎｔｅｒｆｅｒｅｎｃｅａｂｉｌｉｔｔｈｕｓｉｍｒｏｖｉｎｔｈｅｒｅｃｏｎｉｔｉｏｎｒｏｂｕｓｔｎｅｓｐｙ，ｐｇｇｏｆ－ｄｔｈｅａｐｐｒｏａｃｈ．ＥｘｔｅｎｓｉｖｅｅｘｐｅｒｉｍｅｎｔｒｅｓｕｌｔｓｏｎｔｈｅＡＥＳＣＤ９２１４ｄａｔａｓｅｔｃｏｌｌｅｃｔｅｄｈａｃｈｉｅｖｉｈｅｉｎｎａｔｕｒａｌｅｎｖｉｒｏｎｍｅｎｔｅｍｏｎｓｔｒａｔｅｔｈａｔｔｈｅＨＯＲｅｓＮｅｔａｐｐｒｏａｃｅｓｔｈｅｈｇｓｔａｃｃｕｒａｃｙｏｎｔｈｅｄａｔａｓｅｔｓｔｅｓｔｅｄ．？２．Ｔｏａｄｄｒｅｓｓｔｈｅｒｏｂｌｅｍｏｆｗｅａｋｒｏｂｕｓｔｎｅｓｓｏｆｃｒｏｄｉｓｅａｓｅｒｅｃｏｎｉｔｉｏｎｉｎｒａｃｐｐｇｐ－－ｔｉｉｈｌｈａｆｅｅｄｂａｃｋｉｃａｌｅｎｖｒｏｎｍｅｎｔｗｅｒｏｏｓｅａｈｏｒｄｅｒｒｅｓｉｄｕａａｎｄａｒａｍｅｔｅｒｓｒｉｎ，ｐｐｇｐｇ？ｃｏｎｖｏｌｉｈｉｌｕｔｉｏｎａｌｎｅｕｒａｎｅｔｗｏｒｋＨＯＲＰＳＦｆｏｒｈａｃｃｕｒａｔｅａｎｄｓｔｒｏｎｒｏｂｕｓｔｃｒｏｄｓ（）ｇｇｐｅａｓｅｄｉｒｅｃｏｇｎｉｔｉｏｎｉｎｒｅａｌｓｃｅｎｅｓ．ＴｈｅｅｆｆｅｃｔｏｆＨＯＲＰＳＦｆｏｒｔｈｅｒｏｂｕｓｔｎｅｓｓｏｆｃｒｏｐｓｅａｓｅ－ｒｅｃｏｎｉｉｉｄｈｅｌｂｎｅｉｂｌｅｄｅｉｇｉｔｏｎｓｄｓｃｕｓｓｅ．Ｔｈｉｇｈｏｒｄｅｒｒｅｓｉｄｕａｓｕｔｗｏｒｋｓａｔｏｒｏｖｉｒｃｈａｎｄｐｄｅｔａｉｌｒｅｒｅｓｅｎｔａｔｉｏｎｓｆｏｒｃｒｏｄｅｓｅａｓｅｒｅｉｏｎｓｔｈｕｓｉｍｒｏｖｉｎｔｈｅｒｅｃｏｎｉｔｉｏｎａｃｃｕｒａｃｐｐｇ，ｐｇｇｙＩＩＩ Ａｂｓｔｒａｃｔｏｆ－ｃｒｏｐｄｉｓｅａｓｅ．Ｔｈｅａｒａｍｅｔｅｒｓｈａｒｉｎｆｅｅｄｂａｃｋｓｕｂｎｅｔｗｏｒｋｃａｎｅｆｆｅｃｔｉｖｅｌｄｅｒｅｓｓｐｇｙｐｔｈｅｂａｃｋｇｒｏｕｎｄｎｏｉｓｅｓａｎｄｅｎｈａｎｃｅｔｈｅｒｏｂｕｓｔｎｅｓｓｏｆｍｏｄｅｌ．Ｅｘｔｅｎｓｉｖｅｅｘｐｅｒｉｍｅｎｔ－？ｒｅｓｕｌｔｓｌｉＭｄａｈａｈｅＳＦｏｎｕｂｃＫＤ２ｔａｓｅｔｄｅｍｏｎｓｔｒａｔｅｔｔｔｒｏｏｓｅｄＨＯＲＰａｒｏａｃｈｓｉｐｐｐｐｇｐｎｉｆｉｃａｎｔｌｙｏｕｔｐｅｒｆｏｒｍｓｏｔｈｅｒｃｏｍｐｅｔｉｎｇｍｅｔｈｏｄｓｉｎｔｅｎｎｓｏｆｒｅｃｏｇｎｉｔｉｏｎａｃｃｕｒａｃｙａｎｄｔ－ｒｏｂｕｓｎｅｓｓｅｓｅｃｉａｌｌｄｅｍｏｎｓｔｒａｔｉｎｓｕｅｒｉｏｒｅｒｆｏｒｍａｎｃｅｏｎｔｈｅＡＥＳＣＤ９２１４ｄａｔａｓｅｔ，ｐｙｇｐｐｗｈｅｎｄｅａｌｉｎｇｗｉｔｈｔｈｅｒｅａｌｅｎｖｉｒｏｎｍｅｎｔｓｅｘａｍｌｅｓｏｆｃｒｏｄｉｓｅａｓｅｒｅｃｏｎｉｔｉｏｎ．ｐｐｇ３．Ｔｈｅｃｈａｒａｃｔｅｒｔｅｃｏｍｌｔｉｓｉｃｓｏｆｔｈｅｘｂａｃｋｒｏｕｎｄｉｎｃｒｏｄｉｓｅａｓｅｉｍａｅｈｅｓｍａｌｌｐｇｐｇ，ｄｉｓｅａｓｅａｒｅａ，ａｎｄｔｈｅｓｍａｌｌｃｏｎｔｒａｓｔｂｅｔｗｅｅｎｄｉｓｅａｓｅｒｅｇｉｏｎａｎｄｂａｃｋｇｒｏｕｎｄｔｈａｔｅａｓｉｌｙ？ｃａｕｓｅｓｃｏｎｆｕｓｉｏｎｂｅｔｗｅｅｎｔｈｅｍｓｅｒｉｏｕｓｌａｆｆｅｃｔｔｈｅｒｅｃｏｎｉｔｉｏｎｒｏｂｕｓｔｎｅｓｓａｎｄａｃｃｕ，ｙｇ－ｒａｃ．ＴｏａｄｄｒｅｓｓｔｈｉｓｉｓｓｕｅｗｅｒｏｏｓｅａＳｅＡｔｔｅｎｔｉｏｎＣｏｎｖｏｌｕｔｌＮｅｕａｌＮｅｔｗｏｙｌｆｉｏｎａｒｒｋ，ｐｐ（ＳＡＣＮＮ）ｔｈａｔｉｓｕｓｅｄｔｏｅｘｔｒａｃｔｖａｌｉｄａｔｅｆｅａｔｕｒｅｓｏｆｃｒｏｐｄｉｓｅａｓｅｓｐｏｔｓａｎｄｔｏｉｄｅｎｔｉｆｙ－ｃｒｏｄｉｓｅａｓｅｓ．ＴｈｅＳＡＣＮＮｍｅｔｈｏｄｉｎｃｌｕｄｅｓｂａｓｉｃｎｅｔｗｏｒｋａｎｄｓｅｉｐｌｆａｔｔｅｎｔｏｎｎｅｔｗｏｒｋ．Ｔｈｅ？ｂａｓｉｃｎｅｔｗｏｒｋｉｓｍａｉｎｌｙｕｓｅｄｔｏｅｘｔｒａｃｔｔｈｅｌｏｂａｌｆｅａｔｕｒｅｓｏｆｔｈｅｉｍａｇｅ，ａｎｄｔｈｅｓｅｌｆｇａｔｔｅｎｔｉｏｎｔｗｏｒｋｉｉｌｔｉｌｌｆｅａｆｈｅｌｅｉ．Ｅｉｎｅｓｍａｎｙｕｓｅｄｏｏｂｔａｎｔｈｅｏｃａｔｕｒｅｓｏｔｓｏｎａｒｅａｘｔｅｎｓｖｅ－ｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｅｒｅｃｏｇｎｉｔｉｏｎａｃｃｕｒａｃｏｆＳＡＣＮＮｍｅｔｈｏｄｏｎＡＥＳｙｄ－ＣＤ９２１４ａｎＭＫＤ２ｉｓ９５．３１％ａｎｄ９７．０％ｒｅｓｅｃｔｉｖｅｌ．Ｔｈｅｒｅｃｏｎｉｔｉｏｎａｃｃｕｒａｃ，ｐｙｇｙ－－－－ｏｆＳＡＣＮＮｍｅｔｈｏｄｏｎＭＫＤ２ｉｓｂｅｔｔｅｒｔｈａｎｓｔａｔｅｏｆｔｈｅａｒｔｍｅｔｈｏｄｓｂ１．９％ｗｈｉｃｈｙ，－ｉｍｐｌｉｅｓｔｈａｔｔｈｅｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｗｉｔｈｓｅｌｆａｔｔｅｎｔｉｏｎｍｅｃｈａｎｉｓｍｃａｎｆｏｃｕｓｉｉｍａｉｏｎｔｈｅｍｏｒｔａｎｔａｒｅａｓｏｆｔｈｅｅａｎｄｔｈｕｓｃａｎｍｒｏｖｅｔｈｅｒｅｃｏｎｉｔｉｏｎａｃｃｕ．ｐｇ，ｐｇｒａｃｙＡｄｄ－－ｉｎｄｉｆｆｅｒｅｎｔｌｅｖｅｌｓｏｆｎｏｉｓｅｔｏＡＥＳＣＤ９２４ｈｏｗｈｅｉｉｇ１ｔｅｓｔｓｅｔｓｓｔａｎｔｎｔｅｒｆｅｒｅｎｃｅａｂｉｌｉｔａｎｄｔｈｅｓｔｒｏｎｒｏｂｕｓｔｎｅｓｓｏｆＳＡＣＮＮｍｅｔｈｏｄｆｏｒｎｏｉｓｅ．Ｉｎａｄｄｔｉｏｎｗｅｉｓｃｕｓｓｙｇｉ，ｄｔｈｅｉｎｆｌｕｅｎｃｅｏｆｔｈｅｌｏｃａｔｉｏｎｓｅｌｅｃｔｉｏｎｃｈａｎｎｅｌｓｉｚｅｓｅｔｔｉｎｎｅｔｗｏｋｎｕｍｂｅｄｏｔｈ，ｇ，ｒｒａｎｅｒ－？ａｓｅｃｔｓｏｆｔｈｅｓｅｌｆａｔｔｅｎｔｉｏｎｎｅｔｗｏｒｋｏｎｔｈｅｒｅｃｏｎｉｔｉｏｎｅｒｆｏｒｍａｎｃｅｉｎｏｒｄｅｒｔｏｆｕｒｐｇｐ，ｈｅ－ｔｒｃｌｅａｒｌｓｈｏｗｔｈｅｓｅｌｆａｔｔｅｎｔｉｏｎｎｅｔｗｏｒｋｗｏｒｋｉｎｍｅｃｈａｎｉｓｍｈｅｉｌｎｔｏｒｏｖｉｄｅｙｇ，ｐｇｐｉｎｓｆｏｐｉｒａｔｉｏｎｒｏｔｈｅｒｒｅｓｅａｒｃｈｅｒｓ．Ｉｎｓｕｍｍａｒｂａｓｅｄｏｎｔｈｅｒｏｏｓｅｄａｒｏａｃｈｅｓｍｅｎｔｉｏｎｅｄａｂｏｖｅｔｈｉｓｔｈｅｓｉｓａｃｈｉｅｖｅｓｙ，，ｐｐｐｐｈ？ｉｈａｃｃｕｒａｃａｎｄｒｏｂｕｓｔｎｅｓｓｏｆｉｅｒｅｃｏｎｉｔｉｏｎｆｏｒｃｒｏｄｉｓｅａｓｅｓｉｎｒｅａｌｅｎｖｇｙｍａｉｒｏｎｇｇｐａｎｄｒｏｖｉｄｅｓｔｅｃｈｎｍｅｎｔｓｉｃａｌｓｕｏｒｔｆｏｒａｃｃｕｒａｔｅａｎｄｒｏｂｕｓｔｄｉａｎｏｓｓａｎｄｃｏｎｏｌｏｆ，ｐｐｐｇｉｔｒｃｒｏｓｉｃｈｉｓｖｅｒｉｍｏｒｔａｎｔｆｏｒｔｈｅｏｒｅｔｉｃａｌｉｎｖｅｓｔｉａｔｉｏｎｓａｎｄｒａｃｔｉｃａｌａｌｉｃａｔｗｈｉｏｎｓ．ｐ，ｙｐｇｐｐｐＫｅｄ－Ｗｏｒｄｓ：ｃｒｏｉｓｅａｓｅｉｍａｅｒｅｃｏｎｉｔｉｏｎｒｏｂｕｓｔｎｅｓｓｈｉｈｏｄｅｒｅｓｉｄｕａｌＨＯＲｙｐ；ｇｇ；；ｇｒｒ（）；ｃｏｎｖｏｌｕｔｔｗｏｒｋｉｏｎａｌｎｅｕｒａｌｎｅＩＶ 目录目录第１１章绪论１１．１课题研宄背景和意义５１．２课题研宄内容７１．３论文组织结构第２章农作物病害识别国内外研宄现状９２１９．基于手工设计特征的农作物病害图像识别研宄２１２．２基于深度特征学习的农作物病害识别研究２１３．２．１深度学习理论２３．２．２多层感知机１２．２．３卷积神经网络１４２．２．４基于深度特征学习的农作物病害识别相关研宄１５２３１６．本章小结？？？第３章基于高阶残差的卷积神经网络的农作物病害识别研宄１７３１１７．引言３２．研究动机１９３３２０．基于高阶残差的深度卷积神经网络方法３．３．２０１网络整体架构３．３．２高阶残差网络２１３．３．３网络结构探讨２３３．３．４参数详情２５３．３．５方法实现细节２６３．４实验２７３．４．１实验数据２７３．４．２ＰｌａｎｔＶｉｌｌａｇｅ据集２８数３－．４．３ＡＥＳＣＤ９２１４据集２９数３．４．４与现有方法对比３０３．４．５抗干扰能力测试与对比分析３０３３６．５本章小结第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄３８３８４．１引言Ｖ 目录４．２研宄动机３９４３４０．基于高阶残差和参数共享反馈的深度卷积神经网络方法４．３．１网络整体结构图４１４．３．２高阶残差子网络４２４．３．３参数共享反馈子网络４２４．３．４网络参数４３４．３．５方法实现细节简介４４４．４实验４４４．４．１数据集介绍４４４．４．２对比方法介绍４５４．４．３与现有方法对比４６４．４．４方法的精度及鲁棒性测试４７４．５本章小结５２第５章基于自注意力的卷积神经网络农作物病害图像识别研究５４５１．引言５４５．２研究动机５５５３．基于自注意力的卷积神经网络农作物病害识别方法５７５．３．１网络整体架构５７－５８５．３．２ＢａｓｅＮｅｔ５．３．３自注意网络６０５．３．４卷６积神经网络中引入自注意力网络的详细讨论１５．３．５方法实现细节简介６３５．４实验６４５．４．１数据集介绍６４５．４．２对比方法介绍６４５．４．３与现有方法对比６５－５．４．４ＢａｓｅＮｅｔ与ＳＡＣＮＮ的识别准确率和鲁棒性对比６５５．４．５本论文三种方法识别准确率和鲁棒性对比６９５５ＳＡＣＮＮ．基于的农作物病害图像识别系统７２５．５．１模型训练的数据集准备７２－５．５．２ＡＥＳＣＤＲ应用系统架构设计７２－５．５．３ＡＥＳＣＤＲ应用系统界面展示７３－５．５．４ＡＥＳＣＤＲ应用系统测试７６ＶＩ 目录５７７．６本章小结第７８６章总结与展望６７８．１研宄工作总结６２７９．未来工作展望参考文献８０Ａ附录论文规范８８麵８９在读期间发表的学术论文与取得的研宄成果９１ＶＩＩ 第１章绪论第１章绪论１．１课题研究背景和意义农业是人类的衣食之源、生存之本。农业的发展状况直接影响着国民经济全局的发展，是国民经济建设和发展的基础。而农作物安全生产是构建和谐社会，建设社会主义新农村的基础，更是提高农业经济效益，促进农业可持续发展的必要条件，还。农作物病害不仅会对农作物安全生产造成影响会影响农产品产量和品质，严重时甚至影响社会、经济和生态的健康良好的发展。一农作物病害是我国的主要农业灾害之，也是造成世界范围内农业产业大量减产和经济损失的主要原因。监测农作物健康状况是控制疾病传播和实施有效管理的关键，其发。农作物病害具有种类多、影响大、并时常暴发成灾的特点１生范围和严重程度对我国国民经济［］，特别是会对农业生产造成重大损失。如果不能及时正确的科学用药，随意喷洒农药不但不能对病害进行有效防治，而且还会造成农产品农药残留超标，对农田土壤、地下水、大气环境等造成污染和破坏。这种影响和损失将是灾难性的。农作物病害的正确识别与诊断是农业生产安全的基础，是农产品产量和品质的重要保障，是人类社会、经济、生态环境良好发展的必要条件，是人类长治久安的基础保障，对和谐社会建设具有重要意义和价值，，亟待大家共同。因此农作物病害正确识别与诊断是迫在眉睫的关键问题重视和关注。传统农业农作物病害诊断主要依靠农民长期生产积累的经验知识，凭借肉眼观察，，、对比来判别病害类型。然而由于农民缺乏专业知识培训仅仅凭经验无法保障诊断的准确度和可靠性，。如果只是根据经验来诊断防治很可能无法正确的判断。如果依据错误判断来随意施药，不仅无法及时防治农作物病害，导致农作物产量受损，同时还会造成农作物农药残留超标，农田土壤、地下水和大气一环境的污染和破坏，，。另方面如果农民依靠农技人员诊断防控病害由于目前，各级农业专业技术人员数量有限，受工作时间和地点限制无法保障全方位，全天候的在田间地头进行技术支持和农业生产服务。这样将造成无法及时对农作物病害进行有效诊断，容易错失最佳的病害防治时机，使得病害不能及时防控，同样会造成农作物产量受损，最终导致农民经济损失。在传统农业生产中，农作一物病害诊断防治度依靠喷洒大量农药，却不能有效及时防治，陷入产量受损，环境受污染的恶性循环中。随着计算机软件技术的发展及普及，农业领域相关专家首先想到的是利用农业领域知识构建一个能够模拟农业专家对农作物病害诊断方面的农业问题进、。２０７０行启发式的推理判断，并给出决策方案的软件系统于是，自世纪年１ 第１章绪论一代末，国内外研宄者利用农业领域专家知识结合专家系统研发了系列的关于＿ｐ８］农作物病害诊断方面的农业专家系统。其中最早的应用于农业病虫害的专家系统是由美国的伊利诺斯大学在１９７８年开发研制的大豆病虫害诊断专家系统ｒａＰＬＡＮＴ／ｄＳ。农作物病害诊断专家系统对于早期农民进行农作物病害诊断发挥了重要作用。它促进了农业信息化进程的发展，至今仍然还在发挥着作用。然而，由于农作物病害专家系统需要专家参与提供知识支持，存在知识库更新缓慢，时效性差等问题，使得其在处理实际环境复杂多变的田间实际问题时实用性不是３【］太高，实际应用价值不大。如何客观、形象、直观的对实际生产中的农作物病害问题给出诊断结论，以指导农民对病害进行科学防治成为研宄人员思考的关键问题。随着图像处理技术的发展，以及近年来电子信息智能产品的飞速普及，使得使用农作物病害图像来对农作物病害进行识别诊断具有了可行性。近年来，随着电子信息智能产品的快速普及，越来越多的病害症状可以通过相机或者手机拍照及时快速的获取到，这为农作物病害图像识别研宄者提供了重要的图像资源。科技飞速发展，图像处理、模式识别、计算机视觉等技术在各个领域的快速发展与应用，为研宄者提供了重要的技术储备。研究者可以针对所获取到的病害图像进行相应的处理分析、模式匹配，借助计算机软件相关技术实现对农作物病害的自动识别与科学诊断一，个行之有效的解决方案防治从而为农作物病害识别提供了。…屬Ａ國画图ｉ．ｉ实际环境下农作物病害图像展示？：图中农作物各类病害图像病斑表现各异注，实际环境具有复杂背景，图像呈现多样化、复杂化等特点。依据发病部位分类，农作物病害可以被分为：种子病、根病、茎病、叶病和９一［】果病等。农作物叶部在感染病害时常会在叶片上呈现定形式的病斑。这些叶片上的病斑在颜色、纹理、形状等方面会表现出多样化、复杂化的特点。图ｉ．ｉ是２ 第１章绪论我们在实际环境下拍摄到的农作病害图片展示。从图１．１可以直观地看到以上所说的病害图像带有复杂背景，各类病害图像病斑表现各异，呈现多样化和复杂化等特点，造成了各种病害在主要危害部位的。由于导致农作物发病的病原体不同表现不同，这也使得我们可以将农作物叶部病害的诊断转化为对农作物叶部病害图像的分类识别问题。在农业领域常通过对叶部病害图像进行处理分析、特征提取和分类识别来对农作物叶部病害进行识别和诊断。本论文以农作物叶部病害图像作为研究对象，对叶部病害图像进行分析识别研宄，以确定农作物叶部病害类型，为农作物病害识别和防治提供技术支持和应用服务。根据叶部病害图像特征提取方式不同，本论文将目前农作物病害图像识别方法分为两类：基于手工设计特征（ｈａｎｄｃｒａｆｔｅｄｆｅａｔｕｒｅｓ）的农作物病害识别方法和基于深度特征学习的农作物病害识别方法。基于手工设计特征的识别方法是利用图像处理技术的方法，对图像进行预处理背景与病斑分割，获取到病斑之后，人为手工选择重要的特定病斑特征诸如９［］颜色、纹理和形状等特征进行提取，并通过分类器对提取到的特征进行分类，以达到识别的目的。基于手工设计特征的农作物病害识别方法主要分为图像预处理、病斑分割、特征提取和分类识别等步骤。目前文献研宄已表明此类方法己一经取得了较好的识别效果，但当其面向农作物病害识别实际应用时，还存在定的局限性：大量的背景分割，工作量大，、病斑分割等前处理工作繁琐耗费时间长人为手工选择的有限特征提取忽视了病害图像中的全局以及上下文信息，难；以完整的描述病害类别间的差异，容易导致图像语义鸿沟问题。这些局限性直接导致了该方法很难满足实际场景复杂背景和噪声条件下农作物病害识别的准确率和速度方面的需求。基于深度特征学习的识别方法常使用的是深度学习模型来提取表示特征，并直接进行端到端的学习分类。深度学习模型可以自动从像素级原始数据到抽象的语义概念逐层提取信息特征，这使得它在提取图像的全局特征和上下文信息方面具有优势，能够为农作物病害识别提供新思路。目前应用深度学习技术解决农１ＧＰ［］作物病害识别问题的研宄工作大部分都是基于公开数据集上比如ｌａｎｔＶｉＵａｇｅ—１１１５［］。ＰｌａｎｔＶｉｌａｅ数据集或者基于简单背景的农作物病害识别ｌｇ数据集上的图像１２．，１展示的实际环境如图．所示，均是背景简单且叶片完整清晰的图像。与图１下的图像相比，背景非常简单、叶片完整清晰、病斑部位更加明显。而实际环境下的图像背景复杂，、光照条件多样、病斑小且不明显、病斑与背景对比度不大两者很难区分。因此现有方法在面向实际场景复杂背景和噪声条件下的农作物病害识别时，识别准确率往往会大大降低，识别速度也会变慢，难以满足实际应用需求。综上所述，农作物病害的快速、鲁棒的识别是农作物病害诊断和防治、准确３ 第１章绪论ｍｍＵｋ▲ｍＫ葡萄黑腐蟎＋￥■果锈柄番茄靶斑病桃细保性斑＊祸图Ｕ２公开数据集ＰｌａｎｔＶｉｌｌａｇｅ图集农作物病害图片展示。注：本图中所展示的病害图片均来自公开图像集ＰｌａｎｔＶｉｌｌａｇｅ中。可以看到，该图一一集的叶片病害图像均是单独个完整的叶片，且背景是单纯色背景，没有其他因素影响，图像清晰、病斑明显。。的基础，也是农产品产量和品质的重要保证目前基于手工设计特征的农作物病害识别方法和己经取得了较好的识别效果，但其相比于基于深度特征学习的农一１６［】１作物病害识别方法，存在定的局限性：．手工设计特征的选取需要专业知，特征设计和提取工作耗时耗力２、识支撑；手工设计的特征存在很大的主观因素，无法全面客观的获取到全部的特征信息，很容易引起语义鸿沟问题。基于深度特征学习的农作物病害图像识别可以提取图像的全局特征和上下文信息，然而，目前该方法的研究工作主要关注于提高公共数据集或者简单背景的农作物病害图像识别精度，却往往忽略了识别速度和鲁棒性。当面向实际复杂背景和各种环境因素影响下的农作物病害识别问题时，由于噪声和环境因素的影响，导致在图像特征提取时容易将背景和病斑区域的特征一同提取。这样会严重影响病害识别效果，，使得识别精度往往与预期结果相差较大难以满足实际应用中识别准确率、识别速度和鲁棒性的要求。因此，为了实现实际环境下农作物叶部病害图像识别的高精度和强鲁棒性，在对农作物叶部病害图像识别方法进行了大量深入的调研的基础上，本论文依“”托于国家８６３项目作物生长三维形态快速获取与重构技术，对农作物叶部病害鲁棒性识别进行了系统深入的研究。本论文实现了实际环境下农作物叶部病害图像的高准确率和强鲁棒性的识别，为农作物病害科学、精准地防治提供技术一支持，对农业生产的智能化管理起到定的推动作用。４ 第１章绪论１．２课题研究内容农作物叶部病害识别是农作物叶部病害诊断和防治的基础，是农作物安全生产的前提和重要保障，影响着人类社会、经济、生态环境的良好发展，是建设和谐社会的必不可少的重要环节，、。因此快速、准确鲁棒的识别农作物叶部病害成为目前农业生产生活中亟待解决的关键技术问题。深度学习理论Ｉ■■高阶残差卷积神经网络＿高阶残差和参数共享反ＰＩ基于自注意力的卷积神模型馈的卷积神经网络模型经网络模型Ｊｇｊｇｊ实际环境下农作物病害的高精度和鲁棒性识别图１．３本论文的主要研宄内容及其关联关系。：本论文提出的三种方法之间具有连续性注、递进性和系统性的紧密关系。面向实际环境下农作物病害图像的鲁棒性识别，本论文重点研究了基于深度卷积神经网络的农作物病害的鲁棒性识别的相关方法，整体研宄思路和框架１．３１３如图所示。图．展示了本论文提出的三种方法：基于高阶残差的卷积神经网络方法、基于高阶残差和参数共享反馈的卷积神经网络方法、基于自注意力的卷积神经网络方法。三种方法之间具有连续性、递进性和系统性的紧密关系。这三种方法都集中解决实际环境下农作物病害图像的识别问题：基于高阶残差的深度卷积神经网络方法着力于解决实际环境下农作物病害图像识别的准确率问题；基于高阶残差和参数共享反馈的深度卷积神经网络方法是在高阶残差网络的基础上，致力于提高识别鲁棒性而引入了参数共享反馈子网络以实现兼顾精度和鲁棒性两方面的更好的农作物叶片病害图像的识别性能；基于自注意力的卷积神经网络方法是在前两种方法研宄的基础上，将自注意力机制引入到农作物病害识别研究中来一，以进步提高实际环境下农作物病害识别的精度和鲁棒性。在精度上，这三种方法的精度依次提高，越来越能更好的满足实际环境下农作物病害识别的应用需求，；在鲁棒性上基于高阶残差和参数共享反馈的卷积祌经网络方法的鲁棒性强于基于高阶残差的卷积神经网络方法，而基于自注意力的卷积５ 第１章绪论神经网络方法对于实际环境农作物病害的识别精度上体现了方法的鲁棒性最强，但当加入高斯和椒盐两种噪声干扰时，其对噪声的抗干扰能力不如基于高阶残差和参数共享反馈的卷积神经网络方法强。本论文主要包括以下几点研宄工作：１、基于高阶残差的卷积神经网络农作物病害识别方法研宄。针对目前农作物病害识别方法在面向复杂背景和带有各种噪声及环境因素影响的实际环境下，存在识别精度不高的问题在对残差网络结构学习和研究的基础上，定义了高阶残差网络，研究并实验验证了高阶残差网络对于农作物病害的精度提升的显著作一－用，提出了种高阶残差卷积神经网络方法（ＨｉｈＯｒｄｅｒＲｅｓｉｄｕａＣｏｎｖｏｕｔｏｎａｌｇｌｌｉＮｅｕｒａｌＮｅｔｗｏｒｋ，ＨＯＲｅｓＮｅｔ）。ＨＯＲｅｓＮｅｔ方法通过高阶残差网络来学习到病害的一丰富细致的特征，从而使得其病害识别精度更高，同时具有定的鲁棒性。最后ＥＳ－ＣＤ９２在本论文自然环境下采集的Ａ１４数据集上验证了ＨＯＲｅｓＮｅｔ方法的精度和鲁棒性。２、基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别方法研究。针对目前农作物病害识别方法在面向实际环境下农作物病害识别时鲁棒性不高的问题，基于高阶残差的卷积神经网络农作物病害识别方法，设计并实现了参数共享反馈网络，研究了参数共享反馈网络对识别鲁棒性的重要作用，提出一Ｈｈ－Ｒ了ｌｄ种高阶残差和参数共享反馈的卷积神经网络模型（ｉｇＯｒｄｅｒｅｓｉｄｕａａｎＰａ－ｒａｍｅｔｅｒＳｈａｒｉｎｇＦｅｅｄｂａｃｋＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋＨＯＲＰＳＦ），以实现实际，环境下农作物病害的高精度和鲁棒性的识别。该方法中高阶残差子网络为病害表观提供丰富细致的特征表达，能够有效提高模型的病害识别精度；参数共享反一馈子网络使得原深层特征中的背景噪声进步被抑制，能够有效提高模型的鲁棒ＭＫ－Ｄ２上性，。通过和现有方法在公有数据集对比结果显示本论文方法在兼顾－识别准确率，ＳＣＤ９２１４、识别速度和鲁棒性方面表现更为优异。同时通过对ＡＥ数据集上的测试结果表明，本文方法能实现实际环境下农作物病害的高精度、快速和鲁棒性的识别。３、基于自注意力的卷积神经网络农作物病害识别方法研究。农作物病害图像由于背景复杂、病斑区域小、病斑与背景对比度小从而容易造成两者混淆等特一点，导致了目前的识别方法精度和鲁棒性都不高，通过研究自注。针对这问题一意力网络对病斑区域的鲁棒性特征从而进步提高农作物病害图像识别的精度，研究了自注意力网络对于病斑鲁棒特征提取的有效性一，提出了种基于自注意－Ａｔ力的卷积神经网络（ＳｅｌｆｅｎｔｉｏｎＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋ，ＳＡＣＮＮ），以实现农作物病害病斑鲁棒特征的提取以及农作物病害识别的强鲁棒性，该方法通过引入自注意力机制能够有效的使深度网络学习专注于病斑区域的特征提取。该方法主要包括基本网络和自注意力网络。其中基本网络主要用于提取图像全６ 第１章绪论局特征，自注意力网络主要用于获取病斑区域的局部特征。广泛的实验结果表－明ＳＣＤ９Ｋ＿Ｄ２上的识别准确，ＳＡＣＮＮ方法在数据集ＡＥ２１４和Ｍ率分别达到了－９５２上的识别准确率优于当前最好的方法１．９％．３１％和９７．０％，其中在ＭＫＤ，这表明引入自注意力机制的卷积神经网络能够重点关注图像重要区域，从而有效提－ＣＤ９２高识别精度。在ＡＥＳ１４测试集中添加不同等级的噪声测试显示了ＳＡＣＮＮ方法对于噪声的抗干扰能力，ＳＡＣＮＮ方法具。此外说明了有强鲁棒性，本论文还探讨了自注意力网络在深度网络中的位置选择、通道大小设置、网络数目等方一，面对识别性能的影响以进步清楚展示自注意力网络工作机制，希望能为其他研宄者提供启发。本论文通过以上研宄工作，实现了对实际环境下农作物病害图像识别的高，、精度和强鲁棒性为农作物快速准确，、鲁棒性的诊断和防治提供技术支持具有非常重要的理论研宄意义和现实应用价值。１．３论文组织结构本文的主要内容分为以下六个章节：一章主要介绍本论文课题的研究背景，第、研宄意义以及研宄内容并列出了本论文的组织结构。第二章介绍了农作物病害识别国内外研究现状。首先介绍了农作物病害识别研宄的相关工作，接着分别从基于手工设计特征的识别方法、基于深度特征学习的识别方法两个方面详细阐述了目前的国内外相关研究现状，同时对相关研宄现状存在的问题做出了分析和总结。第三章介绍本论文提出的基于高阶残差的深度卷积神经网络农作物病害识别方法。首先研宄背景和研宄动机等方面进行了阐述，接着从网络整体架构、网络结构探讨及实现等方面详细介绍了基于高阶残差的卷积神经网络农作物病害识别方法，最后通过实验验证了ＨＯＲｅｓＮｅｔ方法的有效性。第四章详细介绍了本论文提出的基于高阶残差和参数共享反馈的卷积神经网络的农作物病害识别方法。从研究背景和研宄动机引入，通过对模型整体结构、参数共享反馈网络以及方法实现等方面全面详细的介绍了基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别方法。最后，通过实验从识别精度和识别鲁棒性验证了ＨＯＲＰＳＦ方法的识别性能。第五章介绍了本论文提出的基于自注意力的卷积神经网络的农作物病害识别方法，，。通过研宄背景和研宄动机方面的阐述引入了自注意力机制的研宄详细介绍了基于自注意力的卷积神经网络农作物病害识别方法，探讨了自注意力网络引入到深度网络中的位置选择、通道大小设置、网络数目等方面因素对识别７ 第１章绪论一性能的影响，，以进步清楚展示自注意力网络工作机制希望能为其他研宄者提供启发。最后，通过实验验证了自注意力网络对于病斑鲁棒特征的提取以及农作物病害识别的高精度和强鲁棒性。第六章总结了本论文的主要工作，分析了目前工作中的不足之处，并对后续的研宄工作进行了展望。８ 第２章农作物病害识别国内外研宄现状第２章农作物病害识别国内外研究现状农作物病害识别是农产品病害诊断和防治的基础，是农产品产量和品质的保障。农作物病害识别方法主要包括田间症状观察、基于化学和分子生物学的病－－２（）２６１７１９［［］］害检测、基于光谱技术的检测、基于可见光图像的识别等。其中田间症状观察是最原始的方式，需要农民依靠长期积累的农业知识和实践经验，这就使得识别结果存在主观性和误判风险，无法保证识别结果的准确性和可靠性，目前这种识别诊断方式已经被其他方法所取代。基于化学和分子生物学的病害检测是基于实验室环境的检测，需要昂贵的仪器设备和实验平台支撑，相对而言操作不方便，需要专业技术人员，并且后期实验数据分析也会耗费大量时间。这使得基于化学和分子生物学的病害检测方法无法满足实际环境下的农作物病害识别实时性需求，。基于光谱技术的检测也同样是需要光谱仪等设备且对环境的参２７【］数变化敏感，缺乏病害种类的特异性，面向实际应用时实用性也比较弱。随着人们生活水平的提高、电子产品的应用普及、数码相机和手机价格的平民化等，相机和手机走进了千家万户。农民基本人人都会拍照，智能拍照手机更一是人手部，农民可以随时在田间地头对观察到的农作物病害进行拍照。以上这些条件都为农作物病害图像的获取提供了便捷的处理方案，。因此本论文主要是针对可见光病害图像的自动识别的相关研宄工作来进行阐述。农作物叶部病害图像自动识别是综合利用图像处理、植物病理学、模式识别等技术手段来分析叶部病害图像信息，，得到病害的特征表示和分类模型从而达到快速、准确地识别出病害类别的目的，对病害做出有效诊断和防治，避免农民遭受不必要的经济损失，也为农作物产量和品质提供可靠的保障。下面本论文将针对可见光图像处理，依据叶部图像特征提取方式的不同对农作物病害图像识别方法研宄进行分类介绍，从基于手工设计特征的农作物病害识别方法和基于深度特征学习的农作物病害识别方法的研宄现状分别阐述。２．１基于手工设计特征的农作物病害图像识别研究基于手工设计特征的农作物病害图像识别方法利用图像处理技术对农作物，病害图像进行预处理，对手工设计的特征进行特征提取之后使用分类器对所提取到的特征进行分类，从而实现对农作物病害的分类识别。手工设计特征是基于对待识别图像的专业领域的分析，确定能够描述图像类别的相关特征，诸如一颜色，，类或、形状、纹理、病斑面积等特征并根据经验人工选取适于分类的者几类特征作为分类识别的依据来进行特征提取。基于手工设计特征的农作物９ 第２章农作物病害识别国内外研宄现状病害图像识别方法一般分为图像预处理、特征表示、分类识别等步骤。其流程如一下图２．１所示。在图２．１中，对于张输入的病害图像，需要先对其进行去除噪声、图像增强、背景分割等图像预处理工作。其中背景分割是将背景与叶片分离，提取出一片完整的叶片。紧接着的病斑分割是将经过预处理之后的叶部图像中的病斑从叶片中分割出来，为病斑的特征提取做准备。获得病斑图像之后，对病斑，图像进行分析手工设计病斑的有限特征，对农作物的叶片病斑进行特征提取。当手工选择的特征有多种类型时，则还需要对多类特征的融合方法进行研究，以确定病斑的最优化特征表示，。最后针对病斑表示出来的特征选择合适的分类器，，以实现病害图像的分类识别对其进行分类输出结果。输入—１，Ｉｒ＾一—病斑分割—？图像预处理１？特征设计特征提取特征融合＋分类器４黄；斑病１丨丨！二Ｉ２图．１基于手工设计特征的农作物病害图像识别方法流程图？国内外研宄在基于手工设计特征的农作物病害图像识别方面已经进行了大量的研宄工作，取得了较好的识别效果。基于手工设计特征的农作物病害图像识别按照所选择的分类器方法不同，可以分为基于支持向量机的图像识别、基于人工神经网络的图像识别、基于贝叶斯分类器的图像识别、基于随机森林方法的图像识别、基于其他分类方法的图像识别等等。目前支持向量机（ＳｕｏｒｔＶｅｃｔｏｒＭａｃｈｉｎｅＳＶＭ）识别模型己被广泛应用到ｐｐ，２８【］各个领域，在农作物病害识别研宄方面，支持向量机也是备受青睐。李旺等人使用不同的核函数向量机对提取到的黄瓜叶片的ＨＩＳ空间的颜色特征进行分类效果比较，，结果表明径向基核函数对黄瓜霜霉病、角斑病和白粉病三种病害的分类效果最好；在训练样本较少的情况下，支持向量机识别方法可以达到较好的２９分类和泛化性能［］。王建玺等人使用支持向量机对苹果叶锈病和斑点落叶病自３Ｇ［动识别］，并通过实验验证了该方法对于该任务的识别准确率较高。祁钊等人为了消除光照的不利影响，Ｒｅｔｉｎｅｘ算法进行图像增强采用，之后进行病斑分割和特征提取，使用主成分分析和支持向量机相结合的方法进行玉米叶片常见病３１一［］害的分类识别。肖志云等人提出了种马铃薯典型病害图像的自适应特征融合与快速识别方法。同时验证了在ＳＶＭ识别模型下，自适应特征融合方法有效３２Ｋ［］保证识别精度和速度ａｍａｌ通过图像采集、图像增强、聚类和分类等四。等人个阶段对棕榈油树叶片病害图像使用支持向量机进行分类，实验结果表明，ＳＶＭ３一３识别准确率分别达到了７９５【］提出种识别苹果三种叶９％和％。Ｏｍｍｎｉ等人部病害的方法。他们比较了基于支持向量机和人工神经网络（ＡＮＮ）分类器的１０ 第２章农作物病害识别国内外研宄现状识别结果。结果表明，在采用手工表示的特征进行分类识别时，选择ＳＶＭ分类器比选择ＡＮＮ分类器可以得到更高的识别精度。在利用神经网络模型进行分类识别方面的研究工作也开展了很多。米雅３４［婷］通过使用遗传算法初始化ＢＰ神经网络之间的权值和阂值来优化ＢＰ神－ＢＰ经网络，，即得到新的ＧＡ模型对温室番茄的三种病害进行分类识别实验结３５果表明可以获得较高的识别准确率［］ＬＶＱ网络算法。包晓安等人采用改进后的，，识别准确率可以稳定的达到８８９％。来判别苹果等级实验结果表明．李宗儒等３６［３７］［１人根据提取的有效特征参数利用神经网络进行苹果病害识别。温芝元等人３８［］在收集的使用补偿模糊神经网络实现脐橙虫害图像的识别。Ｌｉｕ等人１１年数据的基础上，用ＢＰ神经网络来实现对苹果树病虫害发生情况的预测。Ｈｕａｎｇ等３９４Ｇ］［］［人使用神经网络实现了对蝴蝶兰苗期三种病害的分类。Ｓａｎｙａｌ等人选用神经网络对水稻两种病害叶片和健康叶片实现分类识别，实验结果表明其识别４１［］８９２６％ＭａｒＣ－率可以达到．。ｊｕｍｄａ等人采用模糊均值聚类算法提取小麦叶片的病害特征，并利用人工神经网络（ＡＮＮ）对病害进行成功检测。４２［］在使用贝叶斯分类器识别方面，卜旭松等人提出了运用朴素贝叶斯算法４３［对蝴蝶兰生长环境数据进行分类以实现病害分类的目的］。赵玉霞等人利用，朴素贝叶斯分类器的统计学习方法对五种玉米病斑图像进行分类识别。翟治芬４４［等人］使用朴素贝叶斯分类器对自然条件下采集的不同盲椿象危害等级棉叶图像进行识别。试验结果表明在识别精度方面，贝叶斯分类器高于ＢＰ神经网络；运４５一［］行速度方面，贝叶斯分类器快于支持向量机基于。刘斌等人种贝叶斯分类模型对毒蘑菇进行识别，实验证明贝叶斯分类模型的识别准确率可以达到９８％以上。管泽鑫等人使用贝叶斯分类器对通过逐步判别分析法筛选出来的病斑４７的最有效识别参数进行分类识别［］。唐朝霞等人通过遗传算法进行特征优选之后，，使得识别准确率得到了提高ａｄｋａｒ采用贝叶斯分类器识别玉米病害图像。Ｐｈｉ４８［］等人利用贝叶斯和ＳＶＭ分类器对水稻叶褐斑病和叶瘟病两种病害进行分类。结果显示，相比ＳＶＭ分类器，贝叶斯分类器的识别精度高，识别速度快。在随机森林方法识别方面，国内外研宄者也开展了大量的研宄工作。夏永４９［］泉等人采用随机森林方法对小麦健康叶片和三种病害图像进行识别，实验证明整体识别准确率可达９５％，而且在同等条件下测试得到随机森林方法优于支５Ｇ［］ａｎｄｏｍ持向量机的识别方法。张经纬等人提出了基于随机森林算法（ＲＦｏｒｅｓｔ，ＲＦ－）的黄瓜种子腔图像分割方法。与Ｋ均值聚类（Ｋｍｅａｎｓ）算法、支持向量机算法相比，随机森林分割算法正确识别率高达９５％分割质量上优于其它两种算，５１法［］ＳＶＭ。田杰分别使用ＢＰ网络、分类器和随机森林识别算法对小麦叶部病害进行识别分类，通过实验验证表明，随机森林算法的分类准确率高于ＢＰ网络和ＳＶＭ分类器。１１ 第２章农作物病害识别国内外研宄现状在其他分类模型研究方面，许良凤等人针对单分类器识别的局限性，面一向具有复杂性的玉米叶部病害，提出了种基于自适应加权的多分类器融合玉＾米叶部病害识别方法。实验表明，该方法平均识别率达９４．７１％。张善文等人一提出了种基于超像素、Ｋ均值和方向梯度直方图金字塔（ＰＨＯＧ）算法融合策略的物联网植物病害叶片分割与识别方法。该方法可以为植物病害叶片图像分５４［１割和病害识别提供可行方案。秦立峰等人提出基于词袋特征ＰＣＡ（ｐｒｉｎｃｉｐａｌｃｏｍｐｏｎｅｎｔａｎａｌｙｓｉｓ）多子空间自适应融合的黄瓜病害识别方法。该方法在２个主５５［］成分子空间融合分类的平均准确率为９０．３８％。杜海顺等人兼顾数据特征重要一性和数据空间局部性，提出种双协同表示分类方法对小麦、玉米、花生、棉花一的２２种叶部病害进行分类识别。陈丽等人提出种基于图像处理技术和概率神经网络技术的识别方法对玉米的５种主要病害进行识别。通过实验验证得到，概率神经网络的分类准确率高于ＢＰ神经网络的分类准确率。以上文献表明，基于手工设计特征的识别方法已经取得了不错的成果，但是一一其存在定的局限性．１手工设计特征选取特征是件非常费力，且需要专业知识支持的方法。能不能选取到好的利于识别的特征很大程度上需要靠长期的经验积累和运气。而且特征的调节需要大量的时间，耗时耗力２、。手工设计的特征存在很大的主观因素，无法全面客观的获取到全部的特征信息，这样容易导致获取到的特征不完善，难以完整的描述病害类别间的差异，从而很容易引起语义鸿沟问题，影响识别性能。这两点局限性直接使得基于手工设计特征的农作物病害图像识别方法很难满足实际场景中复杂背景和噪声条件下农作物病害识别的识别速度、识别准确率和鲁棒性方面的实际应用需求。２．２基于深度特征学习的农作物病害识别研究随着深度学习技术的发展，越来越多的领域开始使用深度学习技术来解决各自的问题，使用最多的如自然语言处理、视觉识别和语音识别等领域。深度卷一积神经网络就是种基于深度特征学习的图像识别方法，与传统的手工设计特征的图像识别方法相比，其可以获取图像的全局和上下文特征，鲁棒性显著提，近年来基于深度卷积网络的图像识别系统取得了令人瞩目的成就高。因此。深度卷积神经网络己成为机器视觉和人工智能领域的研究热点。基于深度特征学习的图像识别方法不需要提取特定的特征，只需要通过迭代学习就可以找到合适的分类特征。与基于手工设计特征的图像识别方法相比，基于深度特征学习的图像识别可以获得更好的分类精度，并且避免了人工设计特征的局限性以及难度。下面我们先从深度学习理论入手介绍相关的理论知识以及基于深度特征学习的农作物病害识别相关研宄。１２ 第２章农作物病害识别国内外研宂现状２２．１深度学习理论．人工智能大致经历了三次发展浪潮，深度学习是在经历了三次发展浪潮之后才进入大家的视野一２０世纪４０６０。第次浪潮是在年代至年代的控制论中展现出来了深度学习的雏形。第二次浪潮是上世纪８０到９０年代，这次浪潮中的深度学习表现为联结主义。而第三次浪潮中具有巨大推动影响作用的是加拿大多伦多大学教授、机器学习领域的泰斗ＧｅｏｆｒｅｙＨｉｎｔｏｎ。２００６年，Ｈｉｎｔｏｎ教授一ｉｈｅ和他的学生ＲｕｓｌａｎＳａｌａｋｈｕｔｄｉｎｏｖ在《ｓｃｉｅｎｃｅ》上发表了篇名为《Ｒｅｄｕｃｎｇｔ５７［］，ＤｉｍｅｎｓｉｏｎａｌｉｔｙｏｆＤａｔａｗｉｔｈＮｅｕｒａｌＮｅｔｗｏｒｋｓ》的文章使得深度学习这个术语正式被提出并普及一。Ｈｉｎｔｏｎ提出了多层自编码器深层结构，而第个真正的多层５８一Ｌ［］结构学习算法是ｅｃｉｍ等人提出的卷积神经网络。实际上，第次浪潮中的二感知机实现了单个神经元的训练，；第次浪潮中主要是联结主义的方法使用反向传播来训练具有一两个隐藏层的神经网络三次浪潮中前面提到的多层自；第５９编码器［］以及卷积神经网络等多层结构都促进了深度学习的飞速、多层感知器发展与应用。深度学习的概念源于人工神经网络的研究，它是相对于浅层学习而言的。含一多隐层的多层感知器就是种深度学习结构，其强大之处在于，它可以通过组合低层的特征以形成更加抽象的高层表示属性类别或者特征，从中发现数据的分布式特征表示。我们可以利用深度学习学习到的特征表示来实现分类、识别和。：检测等任务当前，深度学习的多层结构化典型模型主要有以下几种多层感知５９５８６Ｇ６１〖］［］［］［】机、卷积神经网络、循环神经网络、递归神经网络、生成对抗神经网络＾等。深度学习模型可以自动从像素级原始数据到抽象的语义概念逐层提取信息特征，这使得它在提取图像的全局特征和上下文信息方面具有优势，在很多复杂的。在图像分类领域，深度学、具有内在表现特征的学习方面取得了成功应用习己经得到了卓有成效的研究应用，现有的大量的经典深度学习分类模型可以５８６３６４６５６６［［［［］】］［］］ｌＮＧＧＲＮ、直接使用和改进，如ＬｅＮｅｔ、ＡｌｅｘＮｅｔ、Ｇｏｏｇｅｅｔ、Ｖ、ｅｓｅｔ６７］ＳＥＮｅ［ｔ。２．２．２多层感知机一多层感知机是包含多个隐藏层的神经网络一，它将许多个单神经元联结在一一２２起，这样使得个神经元的输出成为另个神经元的输入，如图．所示。多层感知机往往参数量比较大，尤其当输入信号维度高、隐藏层数多、神经元数量多，时，参数量呈爆炸性增长导致模型无法训练。多层感知机现在常用于图像分类任务中，作为最后几层进行非线性映射，以学习到输入图像的特征向量。１３ 第２章农作物病害识别国内外研宄现状則難，＿Ｕｒ＾ｅｒｉＬａｙｅｒｊ图２．２单个神经元和多层感知机示意图。注：图中（ａ）为单个神经元示意图；（ｂ）为多层感知机示意图。２２３卷积．．神经网络５８［］深度卷积网络最早由ＬｅＣｉｍ在论文中以ＬｅＮｅｔ提出，并将其用于数字识别且取得了较好的成绩，但是当时并未引起学术界足够的关注。２００６年，被认为５７［］是深度学习的元年，Ｈｉｎｔｏｎ提出了深度学习（ｄｅｅｐｌｅａｒｎｉｎｇ）概念，并给出了深层网络训练中梯度消失问题的解决方案。２０１２年，是深度网络被引起广泛关注一ＨｉＣｌＮＮＣＮＮ的年，因ｎｔｏｎ课题组通过构建的ｏｎｖｏｌｕｔｉｏｎａｅｕｒａｌｅｔｗｏｒｋ网络（）６３６８一Ａ［］［】ｌｅｘＮｅｔ在百万量级的ＩｍａｇｅＮｅｔ数据集上举夺得分类冠军。２０１４年，两６５＾［］个非常重要的分类模型ＧｏｏｇｌｅＮｅｔ和ＶＧＧ分别提出，刷新了在ＩｍａｇｅＮｅｔ上的分类精度。２０１５年，Ｈｅ等人提出了深度残差网络（ＤｅｅｐＲｅｓｉｄｕａｌＬｅａｒｎｉｎｇ）６Ｒｅ］ｓＮｅ＃网络通过残差学习方式解决了深度网络太深无法收敛的问题，并，该将在ＩｍａｇｅＮｅｔ上的分类错误降低至５％以内，超越了人类的识别精度。２０１６年，６９［］由谷歌（Ｇｏｏｇｌｅ）旗下ＤｅｅｐＭｉｎｄ公司基于深度学习开发的ＡｌｐｈａＧｏ以大比一分战胜了世界围棋冠军李世石，这事件彻底引爆了深度学习的热潮。ａ？卷积神经网络通常包含卷积层、池化层、批数据规范化层（ｂｔｃｈｎｏｒｍａｌｉｚａｔｉｏｎ）、非线性映射层。其中，卷积层包含可训练学习的卷积核，这些卷积核嵌“”入了空间共享先验以减少参数量。池化层有最大池化和平均池化两种方式，一以定的步长在区域内选择最大值或平均值得到池化的结果，该操作降低了信号维度，从而减少了后续层的计算量。批数据规范化层对批数据进行规范化，将一平均值归零和方差置为１，减小由于前后层输出的数据分布不致，以致无法训练模型。因此，加入批数据规范化层通常可以加速模型的训练速度，加速拟合过程。非线性映射层将前层卷积后线性合并的结果经过非线性映射函数得到非线性映射结果，目前常用的非线性映射函数有ｓｉｇｍｏｉｄ、ｔａｎｈ、Ｒｅｌｕ等。１４ 第２章农作物病害识别国内外研宄现状２．２．４基于深度特征学习的农作物病害识别相关研究基于深度特征学习的农作物病害图像识别通常采用深度卷积神经网络学习入图像的特征，并对学习到的特征进行自动分类，网络直接输出该图像的类，输一６４ＳＰ［⑴Ｇｏｏ［】ＭｏｈｌｅＮｅｔ别概率，是种端到端的图像识别方法ａｎｔ。ｙ等人使用ｇＣ［１）］ｆＭ和ＡｌｅｘＮｅｔ对ＰＩａｎｔＶｉｌｌａｇｅ数据集中１４种农作物共２６种简单背景病害图６４６３ｔ］［］，Ｇ〇〇ｌｅＮｅｔ的平均分类效果比ＡｅｘＮｅｔ像进行了分类得出ｇｌ略好的结论。６３［１２］］［ＮａｃｈｔｉｇａｌｌＬＧ等人使用ＡｌｅｘＮｅｔ模型对六种共两千多幅苹果病害图像进行１３６３［］［］识别，其识别准确率超过了专家识别的准确率。ＤｕｒｍｕＨ等人使用ＡｌｅｘＮｅｔ６［１＿和ＳｑｕｅｅｚｅＮｅｔ模型对ＰｌａｎｔＶｉｌｌａｅ中西红柿病害图像进行分类识别，结果ｇ６３６７］［［］发现，ＡｌｅｘＮｅｔ模型的识别准确率比ＳｑｕｅｅｚｅＮｅｔ模型的稍高，但模型大７Ｇ［］Ｆ－小和所用时间也相对翻番ｕｅｎｔｅｓＡ等人为检测番茄病虫害，分别将１１。７ｌ［７２］７３］［６５］［６６］ＣＮＮ［］Ｒ－ＦＣＮＳＳＤ【ｅｔ和ＲｅｓＮｅｔ、、三个深度学习元结构与ＶＧＧＮ深７４习架构［］。Ｅｄｎａ等人度特征提取器相结合，并进行性能比较以寻找适合的深度学６５７５６６［］［】［）通过对现有的深度卷积神经网络模型ＶＧＧ１６、ｌｎｃｅｐｔｉｏｎＶ４、ＲｅｓＮｅｔ５０、６６６６７６［］［］［】ＲｅｓＮｅｔｌ０１、ＲｅｓＮｅｔｌ５２、ＤｅｎｓｅＮｅｔｓｌ２１等进行微调来实现植物病害的识６Ｄ［７］别。实验证明ｅｎｓｅＮｅｔｓｌ２１具有高精度，但是其训练参数量大，训练时间长，７７一［］无法达到快速识别的目的。Ｄｉｎｇ等人设计了个任务驱动的深度迁移学习的图像分类框架，通过深度结构促进从源到目标的知识转移，从而获得最优性能。７８一［］２李敬使用了个包含输入输出层、２层卷积层、层采样层和１个全连，用来对烟草病害进行识别，接层构成的卷积神经网络模型。同时他还应用识别模型设计并实现了基于Ｗｅｂ的烟草病害诊断系统。马晓丹等人构建了两级级一一１４］［联神经网络模型，实现大豆叶部病害的自动诊断。孙俊等人提出种批归Ｍｌ化与全局池化相结合的卷积神经网络识别模型，对ＰｌａｕｔＶｉｌｌａｇｅ中的２６种病一１５害进行识别［］。张航等人利用个具有五层结构的深度网络模型对背景较为简８Ｑ一单的小麦六种病害进行识别［］。黄双萍等人提出了种基于深度卷积神经网络６４Ｇｏ［］ｏｇｌｅＮｅｔ模型的水稻穗瘟病检测方法，该方法利用Ｉｎｃｅｐｔｉｏｎ基本模块重复６４【］堆叠构建主体网络。利用Ｇ〇〇ｌｅＮｅｔ的深度和宽度来充分学习复杂噪声高光ｇ，９２０％。Ｌｕ谱图像的隐高维特征表达，实现穗瘟病害预测建模最高准确率达到．８一１［］等人提出了种基于弱监督深度学习框架的现场自动小麦疾病诊断系统，实现了面向野外条件下的小麦疾病识别与疾病区域定位的集成。在两种不同的架ＶＧＧ－ＦＣＮ－ＶＤ－－１６和ＶＧＧＦＣＮＳ）下构（，他们的系统在相同参数范围内优于传统ＣＮＮ架构的识别精度，，同时保证了相应疾病区域的准确定位平均识别准确８２％［］率分别达到９７．９５％和９５．１２。王献峰等人提出将自适应深度置信网络和判别限制玻尔兹曼机相结合的方法，以解决棉花病虫害预测中训练时间长和容易１５ 第２章农作物病害识别国内外研宄现状进入局部最优方面的问题。此方法模型相比于传统ＢＰ神经网络模型、强模糊支８３ＲＢＦ神经网络模型［］持向量机模型和，识别精度都有较大的提升。张善文等人一种基于环境信息和改进的深度置信网络的冬枣病虫害预测模型提出。在该模型中，通过无监督训练和有监督微调从冬枣生长的环境信息序列中获取可表征冬枣病虫害发生的深层特征的隐层参数，并形成新的特征集，然后在预测模型的一个后向传播神经网络进行病虫害预测顶层通过。［ＩＧ］以上文献所述的基于深度特征学习的识别方法大多针对的是ＰｌａｎｔＶｉｌｌａｇｅ或者简单背景的图像识别，当面向实际环境下带有复杂背景和各种噪声干扰时，往往会使得识别准确率大大降低，导致难以准确的对实际环境下农作物病害进行识别，。然而，农作物病害识别对其诊断和防治都具有重要意义是迫切需要解决的问题。因此，如何提高农作物病害图像识别的精度、抗干扰能力成为农作物病害识别研宄的关键。综上所述，如何提高农作物病害图像识别的精度、速度和抗干扰能力成为农作物病害图像识别研宄的关键。２．３本章小结本章主要介绍了农作物病害识别的国内外研宄现状，重点介绍了基于手工设计特征的农作物病害识别研宄和基于深度特征学习的农作物病害识别研宄。在综合文献调研的基础上，分析了目前农作物病害识别方法存在的相关问题。１６ 第３章基于高阶残差的卷积神经网络的农作物病害识别研宄第３章基于高阶残差的卷积神经网络的农作物病害识别研究本章主要介绍基于高阶残差的卷积神经网络农作物病害识别方法。首先，在３１３２３３．节中介绍研宄背景知识。其次，在．节介绍研宄动机。再次．节详细，在介绍基于高阶残差的卷积神经网络（ＨＯＲｅｓＮｅｔ）方法，主要从ＨＯＲｅｓＮｅｔ网络整体架构、提出的高阶残差网络、网络结构的探讨、参数设置详情和方法实现细节等方面详细介绍和展现我们的ＨＯＲｅｓＮｅｔ方法。从次，在３．４节给出实验验证和结果分析。最后．５，在３节对全章内容进行总结与展望。３．１引言一直都是农业生产过程中的大敌农作物病害，直接影响到农作物种植的产量和效益，。据联合国粮农组织（ＦＡＯ）估计全球每年因病害损失粮食约占粮食一总量的１０％。我国是世界上农作物病害发生较为严重的国家之，灾害分布广、突发性强、防控难度大。Ｔｐ２〇鱗鐽．３１２０８图．１年水稻纹枯病发生趋势全国农技中心组织科研、教学和推广单位有关专家，预计２０１８年我国农作？物重大病虫害总体发生将重于常年，累计发生面积约５０亿亩次。２０１８年水稻②？的主要病害纹枯病和稻瘟病发生趋势如图３．１和图３．２所示。从图３．１中可以看到，２０１８。３２预计年水稻纹枯病在南方大部分稻区偏重发生从图．中可以预计①湖南植保植检信息网：ｈｔｐ：／／ｗｗｗ．ｈｎａｇｒｉ．ｇｏｖ．ｃｎ／ｗｅｂ／ｈｎｚｂｚ／９８７７／９８８０／９８９１／ｃｏｎｔｅｎｔ２９５９８３．ｈｔｍｌｊ＿？ｈｔｔｐ：／／ｗｗｗ．ｈｙｚｈｉｂａｏ．ｃｏｍ／ｕｐｌｏａｄｆｉｌｅ／２０１８／０１０７／２０１８０１０７１０２５２３２５１．ｊｐｇ？ｈｔｔ：／／ｗｗｗ．ｈｙｚｈｉｂａｏ．ｃｏｍ／ｕｌｏａｄｆｉｌｅ／２０１８／０１０７／２０１８０１０７１０２８４８１５８．ｐｐｊｐｇ１７ 第３章基于高阶残差的卷积神经网络的农作物病害识别研究：麵。．２０１８料麴发生ＭＳ３２２０图．１８年水稻稻痕病发生趋势２０１８年水稻稻瘟病总体中等发生。因此农业生产人员需要注意及时诊断和防治，？，３３准确确定病害类型，并科学用药，做好防控措施如图．所示，及时喷洒农药。，２０１８年上半年据全国农技中心发布的数据表明，水稻重大病虫害在南方稻区？总体中等发生，发生面积３．５８亿亩次，其中病害发生面积９１７１万亩次。预计？２０１８年中晚稻主要病虫害预计发生９．７亿亩次，按照上半年病害实际发生的比例预测，下半年病害预计发生约３亿亩次，病害导致的粮食减产问题严重。根据联合国粮农组织统计，全球因为农作物病虫害的发生，每年粮食减产１０％到？１６％和统计，４０００万吨左右。；在我国根据多年的测报每年大约损失粮食为这些数据是惊人的，由于农作物病害引起的粮食减产必须引起大家的高度重视和关注。ｔｔｍ图３．３农民在水稻田喷洒农药防治病害有效利用农业信息技术，快速准确的对农作物病害做出诊断和防控，指导农？ｈｔｔ：／／ｓｃｘｘ．ｘｎ１２１．ｃｏｍ／／ｎｄｅｘ／／１５／／１４１Ａ４ＦＡ０．ｐｉｍａｇｅｓｉｊｒｘｎｊｄ２００３０３／０８Ｆ５Ｃ２Ｃ４８Ｃ７Ｆ５１９５７ＣＤＣ３４３３ｊｐｇ②病虫测报网．．．．：ｈｔｓ：／／ｗｗｗｎａｔｅｓｃｏｒｃｎ／Ｈｔｍｌ／２０丨８０７１２／２８０９２１５１７６０２０１８０７１２４５４８７６ｈｔｍｌ＿＿＿＿ｐｇ＿＿＿③ｗｗｗ－－中国农业网：．ｚ．ｃｏｍ．ｃｎ／ｓ＼ｉｈａｔｉ／１８０７２０／５１．ｓｈｔｍｌ：ｈｔｔｐｓ／／ｇｎｙｉｆｍ／ｃｏｎｏｎ２０３３２７④央视网：ｈｔｔｐ：／／ｎｅｗｓ．ｃｃｔｖ．ｃｏｍ／２０１７／０２／１１／ＡＲＴＩｉＤｂＷＦ９Ｖ１ｓｐＰ８ＢｑＺｃ４Ｒ９Ｘｌ７０２１１．ｓｈｔｍｌ１８ 第３章基于高阶残差的卷积神经网络的农作物病害识别研究民科学合理的喷洒农药，是提高粮食产量、减少环境污染的重要举措。而农作物病害图像识别可以为农作物病害快速诊断和防治提供重要保障，。因此快速准确，的对农作物病害进行识别，指导农民科学精准的使用农药成为迫在眉睫的关键问题，对保障我国粮食安全和生态环境安全，促进农民增收和农业发展都具有重要意义。３．２研究动机目前，基于手工设计特征的农作物病害识别方法己经取得了不错的成果。基１Ｇ［］于深度特征学习的农作物病害识别方法主要针对公开数据集ＰｌａｎｔＶｉｌｌａｇｅ上或者是简单背景的病害图像识别时精度速度和识别准确率表现都不错。然而，、噪声干扰多实际环境农作物病害图像识别由于具有复杂背景、环境因素影响大、病害表现多样等特点，其图像样例如图Ｕ所示。这些特点给农作物病害图像识别带来了困难和挑战。面向实际环境下农作物病害图像识别问题：１、１６［］当使用基于手工设计特征的农作物病害图像识别方法时，会因为图像预处理，识别速度慢，由耗时耗力；同时于背景复杂而使得手工设计的特征对于图像全局特征无法准确提取，产生语义鸿沟问题，从而容易导致识别准确率大大降低，无法达到准确识别的应用需求。２、当使用面向简单背景的深度特征学习方法的识别模型对于实际复杂场景的识别精度会大大降低，无法满足识别应用需求。一因此，实际环境下农作物病害图像的快速、准确、抗干扰的识别成为个值得研宄的具有挑战性的关键问题。一些研宄者开展了相关的工作针对实际环境下农作物病害图像识别已经有。８４一［】柯圣财等人针对传统图像特征表达能力差和适应性不强等问题，引入个包含５个卷积层、３个采样层和１个全连接层的卷积神经网络提取图像深层特征，以增强图像特征区分性和表达能力。针对光照、姿态等变化带来的图像识别挑战８５［］通过提取Ｇａｂｏｒ特征ｉｈ和稀疏表示方法的鲁棒性问题，詹曙等人Ｆｓｅｒ，并将准则约束引入到字典学习Ｇａｂｏｒ特征集的过程中，以使得学习到的新字典带有类别标签，并使用高斯混合稀疏表示识别方法对新字典进行分类识别。这种基于Ｇａｂｏｒ特征和字典学习的高斯混合稀疏表示图像识别算法在３个公开数据库上的实验证明了该算法具有有效性和鲁棒性。６６６８ｆ［】２０］残差网络是何凯明在１５年的ＩｍａｇｅＮｅｔ大赛中提出的，残差网络中最主要的是残差学习。原始的卷积神经网络当网络层加深的时候，会出现精度不变，但是误差增大的情况。为了让网络层数加深，而误差不变大，假如加入恒等映射则会保持参数量、精度和误差都不会受影响。从而让卷积层只学习细微的特一，征，相当于在恒等式的右边加入个趋于零的函数使得加入卷积层对于恒等映１９ 第３章基于高阶残差的卷积神经网络的农作物病害识别研宄＝，即使得Ｈｘｘ＋ｘｘ，是卷积层需射的影响不大（）／（）。其中Ｆ（）即为残差函数要学习的残差，也是需要关注的细微特征。将Ｈ（ｘ）往下传递即可同时将底层的一特征和高层精细特征起加入到网络中进行更精细的特征提取，这样使得网络能学习到更加丰富的特征，以利于后面的分类识别任务。何凯明的残差网络思想，但是不会出现梯度消失的现象，深度网络的性能更优使得网络层数可以很深。＿２０１５年１５ＩｍａＮ，微软亚洲研宄院视觉计算组在２０ｇｅｅｔ计算机识别挑战赛中６６］［，以绝对优势获得图像分类凭借残差网络、图像定位以及图像检测全部三个６主要项目的冠军［６１。这使得研宄者开始关注残差网络。针对实际环境农作物病害图像识别问题，我们同样需要特别关注病害图像的细微的特征，因此可以尝试借助残差网络的思想来学习到更全面，更细微的图像特征，以提高识别准确率，解决实际环境的识别需求。在农业领域，己经有一８６［Ｍｌ些研究者借助残差网络进行了相关的研究工作。Ｃｈｅｎｇ等人Ｍ吏用ＲｅｓＮｅｔ６３［］来实现复杂农田背景下害虫的准确识别，通过微调基于ＩｍａｇｅＮｅｔ的ＡｌｅｘＮｅｔ、ＲｅｓＮｅｔ５０、ＲｅｓＮｅｔｌＯｌ预训练模型来实现虫害的识另ｉ。ｊ相比ＳＶＭ、ＢＰ神经网络以６３ｔ］及ＡｌｅｘＮｅｔ，ＲｅｓＮｅｔｌＯｌ在众多方法中精度最高，具有更高的实用价值。Ａｒｔｚａｉ８７８８６６［］［］ｏｈａｎｎｅ］［等人通过扩展Ｊｓ等人的工作，在ＲｅｓＮｅｔ５０Ｋ基础上，用两个连一ｘ续的３ｘ３卷积层代替ＲｅｓＮｅｔ５０中的第个７ｘ７卷积层，后面都接的是３３的最大池化层，这样做是为了提取到更好的细粒视觉特征，可以使早期疾病的分类得到改善。实验结果证明，在面向实际采集条件下的多植物病害检测时，基于改进深度残差网络方法结果从０．７８提升到了０．８７，提升效果明显。６６ｅ［】以上研究都是直接使用现有残差网络ＲｓＮｅｔ直接进行预训练模型的迁一移学习，或者简单地修改下卷积核的尺寸，但是己经可以看到残差网络在识别应用上带来的精度提升效果。这表明将残差学习思想引入农业领域以识别农作。物病害图像是有重要研宄价值，值得我们深入研宄与应用鉴于此，本章提出了基于高阶残差的卷积神经网络方法，，对实际环境下农作物病害图像进行识别以期能够很好的解决实际环境农作物病害识别问题，实现实际环境下农作物病害图像的快速、准确、抗干扰的识别目标。３．３基于高阶残差的深度卷积神经网络方法３．３．１网络整体架构一面向农作物病害识别实际应用，我们定义了个高阶残差卷积祌经网络－（ＨｉｈＯｒｄｅｒＲｅｓｌＣｌｔｉｌＮｌＮｅｔｒｋ，ＨＯＲｅｓＮｅｔ，ｇｉｄｕａｏｎｖｏｕｏｎａｅｕｒａｗｏ）该网络整体架构一３．４所示。在图３如图．４中，我们可以看到，当输入张待识别的农作物病害图像一一时，首先经过层卷积层对其进行低层特征提取，其次经过三个残差模块进步２０ 第３章基于高阶残差的卷积神经网络的农作物病害识别研宄一的提取该图像特征，接下来再使用四层卷积层和个残差模块提取图像的高层一一特征，最后经过个全局平均池化层和个Ｓｏｆｔｍａｘ层后直接输出该图像所属的病害类别概率，从而实现对该图像的分类识别。ＨＯＲｅｓＮｅｔ方法共包括五层卷积一一Ｓｏｆｔｍａｘ３４．层，四个残差模块，个全局平均池化层和个层。在图中绿色模块，３６，表示的是残差模块该残差模块的内部结构如图．所示其详细介绍我们将在３３２本论文．．小节详细描述。卷积ＲｅＬＵ池化＿＾－全局平也化层输入图片卷积层残差模块１卷积层卷积层卷积层卷积层图３．４髙阶残差卷积神经网络ＨＯＲｅｓＮｅｔ整体架构。注：图中绿色模块表示的是残差模块，该残差模块的内部结构如图３．６所示。残差模块残差模块２：Ｉｗ＼ＩＩｈｈｈｍｈｂｗｈｈｈｈｈｉＩ图３．５髙阶残差模块结构图。注．６：图中绿色模块表示的是残差模块，该残差模块的内部结构如图３所示。３．３．２高阶残差网络一在本章论文工作中，我们定义了，为了有效地利用不同层的特征个高阶残３５。３５，３．６差模块。其结构如图．所示在图．中绿色的残差模块的内部结构如图所一示；黄色圆圈表示的是和操作层，表示将多个输入做和运算之后传送到下层。一三个残差模块后的输出一起连接我们将经过第层卷积层的输出与经过前。因为在实验中，我们发现这种级联操作可以为后面的网络层提供更丰富的特征（包２１ 第３章基于高阶残差的卷积神经网络的农作物病害识别研宂＊＊＊卷积核：３３卷积核：１１卷积核：３３Ａ＊＊＊卷积步长：２２步长：１１步长：１１■：２ｘ：ｘ通道数通道数通道数：２ｒ＾ＲｅＬＵ＊ＣＯＮＶＩＰ！＾Ｐ＾，Ｃ〇ｍｉＣ０ＮＶ３＾？＾Ｓ图３．６残差祺块结构图。含低层和高级特征），同时还可以提高网络的鲁棒性，增强其抗干扰能力。我们把这种级联操作定义为高阶残差模块（ＨＯＲ）。３．６３高阶残差网络中的残差模块结构如图所示，，残差模块中包含个卷积层分别记为Ｃ０ＮＶ１、Ｃ０ＮＶ２、Ｃ０ＮＶ３。当输入经过Ｃ０ＮＶ１、Ｃ０ＮＶ２、Ｃ０ＮＶ３后的输出分别为ＸＩ、Ｘ２、Ｘ３，其详细参数在图３．６中已列出。在图３．６中，我们可以看到，ＸＩ和Ｘ３的通道数相同，可以直接将Ｘ３级联起来，黄色和操Ｉ和Ｘ作符号将对ＸＩ和Ｘ３做加法操作，ＸＩ和Ｘ３之和作为整个残差子网络的总输出。我们的残差子网络借助的是残差学习的思想，卷积层学习的是残差函数。此处假＝尸〇＝＝只－义１＝设《〇〇：＋义１；０＋义３：尸：３），则残差函数尸〇〇为（尤）（〇叉，通过对的学习来获取图像中更突出的微小信息。整个网络中实现了将经过Ｃ０ＮＶ１卷积的低层特征和经过Ｃ０ＮＶ１、Ｃ０ＮＶ２、Ｃ０ＮＶ３三个卷积层卷积到的一高级细节特征起提取出来，传递到下面的网络结构中继续进行更精细的特征提取。如上所述，本章的高阶残差模块可以综合利用神经网络中底层特征的细节描述和高层特征的全局表达，为农作物病害表观提供丰富细致的特征表达，从１（）【］ｌａｎｔＶｉ而有效提高模型识别准确率。我们通过在开放数据集Ｐｌｌａｇｅ子集以及本ＡＥＳ－ＣＤ９２文新创建的数据集１４上分别进行实验，来验证高阶残差模块的作用，３实验结果如表．１所不。丨〇３１（ＣＮＮ）Ｐ丨１表卷积神经网络ｌａｎｔＶｉＨａｅ．引入和不引入高阶残差模块在数据集ｇ子集和ＡＥＳＣＤ９２１４上测试的识别准确率对比结果。＋数据集／方法ＣＮＮＣＮＮＨＯＲＰｌａｎｔＶｉｌｌａｅ０．８８５９０９１７９３．６１％ｇ．（）ＡＥＳＣＤ９２１４０．８８２９０．９０１４（２．１０％）２２ 第３章基于高阶残差的卷积神经网络的农作物病害识别研宄１Ｇ３［］－ｉｌｌＳＣＤ９从表．１可以看到，无论是在ＰｌａｎｔＶａｇｅ子集还是在ＡＥ２１４数据集上，当引入高阶残差模块时，识别准确率分别获得了３．６１％、２．１０％的提升。由此验证了引入高阶残差模块可以有效的提高识别准确率，这在面向农作物病害识别实际应用中具有非常重要的意义。３．３．３网络结构探讨ＨＯＲＮｅ一在对ｅｓｔ方法网络系统架构进行设计时，我们进行了系列的实验来验证ＨＯＲｅｓＮｅｔ方法的结构的合理性。下面将从网络结构中在残差模块中卷积层存在的必要性和添加卷积层层数的选择两个方面来讨论ＨＯＲｅｓＮｅｔ网络架构的选择依据。１．残差模块中间卷积层存在的必要性验证？在残差模块中间是否需要加入卷积层在以往的残差网络中，残差模块都是一一个连续的个接着，中间没有任何单独的卷积层。那么是否应该和以往的结构一样，屮间不要加卷积层呢？本论文将用实验测试结果来对ＨＯＲｅｓＮｅｔ结构进行合理性验证。为了测试网络模型中带卷积层和不带卷积层对于识别过程中鲁棒性的影响效果－ＣＤ９２，我们在真实场景农作物病害数据集ＡＥＳ１４测试集上分别添加了不同等级的高斯噪声、椒盐噪声、同时添加高斯和椒盐噪声后，对带卷积层和不带卷积层这两种网络模型的识别准确率进行了对比实验３２—３４，实验结果如表．表．所不。３２ＥＳ－ｅ表．在ＡＣＤ９２１４数据集测试集添加高斯嗓声后ＨＯＲｅｓＮｔ带与不带卷积层的方法识别准确率结财比．方法／噪声等级０．０１０．０１５０．０２０．０２５不带卷积层０．４８７３０．３８７５０．３２８４０．２７５３ＨＯＲｅｓＮｅｔ０．４８６７０．４４５５０．４１６８０．３９５１３－ｅｔ表．３在ＡＥＳＣＤ９２１４数据集测试集添加椒盐嗓声后ＨＯＲｅｓＮ带与不带卷积层的方法识别准病率结财比？方法／噪声等级０．０１０．０１５０．０２０．０２５不带卷积层０．７４７４０．６７８００．６０２７０．５６８６ＨＯＲｅｓＮｅｔ０．６９４３０．６４１２０．５９３００．５５１２２３ 第３章基于高阶残差的卷积神经网络的农作物病害识别研究３－表．４在ＡＥＳＣＤ９２１４数据集测试集同时添加高斯和椒盐噪声后ＨＯＲｅｓＮｅｔ带与不带卷积层的方法识别准确率结果对比。方法／噪声等级０．０１０．０１５０．０２０．０２５．４６３０．３２０３０．２７７５０．２３１４不带卷积层０１ＨＯＲｅｓＮｅｔ０．４６３４０．４０７６０．３８５９０．３５８３３．２３４、，从表到表．依次为添加不同等级的高斯噪声椒盐噪声同时添加高斯噪声和椒盐噪声后，带卷积层和不带卷积层网络模型的识别准确率的对比结果。３２，，从表．中可以看到当在测试集中添加不同等级的高斯噪声时随着噪声一等级的增加，两个网络模型的测试识别准确率均会降低；从每个等级的噪声测试结果都可以看出，带卷积层的网络模型识别准确率均高于不带卷积层的网络模型识别准确率一。这是因为高阶残差模块中间的卷积层能进步提取到病害图像的更多有效的特征一，能对高斯噪声起到进步的过滤和抑制作用，从而可以增强抗千扰能力。所以，带卷积层的网络模型能在添加高斯噪声的情况下依然保持较高的识别准确率。，３４同样的从表．同时添加不同等级的高斯噪声和椒盐噪声时，带卷积层．的网络的识别准确率比不带卷积层的网络的识别准确率要高，分别高出４７１％、°％８．７３％、１０．８４％、１２．６９／。、１２．６８。另外，从表３．３中可以看出，当添加椒盐噪声时，相比不带卷积层的网络模型，带卷积层的网络对于添加了椒盐噪声测试集—的识别准确率不高，。在添加０但是两者整体差别不大．０１０．０３等级的椒盐噪声－５．０８时．３１％、３６８％、０．９７％和１．％。，识别准确率分别相差ｖ（｜０Ｗ椒盐ＶＳ聊＋Ｓｆｔ斯吒声ｓ识別刖确率嶸声识别准磽率ｉｆｔ斯椒盐咲声Ｖ识别准嬝率°＾５０７００５不帝卷挪ｗ－ａｏｏ帝獅似ＤＤＲｅｓＮｃｔ？０不带）？？０〇拥谐鋈ｇ＾〇—＊雪—二：Ｉ丨０５００Ｏ＾ｓ＇ｔ０．５００ｓ０〇＜５０＇．２Ｍ０＾２５０〇？〇〇〇．＊Ｋ）００．２０▲０，＇：－ｒ０．３Ｓ００５０Ｇ２２５０００１０１．０．０．０３５〇１〇Ｍ５０．０２０．０２５０－（Ｂ０．ＭＯＪＭｉＯＭ０ＸＫ３０Ｘ３峡声等级噪声等《哚淬辨缍图３．７在ＡＥＳＣＤ９２１４数据集上带卷积层和不带卷积层的识别准确率对比结果曲线图。一３，，从图．７对比结果曲线图中我们也能目了然的看出来当添加高斯噪声，和同时添加两种噪声时，带卷积层方法的识别准确率明显的高于不带卷积层方法的识别准确率。在添加椒盐噪声时，两种方法识别准确率相差不大。不带卷积一些层的识别准确率稍高。因此，综合分析实验比较结果，我们选择了带卷积层的网络模型来应对噪声干扰问题，提高网络的鲁棒性，使其具有更强的抗干扰能力，以满足实际环境农作物病害识别应用需求。２４ 第３章基于高阶残差的卷积神经网络的农作物病害识别研宄２．卷积层层数选择上一小节己经验证了带卷积层的必要性一，这小节我们需要继续研究所带的卷积层层数对网络性能的影响一，以进步确定残差模块中间卷积层的层数选３４ＯＲＮ３择。为了确定图．中Ｈｅｓｅｔ网络结构内部残差模块和残差模块４之间卷积层的层数，我们针对相应的网络结构，对于ＨＯＲｅｓＮｅｔ方法中残差模块３和残差模块４之间带有不同层数的网络相应结构在ＡＥＳ－ＣＤ９２１４数据集上识别准确，３率进行了对比实验其实验对比结果如表．５所示。在表３．５中，我们通过实验比较，列出了当在残差模块３和残差模块４中间３—６。３插入层卷积层时识别准确率的结果从表．５中显而易见，卷积层数量增口，识别准确率随之增加力。这是因为随着卷积层层数的增加，提取到的图像细节一特征会相应增多，这些特征有利于对图像能够更好的分类识别，能够进步提高模型的识别准确率。然而，卷积层层数增加也会随之带来模型参数量增大，使得运算量相应的增加，这样将会使得模型训练难度增大。特别应该注意的是，对于训练集数据量较少时，参数量过多容易导致过拟合问题，这样使得实际识别准确３５率与训练准确率相差很大，很难满足识别需求。表．中，当加入的卷积层数量５－为４、、６时，在ＡＥＳＣＤ９２１４数据集上识别精度变化不大。因此，综合考虑识，别准确率和网络参数量两方面因素为了实现准确快速的识别需求，我们选择在残差模块３和残差模块４中间插入４层卷积层，即ＨＯＲｅｓＮｅｔ整体模型架构确定为包含５层卷积层的网络结构。整体架构如图３．４所示。３Ｓ－ＣＤ９２表．５１４数据集上的网络深度识别精度的影响在ＡＥ。卷积层数量３４５６０．８３６７０．８７０６０识别精度．８７１７０．８７１１３．３．４参数详情一本章ＨＯＲｅｓＮｅｔ方法网络模型是个简单、快速的卷积神经网络，其详细３３６参数如表．６中所列。其中表．中残差模块的参数细节可以在图３．６所示查看到。ｘ为了减少网络的参数量，ＨＯＲｅｓＮｅｔ１１３ｘ３在中，我们只选择使用和两种卷积核，这样能有助于很好的避免过拟合。此外，相比更宽策略而言，本章选择使用一一更深的网络设计策略来设计通道的每层。在每层上均使用小通道，目的同样是为了避免由于训练样本数不足而导致的过拟合问题。２５ 第３章基于高阶残差的卷积祌经网络的农作物病害识别研究表３．６ＨＯＲｅｓＮｅｔ网络参歎详情层名输出尺寸ｈ／ｗｘｗ／ｘｗ（／ｃ）滤波器尺寸（ｈ步长池化尺寸（ｈ／步长））卷积层２５６ｘ／－／２５６／８３３１／－－残差模块１１２８／１２８１６２６４－－残差模块／６４／３２残差模块３３２４－－／３２／６２３２４３ｘ－卷积层３２／／６３／１３３２４３ｘ３－卷积层３２／／６／１１６１－２ｘ２最大池化层／６／６４２／４ｘ－卷积层１６／１６／１２８３３／１５－１６／１６／６４Ｉｘ／１卷积层１４８－－残差模块／８／１９２ｘ－－全局平均池化层１１９２Ｓｏａｘｘ－－ｆｔｍ层１６３．３５．方法实现细节ＰＶ＿ＡＥ－２１４我们在ｌａｎｔｉｌｌａｇｅ子集和ＳＣＤ９上分别对本文ＨＯＲｅｓＮｅｔ方法进行验证。在ＮＶＩＤＩＡＧＰＵ１０８０ｉ的机器上，模型训练１００个ｅｐｏｃｈ大约需要２０分５０ＨＯＲＮ钟。通常，在经过次迭代之后，ｅｓｅｔ网络便能够输出令人满意的识别准确率。本章中使用Ｓｏｆｔｍａｘ作为目标函数，其计算公式如公式（３．１）所示：＝ｉ＝ｉ＾ｆｅｘｒ１ｅ＾，＝￣＝＝ｋ＾ｌ〇３Ｊ＾＞（ＳＥｐｉｓ）１ｍｌｑｖＭ＾ＵＺ＝ｉ／Ｊｐ，〖＝．．．ＪＬ和Ｍ其中个训练样本，１２３Ｖｆ＆是第乃，，，，是相应的标签。分别表示训练样本数和类别数；ｐ（．）是引导函数。本章的优化算法选择的是Ａｄａｍ最优化算法，使用Ａｄａｍ对公式（３．１）的Ｔ３损失函数进行优化１Ｃ，２０。。训练中初始学习率设定为２Ｘ批处理大小设置为１在测试阶段，为了证明ＨＯＲｅｓＮｅｔ网络的抗干扰能力，我们在测试集中加入不同等级的高斯和椒盐噪声，比较识别准确率，以验证ＨＯＲｅｓＮｅｔ网络对噪声的抗干扰能力，评估本章方法的鲁棒性。２６ 第３章基于高阶残差的卷积神经网络的农作物病害识别研究３４．实验３．４．１实验数据－１、ＰｌｔＶｉｌｌ２、ＡＥＳ本章使用的实验数据集有两种：ａｎａｇｅ数据集子集；２４Ｐ＿一ＣＤ９１。ｌａｎｔＶｉｌｌａｇｅ数据集是个开放的公用数据集，包含有多种植物的健＾康和病害图片ｌａｎｔＶｉｌｌａｅ子集是选取ＰｌａｎｔＶｉｌｌａｇｅ所１０４７８。本论文的Ｐｇ收集的，５－张番茄的叶片图像，ＡＥＳＣＤ９２１４，包括健康叶片和种病害叶片图像。在此注意图集是本研宄团队在实地环境中采集的农作物病害叶片图像。该数据集中包含有不同分辨率，、角度、姿势、背景和照明条件的各类实际场景的病害叶片图像如图１．１所示。表３．７ＰｌａｎｔＶｉｌｌａｇｅ子集各类别名称以及对应的图像数量。图像类别细菌性健康晚疫病斑枯病叶蟥－二靶斑病斑疹病番茄斑蜘蛛螨图像数量２１２７１５９１１９０９１７７１１６７６１４０４训练集／测试集数量１７０１／４２５１２７２／３１９１５２７／３８２１４１６／３５５１３４０／３３６１１２３／２８１３－表．８本文收集的ＡＥＳＣＤ９２１４数据集中各类别名称以及对应的图像数量。病害名称水稻水稻水稻胡黄瓜黄瓜黄瓜纹枯病稻瘟病麻斑病白粉病霜霉病靶斑病图像总数量３５５９２７４１７９５７６３７８０５７６训练集／测试集数量２８４７／７１２２１９２／５４８６３６／１５９６１０／１５３６２４／１５６４６０／１１６３－．７和表３．８分别列出了本论文实验中使用的ＰｌａｎｔＶｉｌａｅＡＥＳ表ｌｇ子集和ＣＤ９２１４数据集中的类别名、各类数量、各类中训练集和测试集的数量。从表３．８可－以看出，ＡＥＳＣＤ９２１４数，这种情况在训练模型时据集中的类别数目很不均衡，会造成某些类别的训练不充分。这样的数据集分布会给训练模型的设计带来挑战，因为我们需要克服因为类别不均衡而带来的某些类别训练不充分。如果某些类别训练不充分，那么就很容易导致训练偏差问题。对于以上两个数据集，我们按照各类别的数量随机划分训练集和测试集，训练集和测试集中包含的各类别４１的数量比例为：。在本论文的所有实验中，除非特别说明外，所输入的图像数据尺寸均为＊一２５６２５６规格。这尺寸是在数据输入时直接使用ｔｅｎｓｏｒｆｌｏｗ框架下ｐｙｔｈｏｎ的ｒｅｓｉｚｅ函数裁剪规范的。所以对于输入图像的预处理工作，基于深度特征学习的２７ 第３章基于高阶残差的卷积神经网络的农作物病害识别研究一图像识别方法只需要进行这步尺寸规范的简单操作即可，这也凸显了基于深度特征学习的图像识别方法的优越性。３．４２ＰｌａｎｔＶｉｌｌａｅ．ｇ数据集一？ＰｌａｎｔＶｉｌｌａｅ是ｇ个庞大的问答论坛，世界各地的人可以在上面发布有关农业的问题。该论坛是由宾州大学流行病学家ＤａｖｉｄＨｕｇｈｅｓ和Ｍａｒｃｅ丨Ｓａｌａｔｈ６联合一建立的，其初衷旨在帮助小农户解决农业生产中遇到的问题，给大家提供个咨询互助的平台，。用户只需拍摄问题植物的照片并上传就能获得植物学家或遇到过相同问题的普通农户的指导或者解答。图３．８ＰｌａｎｔＶｉｌｌａｇｅ数据集中各类别图像展示。１Ｄ［］ｌｔＶｉｌｌ是基于该论坛构建而成的Ｐａｎａｇｅ数据集，数据集中共包含５４３０６张３８类病害和健康的农作物叶片图像，图３．８展示了该图像集中的各类图片的样例。ｉｌａｎｔＶｌｌａｅ网站上查询所需要的病害类别关键字这些图片我们可以通过在Ｐｇ，而搜索到相应的图片以及该类病害相关的问题。３８ｌ从图．中，ＰａｎｔＶｉｌｌａｅ，显而易见ｇ中的各类图片都是完整的叶片，而且单色简单背景，不存在任何的遮挡和背景因素干扰，不需要复杂的处理就可以非常容易的将叶片图像获取到。这样针对ＰｌａｎｔＶｉｌｌａｅ的图像集研宄的相关方法用于ｇ简单背景的图像识别比较有效，而对于带有复杂背景和各种环境因素干扰的实①．．ｐｌａｎｔｖｉｌｌａｇｅｐｓｕｅｄｕ２８ 第３章基于高阶残差的卷积神经网络的农作物病害识别研宄际环境下的农作物病害图像识别，针对该图集上的研究方法就可能会存在识别，对噪声的抗干扰能力弱精度低，鲁棒性不强等方面的问题。一因此面向实际环境的病害识别研宄时，此数据集的作用只能作为初步的个实验室研宄数据基础，对于实际验证还需要实际环境下采集到的带有环境因素和考虑各种影响因素的真实反应实际应用场景的数据资源支撑。３－．４．３ＡＥＳＣＤ９２１４数据集ＡＥＳ－ＣＤ９２６Ｄ数码相数据集１４是本研究团队在自然环境下使用Ｃａｎｏｎ机拍摄采集的农作物病害图像。我们拍摄了两种真实环境下的病害图像：水稻大田种植环境下水稻的３种病害图像和大棚种植环境下的黄瓜的３种病害图像。采集到的包含不同分辨率、角度、姿势、背景和光照等不同场景的６种原始病害２２４０３９图像合计，其原．，张始图像类别以及相应数量如表所示。６本研宄团队拍摄到的种病害类型分别为：水稻纹枯病、水稻稻瘟病、水稻胡麻斑病、黄瓜白粉病、黄瓜霜霉病、黄瓜靶斑病。我们在原始２２４０张图像的基础上，通过边角裁剪以扩充数据集，并对重复的以及未含有病斑的图像剔除之＊后最终形成９２－ＣＤ１４张２５６２５６，即Ｓ９２１４，规格为的图像集我们的ＡＥ图像集。ＡＥＳ－ＣＤ９２１４数据集中的图像带有各种噪声和环境因素如不同分辨率、角度、光－照等，其图像样例如图１．１所示。ＡＥＳＣＤ９２１４数据集中的类别数目很不均衡，其３．８类别名及其数量如表所示，。由于类别不均衡我们在识别过程中需要克服类－别不均衡带来的某些类别训练不充分导致训练偏差的问题，因此ＡＥＳＣＤ９２１４数据集对于识别方法具有挑战性。一，在实际应用中，由于训练集的标注图像需要专家参与，病害发生种类不会使得拍摄到的图像数量不均衡，带标注的训练集图像数量有限。所以我们的ＡＥＳ－ＣＤ９２１４能够真实反应实际环境下农作物病害图像识别时的数据资源现状，－这为农业领域研宄农作物病害识别提供了重要的图像资源，ＡＥＳＣＤ９２１４。同时数据集也足以用来验证本文方法对于实际环境病害识别的准确率和鲁棒性。３－？表．９本文收集的ＡＥＳＣＤ９２１４数据集中原始图像类别名称以及对应的围像数置病害名称水稻水稻水稻胡黄瓜黄瓜黄瓜纹枯病稻瘟病麻斑病白粉病霜霉病靶斑病图像总数量８９３６９４２０１２０１１９９１４５２９ 第３章基于高阶残差的卷积神经网络的农作物病害识别研宄３．４．４与现有方法对比１３［】实验数据集介绍：为了验证ＨＯＲｅｓＮｅｔ方法的识别准确率，与文献中的１３１［方法进行公平对比，本章选择了文献中相同的数据集与其进行识别准确率的＿对比实验。实验数据集是选取ＰｌａｎｔＶｉｌｌａｇｅ中的番茄１０种叶片图像集共１８１６０８０％，２０％。张图片，随机选取每类图片的作为训练集作为测试集来进行实验表３．１０在ＰｌａｎｔＶｉｌｌａｇｅ中番茄１０种叶片图傈集上的对比结果？方法识别准确率参数量识别时间ＡｌｅｘＮｅｔ０．９５６５２２７．６ＭＢ约０．１５ｓＳｕｅｅｚｅＮｅｔ０．ｑ．９４３２．９ＭＢ约００５ｓＨＯＲｅｓＮｅｔ０．９６４４０．４ＭＢ约０．１１ｓ实验结果：ＨＯＲｅｓＮｅｔ在ＰｌａｎｔＶｉｌｌａｇｅ中番茄１０种叶片图像集上测试的结１３］３ｔ果如表．１０所示。在表３．１０中，列出了我们的ＨＯＲｅｓＮｅｔ方法，文献中的６３６７［［］Ａ］ｌｅｘＮｅｔ方法以及ＳｑｕｅｅＺｅＮｅｔ三种方法测试获得的识别准确率、识别时间和对应的网络的参数量。６３６７］［］１０，人丨６＼他１１＾２６阶＾结果分析：由表３．结果可以看到相比于和８９方法，ＨＯＲｅｓＮｅｔ：（１）从识别准确率来看我们的方法在相同的数据集上的识别准确率最高ｌＮｔ０８１％，ｅＮｅｔ：比Ａｅｘｅ方法识别准确率高出．比Ｓｑｕｅｅｚ方法识别准确率高出２．１１％。（２）从参数量上来比较，我们的ＨＯＲｅｓＮｅｔ方法参数量远远少于ＡｌｅｘＮｅｔ方法与ＳｑｕｅｅｚｅＮｅｔ方法，仅为ＡｌｅｘＮｅｔ方法参数量０．１７６％，为ＳｑｕｅｅｚｅＮｅｔ方法参数量的１３．７９％。（３）从识别时间来比较，三种方法识别时间一０都在可接受范围内，我们的方法识别张图片的时间仅为．１１秒，介于ＡｌｅｘＮｅｔ方法和ＳｑｕｅｅｚｅＮｅｔ方法之间。综上所述，本章ＨＯＲｅｓＮｅｔ方法在相同的数据集上的测试结果与ＡｌｅｘＮｅｔ和ＳｕｅｅｚｅＮｅｔ，，，ｑ方法比相比，识别准确率更高参数量少识别时间相对也是比较快可以实现快速，ｅｓＮｅｔ、高精度识别的目标。此外本章提出的ＨＯＲ模型具有参数量少、模型小的特点。３．４．５抗干扰能力测试与对比分析为了评估本章ＨＯＲｅｓＮｅｔ网络的鲁棒性，我们将不同等级的噪声加入到测试图像集中，给出识别准确率的对比结果。Ｐ－ｌＶｉｌｌＥ９２１４实验数据集介绍：我们选取了ａｎｔａｇｅ数据集子集和ＡＳＣＤ数据集对本章ＨＯＲｅｓＮｅｔ方法的抗干扰能力进行测试。其中ＰｌａｎｔＶｉｌｌａｇｅ子集包括番，３茄的六种病害其种类名称和数量如表．７所示。３０ 第３章基于高阶残差的卷积祌经网络的农作物病害识别研究对比方法介绍：在以上两种数据集上，本章采用卷积神经网络ＣＮＮ、带反馈的卷积神经网络ＦＢ以及本章的ＨＯＲｅｓＮｅｔ三种方法进行抗千扰能力的对比实验。其中ＣＮＮ方法是通过去除ＨＯＲｅｓＮｅｔ模型结构中的残差模块后得到的通用卷积神经网络方法；ＦＢ方法指的是在ＣＮＮ基础上增加了反馈模块的方法。为了评估本章提出的ＨＯＲｅｓＮｅｔ网络的鲁棒性，测试其抗干扰能力，我们将不同等级的高斯和椒盐噪声加入到测试图像集中，通过实验测试，获得网络的识－别准确率对比结果。本章方法在两个数据集ＰｌａｎｔＶｉｌｌａｇｅ子集和ＡＥＳＣＤ９２１４上３——３４的对比结果在表．１１表３．１６中给出详细数据，曲线图如图３．９图．１所示。（３２１）在ＰｌａｎｔＶ川ａｇｅ子集上的结果：表３．１１、表．１、表３．１３依次列出了在ＰｉｌｌａｎｔＶｌａｇｅ子集测试集中加入不同等级的高斯噪声、椒盐噪声、同时加入不同等级高斯和椒盐噪声时，采用ＣＮＮ、ＦＢ、ＨＯＲｅｓＮｅｔ三种方法识别准确率的实验３９１１对比结果，其对应的曲线图如图．、图３．１０和图３．所示。３？从表．１１结果中００ＨＯＲ可以看到，当加入．１等级的高斯噪声时，我们的ｅｓＮｅｔ方法识别准确率达到了，０．５１０３，而ＣＮＮ方法的识别准确率只有０．３７０９是？ＨＯＲｅｓＮｅｔ识别准确率的７２．６８％ＦＢ方法的识别准确率也只有０，是ＨＯＲｅｓ．３９８１；Ｎｅｔ方法的７８．０１％。而在无噪声干扰（即添加的噪声等级为０时）时，ＣＮＮ、ＦＢ．５１％和９９．０６％。由此这两种方法的识别准确率分别是ＨＯＲｅｓＮｅｔ方法的９６可见，当添加高斯噪声干扰时，ＨＯＲｅｓＮｅｔ方法相比ＣＮＮ和ＦＢ方法而言，受高斯噪声干扰的影响最小，即ＨＯＲｅｓＮｅｔ方法在抗击高斯噪声干扰时具有强鲁棒性和高抗干扰能力。表３．１１在ＰｌａｎｔＶｉＨａｇｅ子集测雜中加入不同等级痛嗓声时，ＣＮＮ、ＦＢ、ＨＯＲｅｓＮｅｔ三种摊识别５＾１￥的对比结果．方法／噪声等级〇０．００５０．０１０．０１５０．０２ＣＮＮ０．８８５９０．５６６．．１０３７０９０．２９３６０２７７８ＦＢ０．９０９３０．６５２０．３９８１０．３０７９０．２７９７ＨＯＲｅｓＮｅｔ０．９１７９０．６４０１０．５１０３０．３６１３０．２８２１３１２ＰｌａｎｉｌｌＣＮＮＦＢＨＯＲｅｓＮｅｔ三表．在ｔＶａｅ子集测抑ＩＩ中加入不同等级椒盐嗓声时、、ｇ，种摊识别糊率的对比结果？方法／噪声等级〇０．００５０．０１０．０１５０．０２ＣＮＮ０．８８５９０．７５６６０．６０１０．５２４１０．４６９７ＦＢ０．９０９３０．８９０７０．８３０１０．７０１７０．５８０９ＨＯＲｅｓＮｅｔ０．．９１７９０．８８２６０．７６４２０６４７７０．６０３８３１ 第３章基于高阶残差的卷积神经网络的农作物病害识别研宄表３．１３在ＰｌａｎｔＶＨＩａｇｅ子集测试集中同时添加不同等级髙斯和椒盐噪声时，ＣＮＮ、ＦＢ、ＨＯＲｅｓＮｅｔ三种方法识别准确率的对比结果００．００５０．０．．方法／噪声等级１００１５００２ＣＮＮ０．８８５９０．４６９２０．３２０８０．２８９７０．２８１１ＦＢ０．９０９３０．５４８０．３３９９０．２８３５０．２５３ＨＯＲｅｓＮｅｔ０．９１７９０．５９４７０．４０１０．２７９７０．２３６３１．００００．９５０．，高斯噪声ｖｓ识别准确率运０．８００－－＾０－７５０ｉｆｃＣＮＮ０．７００＾０．６５０ＦＢ０．６０００－－－５５０Ａｙｖ？ＨＯＲｅｓＮｅｔ０．５００？０．４５０＼＼＼０．４００！Ｎｋ＼．０．３５００．３００ａａ屋０．２５０金０＾？．２００００．００５０．０１０．０１５０．０２０．０２５０．０３０．０３５噪声等级图３．９在ＰｌａｎｔＶｉＨａｇｅ子集测试集中加入不同等级高斯噪声时，ＣＮＮ、ＦＢ、ＨＯＲｅｓＮｅｔ三种摊识别糊率对比结果。０．０５．ＯＲ同样的，当同时添加等级的高斯和椒盐噪声时，由表３１３可知，ＨｅｓＮｅｔ０１７９５９４７，６４．７９方法的识别准确率．９衰减到了０．即衰减到了％ＣＮＮ方法；而的识别准确率由０．８８５９衰减到了０．４６９２，衰减到了无噪声干扰时的５２．９６％；ＦＢ方法的识别准确率由０．９０９３衰减到了０．５４８０，衰减到了无噪声干扰时的６０．２７％。由此可见，在添加００５，ＨＯＲｔ．等级的高斯和椒盐噪声时ｅｓＮｅ方法的识别准确率衰减的最少，从而说明其对噪声的抑制能力最强。对于添加各种等级如０．０１、０１．１１、３１２１．０５、０．０２等级的噪声时，我们从表３表．、表３．３中对应的最高的识别准确率（表中加粗数字）的数量统计可得到，ＨＯＲｅｓＮｅｔ方法的识别准确率取到了９次最高值，ＦＢ方法取得４次最高值，而ＣＮＮ方法仅取得２次最高值。由此可见，在数据集ＰｌａｎｔＶｉｌｌａｇｅ子集上，对于噪声的抗干扰能力测试方面，本文的ＨＯＲｅｓＮｅｔ方法最强，其次是ＦＢ方法，最差的是ＣＮＮ。另外，因为我们的ＨＯＲｅｓＮｅｔ方法是面向复杂背景含有噪声的农作物病害识别应用的，对于不带任何背景的数据集ＰｌａｎｔＶｉｌｌａｅ子集中图片的识别ｅｓＮｅｔ方法表ｇ，虽然我们的ＨＯＲ３２ 第３章基于高阶残差的卷积神经网络的农作物病害识别研宄椒盐噪声ｖｓ识别准确率ｉＺ°°＋ＦＢ｜〇７ｓ〇＼－＾ＨＯＲｅｓＮｒｔｌ〇：Ｓ〇０．６００ＪＬ０．５５００－５０００．４５００．４０００．３５００．３０００．２５００．２００００．００５０．０１０．０１５０．０２０．０２５０．０３０．０３５噪声等级图３＿１０在ＰｌａｎｔＶｉｌｌａｇｅ子集测试集中加入不同等级椒盐噪声时，ＣＮＮ、ＦＢ、ＨＯＲｅｓＮｅｔ三种方法识别准确率对比结果。１．００００９Ｓ０高斯＋椒盐噪声ＶＳ识别准确率｜０．９００９圓雖＇？０．８００每０．７５。％＋ＣＮＮ费０．７０。＼Ｓ０．６５０Ｖ＼－＾－ＦＢｎｃ０．５００Ｖｉｌ０５５００－－．５００Ｖ？ＨＯＲｅｓＮｅ＼ｔ０．４５０＼气＼ｗ０．４００Ｗｌｌ０．３５００３００ＡＡａ０．２５０Ｗ＾＾全０．２０００．１５０００．００５０．０１０．０１５０．０２０．０２５０．０３０．０３５噪声等级图３．１１在ＰｌａｎｔＶｉｌｌａｇｅ子集测试集中同时添加不同等级高斯和极盐噪声时，ＣＮＮ、ＦＢ、ＨＯＲｅｓＮｅｔ三种方法识别准确率对比结果，现不差，，但其优势并不能特别突出的体现出来整体识别精度不是太高。—３１１。在图．９图３．中，横轴表示的是噪声等级，纵轴表示的是识别准确率显—而易见，本章的ＨＯＲｅｓＮｅｔ方法（即图３．９图３．１１中红色带矩形标记的曲线）在ｌａｎｔＶｉ丨丨ａｅ子集上的识别准确率均高于其他对比方法数据集Ｐｇ，且在添加不同等级的噪声干扰时，ＨＯＲｅｓＮｅｔ方法的识别准确率曲线相比其他方法而言，整体下３３ 第３章基于高阶残差的卷积神经网络的农作物病害识别研宂，，降缓慢，表明了经噪声干扰后其识别准确率衰减最缓慢同样具有较其他两种，具有更高的鲁棒性和抗干扰能力方法更高的识别准确率。－（２）ＳＣＤ９２１４．１４、表３．．在ＡＥ数据集上的结果：表３１５、表３１６依次列出Ｓ－ＣＤ９２了在ＡＥ１４测试集中加入不同等级的高斯噪声、椒盐噪声、同时加入不同等级高斯和椒盐噪声时，采用ＣＮＮｅｓＮｅｔ三、ＦＢ、ＨＯＲ种方法识别准确率的实验对比结果。其对应的曲线图如图３．１２、图３．１３和图３．１４所示。３－表．１４在ＡＥＳＣＤ９２１４测微中加入不同等级高斯嗓声时，ＣＮＮ、ＦＢ、ＨＯＲｅｓＮｅｔ三种摊识别＿率对雌果。方法／噪声等级００．００５０．０１０．０１５０．０２０．０２５０．０３ＣＮＮ０８８２９０．５９８９０．４８３５０．４１５７０．３６８６０．３２８５０．２９１１．ＦＢ０．８８５６０．４３２５０．３３５０．２８３５０．２４７７０．２１８４０．２０２７ＨＯＲｅｓＮｅｔ０．９０１４０．５７８９０．４８６７０．４４５５０．４１６８０．３９５１０３７５６．３－入不同等级椒盐嗓声时．１５ＳＣＤ９２１４测韵｜｜中加ＣＮＮ、ＦＢ、ＨＯＲｅｓＮｅｔ三种表在ＡＥ，施识别輔率对比结果。方法／噪声等级００．００５０．０１０．０１５０．０２０．０２５０．０３ＣＮＮ０．８８２９０．７７３４０．６９４９０．６３６９０．５９０８０．５４８０．５１９２ＦＢ０．８８５６０．７７６２０．６４３９０．５３９３０．４６．．１２０４１３０３８２１ＨＯＲｅｓＮｅｔ０９０１４０．７８２１０．６９４３０６４１２０５９３０５５１２０５３３３．．．．．－３－表．１６在ＡＥＳＣＤ９２１４测＾中同时添加不同等级高斯和椒盐嗓声时，ＣＮＮ、ＦＢ、ＨＯＲｅｓＮｅｔ三种摊识别職率对比结杲。００．００５０．００．０１５０．０２０．０２５０．０３方法／噪声等级１ＣＮＮ０．．８８２９０５５５６０．４３６９０．３６４８０．３２１４０．２７１０．２４０７ＦＢ０．８８５６０．３９８４０．３０１９０．２５３７０．２１９０．１９６７０．１７７２ＨＯＲｅｓＮｅｔ０．９０１４０．５５７７０．４６３４０．４０７６０．３８５９０．３５８３０．３３０１－９２在ＡＥＳＣＤ１４，对于添加各种等级如０数据集上．０１、０．０１５、０．０２等级的噪声时，我们从表３、３．１４、表３．１５表．１６中对应的最高的识别准确率（表中加粗数字）的数量统计可得到，除了ＣＮＮ方法取得２次最高值外，其余均为ＨＯＲｅｓＮｅｔ方法取到最高识别准确率值－。由此可见，在实际环境带有复杂背景的数据集ＡＥＳＣＤ９２１４上，相比ＦＢ和ＣＮＮ方法对于噪声的抗干扰能力，本章的ＨＯＲｅｓＮｅｔ方法抗击噪声的能力最强，适合于实际应用需求。３４ 第３章基于高阶残差的卷积神经网络的农作物病害识别研究１．０００。＠。高斯噪声ＶＳ识别准确率狒＾０．９００Ａ°－８５０ｍ＼？０．８００＼＼—－ｆ＼忠０．７００＼＼一《ｒＢ０．６５０＼＼０—＾－ＨＯＲＮ．６００＼ｅｓｃｔ０．５５０＼０．５００＼哪Ｖ０．４００＾Ｗ０．３５０■、＇０．３００？▲０．２５０一０１．２００？０．１Ｓ００Ｑ．．．００５０．０１０．０１５０．０２０Ｄ２５０．０３００３５噪声等级３１２ＡＥＳ－ＣＤ９２１４，ＣＮＮ、ＦＢ、ＨＯＲｅｓＮｅｔ三图．在测试集中加入不同等级髙斯噪声时种方法识别准确率对比结果。１．０００齋０．９５０椒盐噪声ＶＳ识别准确率摆。＇柳ｔ擊。．８５。ｇ０．８０００．７５００．７００－？－ＨＯＲｅｓＮＨ０．６Ｓ０＾０．６００＊０．５０００．４５００．４０００３５０一一一一一■？、．、、一一．、．．細０．３００００．００５０．０１０．０１５０．０２０．０２５０．０３０．０３５噪声等级３－ｅｓＮｅｔ三图．１３在ＡＥＳＣＤ９２１４测试集中加入不同等级椒盐噪声时，ＣＮＮ、ＦＢ、ＨＯＲ种方法识别准确率对比结果。—同样的，３．１２图３１４来分析我们的实验结果。在图３．１２我们也可以通过图．一３．１４，纵轴表示的是识别准确率。显而易见，图中，横轴表示的是噪声等级本章—ＨＯＲ３－的ｅｓＮｅｔ方法（即图．１２图３．１４中红色带矩形标记的曲线）在数据集ＡＥＳＣＤ９２，，１４上的识别准确率均高于其他对比方法且在添加不同等级的噪声干扰时ＨＯＲｔ，ｅｓＮｅ方法的识别准确率曲线下降最缓慢，表明了经噪声干扰后其识别准确率衰减最缓慢，同样具有较其他两种方法更高的识别准确率，具有最高的鲁棒３５ 第３章基于高阶残差的卷积神经网络的农作物病害识别研究１．００００．９５０＋椒盐噪声讲＿高斯ＶＳ识别准确率意０．８５。＇＋ＣＮＮ＾０．８００＼０＇７５０＾＾—ＦＢｏ－７００Ｕ＼＼？￡°－６５０－？Ｈ－＼＼ＨＯＲｅｓＮＨ０．６００＼＼０－５５０＼＾０．５００＼０４５０Ｖ議＼０：．３５０飞－、０３０００．？０、±０．２００＾丨—Ｙ０．１５０００．．．００５００１００１５０．０２０．０２５０．０３０．０３５噪声等级３－－图．１４在ＡＥＳＣＤ９２１４测试集中同时加入不同等级髙斯和椒盐噪声时，ＣＮＮ、ＦＢ、ＨＯＲｅｓＮｅｔ三种；＾识别准确率对比结果。性和抗干扰能力。－综上所述，在ＡＥＳＣＤ９２１４数据集上，本章ＨＯＲｅｓＮｅｔ方法对于所添加的高斯噪声和椒盐噪声的抗干扰能力相比ＣＮＮ、ＦＢ方法更强，具有更高的鲁棒性和识别准确率。这充分展示了ＨＯＲｅｓＮｅｔ方法在处理自然环境下采集到的农作物病害图像识别问题时具有高识别准确率和强鲁棒性，具有很好的抗千扰能力，能够满足实际应用需求。３．５本章小结面向农作物病害识别实际应用需求一，本章引入了种高阶残差卷积神经网络（ＨＯＲｅｓＮｅｔ）方法实现快速、准确和鲁棒的识别农作物病害。主要从本章提出的ＨＯＲｅｓＮｅｔ方法的研究动机入手，详细介绍了ＨＯＲｅｓＮｅｔ方法和实验验证。在介绍ＨＯＲｅｓＮｅｔ时，主要是从ＨＯＲｅｓＮｅｔ的网络整体结构开始介绍，接着详细介绍了方法中高阶残差网络的结构和实现细节，并且对ＨＯＲｅｓＮｅｔ网络结构从卷积层添加的必要性和添加的层数多少两方面进行深入探讨。最后介绍了网络的参数详情以及ＨＯＲｅｓＮｅｔ方法的实现细节。在实验验证部分，从实验数据、对比方法介绍以及方法精度和鲁棒性测试等方面介绍。在实验验证测试是在两个数据集上分别进行的，充分而又全方位的展现了ＨＯＲｅｓＮｅｔ方法的优越性。特别强调的是，为了更好地验证ＨＯＲｅｓＮｅｔ一的鲁棒性和抗干扰能力，我们新创建了个真实场景农作物病害图像数据集：３６ 第３章基于高阶残差的卷积神经网络的农作物病害识别研究ＡＥＳ－ＣＤ９２Ｉ４，这为农作物病害识别研宄提供了重要的图像资源，有助于整个农作物病害识别领域的研究发展。实验表明，ＨＯＲｅｓＮｅｔ方法在识别准确率方面优于在测试数据集上的其他方法。此外，当测试图像中添加不同级别的噪声干扰时，我们的ＨＯＲｅｓＮｅｔ方法相比其他方法仍然获得更高的识别精度，尤其是在ＡＥＳ－９２１４ＣＤ数据集上，ＨＯＲｅｓＮｅｔ方法具有高识别准确率、强鲁棒性和较好的抗干扰能力，充分说明了ＨＯＲｅｓＮｅｔ方法能够满足实际农作物病害识别应用需求一。未来可考虑在网络中引入反馈机制以进步提高网络的整体抗噪能力。３７ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研究第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研究本章主要介绍基于基于高阶残差和参数共享反馈的深度卷积神经网络农作物病害识别方法。首先，在４．１节中介绍背景知识。其次，在４．２节研究动机和．解决概要。再次，在４３节详细介绍基于高阶残差和参数共享反馈的深度卷积神经网络（ＨＯＲＰＳＦ）方法，主要从ＨＯＲＰＳＦ网络整体架构、ＨＯＲＰＳＦ方法中的高阶残差子网络、参数共享反馈子网络的结构实现、参数详情和实现细节等方面详细介绍和展现了我们的ＨＯＲＰＳＦ方法。从次．４节给出了实验验证和结果分，在４析。最后，在４．５节对全章内容进行总结和展望。４．１引言ｍＭｍＷｂｄ）（ｊＷ（ｊ｜｜｜ｅｆｈ（）（）（ｇ）（）ｌｌ｜４Ｅ图．１在ＡＳＣＤ９２１４数据集上带卷积层和不带卷积层的识别准确率对比结果曲线图？注：（ａ）图像中出现了人手，给识别带来干扰；（ｂ）图像中水沟，杂草等背景影响主体病害图像；（ｃ）图像中固定桩的出现给图像带来了识别干扰：（ｄ）光照不足影响图像质量和识别准确率：（ｅ）光照过强，使得图像主体曝光白化；（ｆ）杂草遮挡病害部位；（ｇ）塑料薄膜出现导致背景复杂：（ｈ）水珠、污溃使得图像病斑变形。实际环境下农作物病害图像采集过程中会遇到各种环境因素的干扰，导致采集到的图像背景复杂，受光照影响，病害图像主体被遮挡等等情况发生，这使得实际环境农作物病害图像识别具有了更大的挑战性。３８ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄４．实际环境下采集到的农作病害图像包含有各种环境因素，如图１所示。采集到的图像中可以会出现以下因素的干扰，诸如图像中可能会出现拍摄者的手、，小鸟或者其他动物；可能会受光线影响阴天光线不、土壤、水珠、动物粪便等；可能会与农田中水沟足或者晴天的中午光线过强导致图像拍摄不清楚、杂草等一起出现在图像中，使得目标图像不明确；大棚环境下还有塑料薄膜、作物固定桩、支架等杂物干扰主要识别的农作物病害图像目标。这些不同于简单背景的干扰因素，，直接增加了农作物病害识别的难度使得实际环境下带有复杂背景的农作物病害图像识别成为一项具有难度的挑战性研究工作。农作物病害图像识别是农作物病害科学防治和安全生产的重要前提，对粮食安全生产和生态环境都具有重要意义，。因此面向实际环境下农作物病害的快速一、准确、抗干扰的识别是项非常有意义且具有研究价值的重要课题。目前的农作物病害识别研宄基本都是针对简单背景的图像进行分类识别，或者是通过迁移学习将预训练模型引入到实际问题来解决样本不足的问题。当面对实际环境下农作物的病害是识别问题时，识别速度、准确率和鲁棒都不能满足需求。农作物病害识别的准确率和鲁棒性是面向实际环境下农作物病害识别应用首先需要解决的重要难题。在本论文第三章，我们引入了高阶残差模块对农作物病害识别准确率方面有了很大的提髙，但是鲁棒性方面表现不是太令人满意。本章我们将继续致力于解决实际环境农作物病害图像识别的准确率和鲁棒性两一。方面需求，进步研宄实际环境农作物病害图像的识别问题４．２研究动机目前农作物叶部病害识别研宄主要是针对简单背景，或者公开的数据集上的病害图像的识别研究。当面向实际环境下带有复杂背景和各种环境影响因素干扰的图像识别时，，识别准确率效果往往不能令人满意、识别速度以及抗干扰能力都不能满足实际应用需求。因此，我们需要同时兼顾准确率和鲁棒性两方面的要求，研宄满足实际应用需求的农作物图像病害识别方法。在第三章中，将残差学习的思想引入到识别网络中，并提出了高阶残差网络的概念，采用基于高阶残差的深度卷积神经网络方法对实际环境农作物，基于此１Ｇ［］病害图像进行识别，实验表明，在公开数据集ＰｌａｎｔＶｉｌｌａｇｅ的番茄１０种叶片６３６７一［］［］图像上的识别准确率高于ＡｌｅｘＮｅｔ方法和ＳｑｕｅｅｚｅＮｅｔ方法，且识别张图０－片的时间只需要．１１秒。在农作物病害图像数据集ＡＥＳＣＤ９２１４上的识别准确率达到了０．９１７９，可以满足实际应用的精度需求。但是，从实验中我们也可以看到，，鲁棒性方面的改善不太明显模型对于噪声的抗干扰能力不是太好。如何能面向实际环境下带有复杂背景和各种噪声因素的农作物叶部病害图像识别问题３９ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄一来提高其识别准确率和鲁棒性？这是实际应用的关键问题，也是本论文课题直研究的核心问题。面向深度卷积网络的鲁棒性研究方面一些前期的，也已经有研究者开展了８９一［工作１。高君宇等人构建了个两路对称且权值共享的深度卷积神经网络来增强目标的可识别性，来解决目标跟踪过程中遮挡、光照变化等问题的鲁棒性．９Ｇ一［Ｚｈｅｎ人】提出了ｇ等种通过稳定性训练提高深度网络鲁棒性的方法，该方法通过对输入图像具有小扰动的图像进行训练，使得模型保持恒定，具有更高的鲁棒性。通过在ｉｍａｇｅｎｅｔ数据集上实验结果显示，网络加入稳定性训练可以实现９１［１更高的性能，当在噪声数据集上进行测试时测试准确率更高。Ｈａｙｄｅｒ等人提出一种多级卷积神经网络提取多尺度特征，以提高图像识别的鲁棒性。他们的通，ＣＩＯＷＥ１０和ＣＩＯＷＯＩＯＯ，具有较高的识别准确率过ＭＮＩＳＴ数据集来评估，验９２证了方法的鲁棒性ｗａ［］。为了解决面部图像的头部姿势大的变化，Ｋｏｌｓｋｉ等人－提出了种深度对准网络。他们的方法使用整个面部图像在所有阶段，而不是只使用局部贴片，网络的鲁棒性己经引起了研究者的极大关注。对。以上工作表明于复杂背景以及带有噪声的图像识别研宂工作方面，Ｃａｏ等人在卷积神经网络中引入反馈回路，证明了反馈网络有助于更好地捕捉具有复杂背景和多个物一定水平的选择性体的图像中预期目标的视觉注意力。而且反馈网络具有，可以在自上而下推理过程中提供非相关抑制，允许模型聚焦于提髙类置信度的最显著图像区域。从第三章的实验结果分析中，我们看到高阶残差和反馈在抑制噪声干扰方一９３面都能发挥［１定的作用。同时，基于Ｃａｏ等人在卷积神经网络中引入反馈网络获得的较好的实验结果的研宄基础，以及对于复杂背景的视觉注意力的良好的捕捉效果的启发，我们考虑将反馈网络引入到我们第三章的高阶残差网络中，来研宄是否能进一步满足我们面临的实际环境下农作物叶片病害图像识别问题需求，希望能通过反馈网络的加入，使得基于高阶残差卷积网络方法的识别准确率和识别鲁棒性进一步提高。在本章中，我们将研究基于高阶残差和参数共享反馈的卷积神经网络方法，解决实际环境下农作物叶片病害的高准确率和强鲁棒性的识别问题。４．３基于高阶残差和参数共享反馈的深度卷积神经网络方法一本章研宄工作旨在面向实际环境农作物病害识别问题，构建个简单快速、准确率高、抗干扰能力强、鲁棒性好的深度卷积神经网络，以实现农作物病害图像快速准确识别。本节将首先介绍本章的基于高阶残差和参数共享反馈的卷积神－－ｉｈＯｒｄｅｒＲｅｓｉｄｕａｌａｎｄＰａｒａｍｅｔｅｒＳｈａｒｉＦｅｅｄｂａｃｋＣｏｎｖｏ经网络（ＨｇｎｇｌｕｔｉｏｎａｌＮｅｕｒａｌ４０ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄Ｎｅｔｗｏｒｋ，ＨＯＲＰＳＦ）的整体框架结构图；然后，分别介绍高阶残差子网络和参数共享反馈子网络的结构，、参数以及性能；最后给出网络采用的损失函数以及实现细节。４１．３．网络整体结构图本章提出的ＨＯＲＰＳＦ方法实现农作物病害的准确识别，兼顾识别的抗千扰能力、精确度以及速度。ＨＯＲＰＳＦ方法的网络整体框架结构如图４．２所示，对于４、１待分类的农作物病害图像，本章通过１个卷积层、个残差模块个参数共享反馈子网络、１个全局平均池化层和１个Ｓｏｆｔｍａｘ层来直接输出该输入图像的类．２中绿色模块代表残差子网络（如图４）别概率．３所示，，预测出该病害类别。图４黄色模块代表参数共享反馈子网络（如图４．４所示）。卷积ＲｅＬＵ最大池化＿＾＿全局平均池化展输入阒片ＡｉｎＩＩ２＾２３＿块，篇ｓ卜１１＿：４２ＨＯＲＰＳＦ图．本章提出的网络整体结构图。注：图中绿色模块代表残差子网络（如图４．３所示），黄色模块代表参数共享反馈子网络（如图４．４所示）。在图４．２中，为了有效利用不同层的特征，本章方法中连接了前三个残差模块的输出。因为我们在实验中发现这种级联机制可以提高模型的识别准确率。我Ｓ－ＣＤ９２们在实际环境农作物病害数据集ＡＥ１４上，采用无级联的ＨＯＲＰＳＦ方法和ＨＯＲＰＳＦ方法测试了识别准确率，其实验结果如表４．１所示。实验中超参数设＿３—３置如下￡＞ａｆｃｈｓ＝＝ｙ＝ｌ，ｒ＝ｉｚｅ８０，ｄｒｏｏｗｒ０．５，４ｄａｍ２ｘ０２Ｘ１０，：ｐ学习率Ｚｎｕｍｅｎｏｃｈ＝１５０。＿ｐ４ＡＥＳ－ＣＤ９２表．１在１４数据集上，采用无级联的ＨＯＲＰＳＦ方法和ＨＯＲＰＳＦ方法识别准确率实验结果对比，方法ＨＯＲＰＳＦＨＯＲＰＳＦ无级联识别准确率０．９２５７０．９００５４ＡＥＳ－ＳＦ．１可ＣＤ９２１４数据集上用ＨＯＲＰ方法进行识由表以看到，当在，采别时，准确率为０．９２５７；而当采用无级联的ＨＯＲＰＳＦ方法进行识别测试时，准４１ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研究确率只有０．９００５。这充分说明了这种级联操作可以提高模型的识别准确率。这是因为这种级联操作可以为后面的网络层提供更丰富的特征一包含低层细节和高层语义特征，使得用于分类识别的特征更完整丰富，从而提高了模型的识别准确率，同时还可以间接提高网络的鲁棒性。因此，我们在本章中采用了这种级联的方式，并将这种级联操作命名为高阶Ｈｈ－ＯｄｅＲｉｄｌ残差模块（ｉｒｒｅｓｕａＨＯＲ），其中残差模块的结构４３，ｇ，如．所示。此外为了对图像特征进行精细过滤以提高其抗干扰能力，本章方法在高阶残差子网一个参数共享反馈子网络，４４络中间插入了其结构如图．所示。４．３．２高阶残差子网络本章提出的Ｈ０ＲＰＳＦ网络中高阶残差子网络结构如图４．３所示，残差子网络与第三章３．３．２节中的网络结构和参数均相同。因为我们已经发现这种结构可以提高模型的识别准确率，因此直接以第三章的高阶残差网络为基础，来进行本章方法的延伸，关于高阶残差子网络的介绍在此不再赘述。卷积核：３＊３卷积核：１＊１卷积核：３＊３＊２＊＊步长：２步长：１１步长：１１通道数：２ｘ通道数通道数：２ｘ：ｘ■■卷积細－－４３图．残差子网络结构及参数细节。４．３．３参数共享反馈子网络为了对实际环境下采集到的可能包含各种噪声因素的图像具有高识别精度一，ＳＦ和抗干扰能力在本章的Ｈ０ＲＰ方法中定义了个新的参数共享反馈子网络，其结构如图４．４所示。参数共享反馈子网络是将卷积层重新加载，加载之后进行两次卷积，再将卷积结果返回到前面的浅层，重复加载之后作为输出传递到后面＊的网络层模型中。其中涉及到的卷积层为３３的卷积核，步长为１。我们可以从图４．４中清楚的看到参数共享反馈子网络的整个流程。本章方法中引入参数共享反馈子网络的目的是希望通过将网络中深层卷积一层的特征反馈至浅层卷积层，，对网络特征进行再次的精细过滤调整使得原深层特征中的背景噪声进一步被抑制，有效提高模型的鲁棒性。为了验证参数共享４２ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄－，■．二ｖ：．二‘＊３ｗｄ二＾卷积核：３＊步长：ｉｉ｜卷积ＲｅＬＵ最大池化—＿＿图４．４参数共享反馈子网络结构图。１Ｇ［］－２反馈子网络的作用，我们同样在ＰｌａｎｔＶｍａｇｅ子集上以及ＡＥＳＣＤ９１４上进行实验，实验结果如表４．２所示。．２可以看到ａｎｔＶａｅ由表４，加入参数共享反馈子网络之后，在Ｐｌｉｌｌｇ子集上－识别准确率由０，２４．８８５９提升到０．９０９３而在ＡＥＳＣＤ９１数据集上识别准确率由一０．８８２９提升到０．８８５６，由此表明，引入参数共享反馈子网络可以在定程度上提高识别准确率。值得注意的是，引入参数共享反馈子网络的最大意义在于提高模型的抗干扰能力，这将在实验部分详细阐述。４２－表卷积神经网络（ＣＮＮ）引入和不引入参数共享反馈子网络（ＰＳＦ）在数据集ＰｌａｎｔＶＨ．－ｌａｇｅ子集和ＡＥＳＣＤ９２１４上测试的识别准确率对比结果。数据集／方法ＣＮＮｗｉｔｈｏｕｔＰＳＦＣＮＮｗｉｔｈＰＳＦＰｌａｎｉｌｌ．．９０９３ｔＶａｅ０８８５９０ｇＡＥ－２ＳＣＤ９１４０．８８２９０．８８５６４．３．４网络参数ＨＯＲＰＳＦ一本章方法是个简单快速，具有高鲁棒性的卷积神经网络。表４．３中列出了ＨＯＲＰＳＦ方法中采用的主要参数。其中，高阶残差子网络的参数详见图４．３所示．４，参数共享反馈子网络参数详见图４所示。４，。１ｘ１３ｘ３从表．３中可以看到为了减少网络参数的数量我们只使用和两种类型的核大小，这也有助于避免因为图像集过小而产生过拟合。此外，我们使一用更深的深度网络设计策略来设计网络通道的每层，在每个层上都使用了小通道。４３ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄表４．３本聿提出的ＨＯＲＰＳＦ网络参歎详情层名输出尺寸滤波器尺寸ｈ／ｗ／ｃｈｘｗ／ｓｔｒｄｅ（（）ｉ）卷积层２５６／２５６／８３ｘ３／１－残差模块１１２８／１２８／１６２６４－残差模块／６４／３２残差模块３３２／３２／６４－３２－反馈模块／３２／６４４－残差模块１６／１６／１２８全局平均池化层ｘ－１１２８Ｓｏａｘｘ６－ｆｔｍ层１４．．３５方法实现细节简介本章方法中目标函数使用Ｓｏｆｔｍａｘ，其公式如公式（３１）。．我们在三个数据集：９４１Ｇ［］－［】Ｍａ－ｌａｙａＫｅｗ数据集子集ＭＫＤ２、ＰｌａｎｔＶｉｌｌａｅ子集和ＡＥＳＣＤ９２１４上叶片ｇ对ＨＯＲＰＳＦ方法进行验证。在ＮＶＩＤＩＡＧＰＵ１０８０ｉ的机器上，训练丨００个ｅｐｏｃｈ大约需要２０分钟。通常，经过５０次迭代训练之后，ＨＯＲＰＳＦ便能够输出令人。ｄａｍ３），满意的精度本章中利用Ａ最优化算法对公式（．１的损失函数进行优化－３初始学习率为２Ｘ１０。批处理大小设置为１２０。在测试阶段，为了证明所提出的ＨＯＲＰＳＦ网络的抗干扰能力，我们将不同等级的高斯和椒盐噪声加入到测试图像中，以测试网络的识别精度，评估网络的鲁棒性。４．４实验４４１．．数据集介绍９４】［－Ｍ－ｌＫ子集ＭＫＤ２、ＰｌｔＶｌ本章使用了三个实验数据集：ａａｙａｅｗ叶片数据集ａｎｉ＾－＾ｌａｇｅ子集和ＡＥＳＣＤ９２１４。ＭａｌａｙａＫｅｗ叶片数据集是从英国克佑的皇家植－－４４－，包括两个子集Ｄ１和ＭＫＤ２。ＭＫＤ１是对物园收集的类叶片数据集：ＭＫ收集的图像经过多角度旋转扩充成训练集为２２８２测试集为５２８的整叶图像集。－ＭＫＤ２是－ＭＫＤ，将１中的整叶进行局部裁剪形成的局部叶片图像并经过多角－度旋转扩充而成的图像集，ＭＫＤ２中４４类图像训练集中每类有７８８张图片，测试集中每类有２００张图片。一１ＧＰ［ＩｌａｎｔＶｉｌｌａｅ数据集是个包含有多种植物的健康和病害的图像集ｇ。关于３８一农作物病害的健康和病害图像共有类，五万多张图像，每类的图像数量是不均衡的。本论文的ＰｉｌｌｌａｎｔＶａｅ子集是选取ＰｌａｎｔＶｉｌｌａｅ所收集的１０４７８张番ｇｇ，４４ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研究５，３．７茄的叶片图像，包括健康叶片和种病害叶片图像具体类别和数量如表所－Ｄ２和Ｐ列。ＭＫｌａｎｔＶｉｌｌａｅ都是目前研究工作中广泛使用的公开农作物病害图像ｇｉ４７〇９４Ｕ，，数据集［］可以用来和现有方法进行识别准确率对比实，具有简单的背景，验，以验证本章ＨＯＲＰＳＦ方法的识别精度。ＥＳ－ＣＤ９２数据集Ａ１４是本研究团队在自然环境中采集的作物病害图像。该数据集中的图像具有不同的尺寸大小、拍摄角度、背景和光照等环境条件，其图４－像样例如图．１所示。ＡＥＳＣＤ９２１４数据集中的类别数目不均衡，其类别名及其数－２量如表３，．８所示。ＡＥＳＣＤ９１４数据集对于识别方法具有挑战性因为需要克服类别不均衡带来的某些类别训练不充分，存在训练偏差的问题。实验中，我们将－ＰｌａｎｔＶｉｌｌａｇｅ子集和ＡＥＳＣＤ９２１４数据集中的图像按类别随机划分２０％作为测试集、８０％作为训练集。４．４．２对比方法介绍－本章实验验证包括两种类型：（１）在ＭＫＤ２上，本章ＨＯＲＰＳＦ方法与现有１Ｇ［］ＥＳ－２方法对比以验证识别准确率。（２）在ＰｌａｎｔＶｉｌｌａｇｅ子集及ＡＣＤ９１４数据集上，从精度和鲁棒性两方面对本文ＨＯＲＰＳＦ方法进行详细的实验验证。９５－［］１＾£８８＼＾在０２上实验中的对比方法包括文献１（１１６？）１＾中的＾方９６ＬＮＮ［］ＨＣＦＳＶＭ－法ｅａｆＳｎａ法中的（ＲＢＦ）方法、ＨＣＦＳｃａｌｅＲｏｂｕｓｔ、ｐ方；文献９［７』ＳＶＭ（ＲＢＦ）方法、ＣｏｍｂｉｎｅＳＶＭＳＩＦＴＳＶＭ线性方法；文献中的线性方法等。９５［］Ｍ文献中ＳＶ（ＲＢＦ）方法是对叶片特征进行提取之后使用基于径向基核函数ＲＢＦ的ＳＶＭ分类器来对提取到的叶片特征进行分类。其中ＳＶＭ使用的９８９９［［］］是ｌｉｂｓｖｍ来实现的，而特征提取使用的是ＬＥＡＲ的方法实现的ｇｉｓｔ特征ＬＮＮ［＿提取ｅａｆＳｎａｉｓｔ，。ｐ方法是使用ＬＥＡＲ的方法提取ｇ特征之后使用神经９９［］ＳＶＭ网络对提取到的叶片的ｇｉｓｔ特征进行分类识别。ＨＣＦ（ＲＢＦ）方法是对９６［］文献中表１列出来的手工设计的特征进行提取之后使用基于ＲＢＦ的ＳＶＭ分－ｔ类器进行分类。ＨＣＦＳｃａｌｅＲｏｂｕｓＳＶＭ（ＲＢＦ）方法是对ＨＣＦ特征中去除掉叶轮廓长度、面积和骨架长度的其他手工特征进行提取，并使用基于ＲＢＦ的ＳＶＭＣｏｍｂ一分类器进行分类ｉｎｅＳＶＭ方法个卷积神经网络。线性中特征提取包括一１Ｑ１－ｏｎｖｅ［］５ＣＮｔ提取的特征、ＨＣＦＳｃａｌｅＲｏｂｕｓｔ特征。其中ＣｏｎｖＮｅｔ是个包括个卷积层、３个最大池化层和２个全连接层的神经网络系统，用来提取叶片集的特－Ｓｃａ／２征。ＨＣＦｌｅＲｏｂｕｓｔ特征是手工设计的特征，包括：紧性（面积周长）、坚固性（凸面面积／面积）、周长、骨架长度／周长、以及叶像素强度特征（包括强度值、最大值）、范围、均值、中值、标准偏差、峰度、偏度等。通过这些策略提取到９７特征之后使用ＳＶＭ分类器对这些特征进行分类ＳＶＭ［］。ＳＩＦＴ线性方法是通过４５ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄提取ＳＩＦＴ特征，使用基于稀疏编码的线性空间金字塔匹配ＳＰＭ核的简单线性ＳＶＭ分类方法进行分类识别。在对本章方法的详细讨论验证部分，本章采用了ＣＮＮ、ＰＳＦ、ＨＯＲ和ＨＯＲＰＳＦ四种方法进行对比实验。其中ＣＮＮ方法是通过去除本章ＨＯＲＰＳＦ模型结构中的高阶残差和参数共享反馈模块后得到的通用卷积神经网络，即无反馈无残差一的卷积神经网络，包括６１层卷积层、１最大池化层、１个全局平均池化层和个ｓｏｆｍａｘ层；ＰＳＦ方法指的是在ＣＮＮ基础上添加了参数共享反馈模块的方法；ＨＯＲ方法指的是在ＣＮＮ基础上添加了高阶残差模块的方法。４．４．３与现有方法对比ＨＯＲＰＳＦＭＫ－Ｄ２为了验证本章方法的精度，本章首先在数据集上与现有方法进行识别准确率对比，对比方法包括ＬｅａｆＳｎａｐＳＶＭ（ＲＢＦ）、ＬｅａｆＳｎａｐＳＶＭ－ＳｃａＮＮ、ＨＣＦＳＶＭ（ＲＢＦ）、ＨＣＦｌｅＲｏｂｕｓｔＳＶＭ（ＲＢＦ）、ＣｏｍｂｉｎｅＳＶＭ线性以及本文的ＨＯＲＰＳＦ等方法。实验对比结果如表４．４所示。表４４ＭＫ－．Ｄ２数据集上不同分类方法识别精度对比结果？方法识别准确率输入图片尺寸网络层数参数量ＨＯ＊ＲＰＳＦ０．９３２１６８１６８２３１４４８９，６１２，９６＊Ｃｏｍｂ丨］ｉｎｅＳＶＭ线性）０．９５１２５６２５６５３７２３３９２（１，，９６＊［］０－－ＨＣＦ．７１６２５６２５６９６＊－［】０ＨＣＦＳｃａｌｅＲｏｂｕｓｔ．６６５２５６２５６网＊－－ＬｅａｆＳｎａｐＳＶＭＲＢＦ０．４２０２５６２５６（）９５＊－－Ｌｅａ［］ｆＳｎａｐＮＮ０．５８９２５６２５６９＊［刀０ＳＩＦＴＳＶＭ线性．５８８２５６２５６（）４．４从表中可以看出，本章的ＨＯＲＰＳＦ方法明显的优于除Ｃｏｍｂｉｎｅ线性ＳＶＭ方法以外的其他方法ｏｍｂｉｎｅ线性ＳＶＭ方法不仅用到了庞大的深度网络提。而Ｃ取特征，还采用了非常复杂的手工特征提取方法提取高维特征。该方法采用非端到端方式对特定数据集进行分类处理，容易陷入数据集偏差，缺乏普适性。为了进一＊步加快网络运算速度，节约训练时间，本章采用１６８１６８规格图片作为网络输入图片。从参数量可以看出，本章方法参数量为１４４８９６１２，ｂｉｎｅ，仅为Ｃｏｍ线性，１Ｇ１ＳＶＭｏｎｖＮｅ［］方法中特征提取网络Ｃｔ参数量４５．６７５％，由此可见，本章方法参，这样可以加快识别速度ｂｎｅ数计算量少。虽然识别精度本章方法略低于Ｃｏｍｉ线性ＳＶＭ方法（低１．９９％），但是从训练速度和识别速度上来看，本章的ＨＯＲＰＳＦ方法都具有明显的优势，识别速度和识别精度同样重要，因此本。在实际应用中章方法更适用于实际应用，能够实现快速准确的识别。４６ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄４４４．．方法的精度及鲁棒性测试１．无噪声干扰时的识别精确度对比结果一ＳＦ为了进步验证本章ＨＯＲＰ方法的精度，在不加噪声时，我们首先在１Ｑ［］Ｐ－ｌａｎｔＶＵ］ａｇｅ子集和ＡＥＳＣＤ９２１４上对ＣＮＮ、ＰＳＦ、ＨＯＲ、ＨＯＲＰＳＦ等四种方．法的识别准确率进行测试，４５所示实验对比结果如表。Ｐ＊４ｌＶｉＨａｅＣＤ９２１４ＣＮＮ、ＰＳＦ、ＨＯＲ、ＨＯＲＰ表．５ａｎｔ集和ＡＥＳＳＦ四种方法测ｇ子试的识别准确率对比结果。数据集／方法ＣＮＮＰＳＦＨＯＲＨＯＲＰＳＦ－ＡＥＳＣＤ９２．．．１４０．８８２９０８８５６０９０１４０９２５７ＰｌａｎｔＶｉｌｌａｇｅ０．８８５９０．９０９３０．９１７９０．９６７５．５ｌｉｌｌ，从表４中，可以看到，在ＰａｎｔＶａｇｅ子集上当使用通用卷积网络ＣＮＮ时，，识别准确率为０．８８５９当分别加入参数共享反馈模块（ＰＳＦ）、高阶残差模。块（ＨＯＲ）时，准确率分别提升到０．９０９３、０．９１７９相比ＣＮＮ、ＰＳＦ以及ＨＯＲ方法，我们提出的基于高阶残差和参数共享反馈的卷积神经网络ＨＯＲＰＳＦ方法达Ｓ－ＣＤ９２１４上０，到了最高的识别准确率．９６７５。在更加接近实际环境的数据集ＡＥ我们观察到了相似的实验结果，ＨＯＲＰＳＦ方法获得了最高的９２．５７％的识别准确率，高于其他对比方法。这充分说明了当结合高阶残差和参数共享反馈模块时可带来更高的识别精度，这对于农作物病害识别以及其他领域的识别问题都具有重要的启发意义和参考价值。２．添加不同噪声时的识别鲁棒性对比结果为了验证本章提出的ＨＯＲＰＳＦ方法的鲁棒性，我们在ＰｌａｎｔＶｉｌｌａｇｅ子集和－至０ＡＥＳＣＤ９２１４的测试集上添加０．００５０３．不同等级的高斯噪声、椒盐噪声、同时添加高斯和椒盐噪声等，以测试方法在加入不同等级噪声干扰时的识别准确，０００５。率，从而评估模型的鲁棒性测试集添加的噪声等级间隔为．。本章实验中０１１］－ＶＰｌａｎｔＶｉｌｌａｅ：４６４８Ｐｌｉｌｌｅ数据集ｇ上的测试结果表．．中列出了在ａｎｔａｇ子集上添加不同等级高斯噪声、椒盐噪声、同时添加高斯和椒盐噪声后的识别准确率对比结果。由表４．６、表４．７、表４．８均可得出，当在ＰｌａｎｔＶｉｌｌａｇｅ子集测试集上，添加噪声后，识别准确率因为噪声干扰而降低这是因为当输入的待测试图片中的病斑区域添加了噪声后，会影响网络模型对病斑区域有效特征的准确提取，进而影响了模型对输入的病斑类别的准确判断。此外，我们可以看到，随着添加的，，识别准确率也随之降低可供网络噪声等级的增加。因为随着噪声等级的增加模型提取的病斑区域的有效像素数量会逐渐减少，从而导致模型难以给出准确的类别预测。４７ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄４６ＰｌａｎＶｉＨａｅＣＮＮ、ＰＳＦ、ＨＯＲ、ＨＯＲＰＳＦ表．ｔｇ鎌嗓声后采用四种摊测试的识别准确率对比结果？方法＼噪声程度０．００５０．０１０．０１５０．０２０．０２５０．０３ＣＮＮ０．５６６１０．３７０９０．２９３６０．２７７８０．２７６９０．２７８８ＰＳＦ０．６４０１０．５１０３０．３６１３０．２８２１０．２３９６０．２２８２ＨＯＲ０．６５２０．３９８１０．３０７９０．２７９７０．２５７３０．２２５３ＨＯＲＰＳＦ０．８１８６０．６２３９０．５０５０．４１２４０．３６３２０．３１３６表４．７ＰｌａｎｔＶｉ丨丨ａｇｅ子集上测试集添加椒盐嗓声后采用四种方法和试的识别准确率对比结果．方法＼噪声程度０．００５０．０１０．０１５０．０２０．０２５０．０３ＣＮＮ０．７５６６０．６０１０．５２４１０．４６９７０．４３１０．３９２４ＰＳＦ０．８９０７０．８３０１０．７０．．．１７０５８０９０５０６９０４５１１ＨＯＲ０．８８２６０．７６４２０．６４７７０．６０３８０．５６３２０．５２６ＨＯＲＰＳＦ０．９５７０．９２７０．８５５４０．７６９５０．７０７９０．６４２５表４．８ＰｌａｎｔＶｉｌｌａｇｅ子粲上测试集同时添加高斯和椒兹嗓声后采用四种方法测试的识别准确率对＿果．０．方法＼噪声程度．００５００１０．０１５０．０２０．０２５０．０３ＣＮＮ０．４６９２０．３２０８０．２８９７０．２８１１０．２８５９０．２８１６ＰＳＦ０．５４８０．３３９９０．．．２８３５０２５３０２０７２０．１８８５ＨＯＲ０．５９４７０．４０１０．２７９７０．２３６３０．２２５８０．２２３９ＨＯＲＰＳＦ０．７４７５０．５４１８０．４１０．３４０３０．２９４５０．２６４４从表４．５和表４．７中可以看到，当添加０．００５等级的高斯噪声时，ＣＮＮ、ＰＳＦ、ＨＯＲ、ＨＯＲＰＳＦ的识别准确率均会有不同程度的衰减：ＣＮＮ、ＰＳＦ、ＨＯＲ三种方法中ＨＯＲ方法识别准确率衰减最小，从０９１７９０．６５２０，．下降到即衰减到原来的７０．８９％ＨＯＲＰＳＦ方法识别准０．９６７５０８１８６，；而确率从下降到．即衰减到原来的８４６１％，，００１、００１５、００２．是衰减最少识别精度最高的方法。对于其他等级如．．．等级的噪声添加时，我们从表４．８同样可以看到ＨＯＲＰＳＦ方法的识别准确率下降最慢，，识别精度最高，ＨＯＲＰＳＦ衰减率最低。由此可见方法对于高斯噪声的抗干扰能力相比ＣＮＮ、ＰＳＦ和ＨＯＲ方法更强，具有更高的鲁棒性。从添加椒盐噪声（见表４．７和表４．８）、同时添加高斯噪声和椒盐噪声实验结果同样可以得出类似的结论。例如，当ＨＯＲＰＳＦ添加０．００５等级的椒盐噪声、高斯噪声和椒盐噪声时，识别准确率分别为０．９５７０和０．７４７５，即相应的衰减率为４８ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄１．０００雌ｖｓ识别准确率蚪Ｓ：認Ｓｉｖ高斯噪声０８５０＾．—＾ＨＯＲＰＳＦＦ０．８００＼－０－ｍＨＯＲ４＾．７５０＼＼０．７００Ｖ——＾ＡＰＳＦ＼°＊６５０５５ＣＮＮ０．６００＇．＾Ｖ０５５０Ｖ－Ｓ：Ｓ０．２５０“一―厂玀０．２０００．１Ｓ００Ｏ．ＯＯＳ０．０１０．０１５０．０２０．０２５０．０３０．０３５噪声等级图４．ＳＰｌａｎｔＶｉｌｌａｇｅ子集测试集上的添加不同等级髙斯噪声的识别准确率测试结果。，椒盐噪声ＶＳ识别准确率）ｙｉ—－￣－ＳＨ０ＲＰＳＦ０３Ｓ０，ｆ＼＋ｐｓｆ－＝７ｔ０．７００＾０．６５０’細＇０．５５００．５００？０＾．４５００．４０００．３５００．３０００．２５００．２００００．００５０．０．１００１５０．０２０．０２Ｓ０．０３０．０３５噪声等级图４．６ＰｌａｎｔＶｉｌｌａｇｅ子集测试集上的添加不同等级椒盐噪声的识别准确率测试结果。１．０９％和２２．７４％。而其他方法中最低的衰减率为２．０５％（ＰＳＦ方法加入０００５．的３５２％（ＨＯＲ椒盐噪声时获得）和．１方法加入０．００５的高斯噪声和椒盐噪声时获得），其衰减率均高于ＨＯＲＰＳ方法。由此可得，在对ＰｌａｎｔＶｉｌｌａｇｅ子集测试集中添加不同等级的噪声时，ＨＯＲＰＳＦ均具有高准确率和强鲁棒性，本章ＨＯＲＰＳＦ方法对于不同等级以及不同种类的噪声均具有很好的抗干扰能力。—另夕卜，在图４．５４．７中绘出了ＰｌａｎｔＶｌｌ图ｉａｇｅ子集上测试集添加不同等级高斯噪声、椒盐噪声、同时添加高斯和椒盐噪声后采用ＣＮＮ、ＰＳＦ、ＨＯＲ、ＨＯＲＰＳＦ四种方法测试的识别准确率的曲线图—。图４．５图４．７中横坐标表示添加的噪声等５—４级，纵坐标是测试获得的识别准确率。从图４．７，．图中可明显的看到，红色曲线（对应ＨＯＲＰＳＦ方法）的识别准确率均高于其他方法，相比于ＣＮＮ、ＰＳＦ、４９ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄高斯＋椒盐噪声ＶＳ识别准确率ｔ＾０－９００ｌｉｉ０Ｖｖ－－．７００ＡｎｌｋＰＳＦ＾％．０．６５０＼ｖ＼ＣＮＮ＇０．６００＼择ｌｌ０．５５０？０．５００ｉＸＶ０．４５００．４００＼Ｍ０．３５〇０３００％０．２５０■ｉｌｌＭ０．２０００．１５０００．００５０．０１０．０１５．０２０．０２Ｓ０．０３００．０３５噪声等级图４．７ＰｌａｎｔＶｉｌｌａｇｅ子集测试集上的同时添加不同等级高斯和椒兹噪声的识别准确率测试结果。ＨＯＲ等方法，我们的ＨＯＲＰＳＦ方法具有更高的鲁棒性。－－数据集ＡＥＳＣＤ９２１４上的测试结果：我们在ＡＥＳＣＤ９２１４的测试集中添加０．００５至０．００３不同等级的高斯噪声、椒盐噪声、同时添加高斯和椒盐噪声等，测试网络模型的识别准确率与噪声等级之间的关系一，以进步评估网络模型对自－然环境数据集识别的鲁棒性４．９表４．１１，相应的曲线图如。其实验结果如表所示４—．８图４０图．１所示。４ＥＳ－２１４ＳＦ、ＨＯＲＨＯＲＰＳＦ四种方法表．９ＡＣＤ９测试集添加髙斯噪声后采用ＣＮＮ、Ｐ、测试的识别准确率对比结果？＼０．００５０．０．．０２０．０２０．０３方法噪声程度１００１５０５ＣＮＮ０．５９８９０．４８３５０．４１５７０．３６８６０．３２８５０．２９１１ＰＳＦ０４４７７２１８４０２０２７．３２５０．３３５００．２８３５０．２０．．ＨＯＲ０．５７８９０．４８６７０．４４５５０．４１６８０．３９５１０，３７５６ＨＯＲＰＳＦ０．７１３８０．６２４４０．５４９１０．４７９７０．４３０４０．３７１３４８—４０，显而易见，，ＨＯＲＰＳ、在图．图．１中整体上Ｆ在加入不同等级的高斯椒盐、高斯和椒盐噪声时，其识别准确率相比其他方法都是最高的。从图中曲线的变化趋势可以看出，对应ＨＯＲＰＳＦ方法识别准确率的红色曲线在加入不同等，其变化最缓慢，说明其衰减最慢，具有级噪声干扰时，对噪声的抗击能力最强强鲁棒性。这是因为ＨＯＲＰＳＦ中引入的高阶残差子网络为病害表观提供丰富细致的特征表达，有效提高模型的病害识别精度；ＨＯＲＰＳＦ中引入的参数共享反馈一步被抑制子网络使得原深层特征中的背景噪声进，有效提高模型的鲁棒性。本５０ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄４－表．１０ＡＥＳＣＤ９２１４测试集添加椒盐噪声后釆用四种方法测试的识别准确率对比结果。方法＼噪声程度０．００５００１０．０１５０．０２０．０２５０．０３．ＣＮＮ０．７７３４０．６９４９０．６３６９０．５９０８０．５４８００．５１９２ＰＳＦ０．７７６２０．６４３９０．５３９３０．４６１２０．４１３００．３８２１ＨＯＲ０．７８２１０．６９４３０．６４１２０．５９３００．５５１２０．５３３３ＨＯＲＰＳＦ０．８３６３０．７６８００．７３６６０．７０６８０．６６７８０．６３９６４－表．１１ＡＥＳＣＤ９２１４测试集同时添加髙斯和椒盐噪声后采用四种方法测试的识别准确率对比结果。方法＼噪声程度０．００５０．０１０．０１５０．０２０．０２５０．０３ＣＮＮ０．５５５６０．４３６９０．３６４８０．３２１４０．２７１００．２４０７ＰＳＦ０．３９８４０．３０１９０．２５３７０．２１９００．１９６７０．１７７２ＨＯＲ０．５５７７０．４６３４０．４０７６０．３８５９０．３５８３０．３３０１ＨＯＲＰＳＦ０．６９１１０．５７０７０．４７１００．４１２５０．３４８００．２９９７０－９５高斯噪声ＶＳ识别准确率＾－＾０＇８５ｉ＾ＲＰＳＦＶ＼ｐ震。．７５＾０．６５＾０５５ｖ＾．。４５０．３５＾０２５＾Ａ＾〇————．１５０Ｄ．００５Ｑ．０１０．０１５０．０２０．０２５０．０３噪声等级４－图．８挑战性数据集ＡＥＳＣＤ９２１４测试集上的添加不同等级髙斯噪声的识别准确率测试结果。章的ＨＯＲＰＳＦ方法中两者同时发挥作用，使得ＨＯＲＰＳＦ方法在处理自然环境下采集到的农作物病害图像识别问题时，同样具有高精度和强鲁棒性，具有良好的应用性能，能够应用于实际环境下农作物病害的准确、快速、鲁棒性的识别。５１ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄１．〇〇椒盐噪声ＶＳ识别准确率－蠢０－ＨＯＲＰＳＦ—Ｈ〇Ｒ＾〇．８〇。．７０ｆｅＶ－０，００．４０＾Ｑ３Ｑ００．００５０．０１０．０１５０．０２０．０２５０．０３噪声等级４－图．９挑战性数据集ＡＥＳＣＤ９２１４测试集上的添加不同等级椒盐噪声的识别准确率测试结果？高斯＋椒盐噪声ＶＳ识别准确率。〇９５．９５吹－＝雲ｔ＊０．６５Ｉ——＾Ｙ，Ｖ°＇３ｓ００．００５０．０．０．０２．．１００１５００２５００３噪声等级４－ＣＤ９２１４测试集上的同时添加不同图．１０挑战性数据集ＡＥＳ等级髙斯和椒盐噪声的识别准确率渕试结果。４５．本章小结为了进一步提高实际环境下农作物叶部病害识别的准确率和鲁棒性，本章通过对现有研宄分析的基础上，在第三章高阶残差卷积神经网络中引入了参数一共享反馈子网络，提出了种基于高阶残差和参数共享反馈的卷积神经网络（ＨＯＲＰＳＦ）方法。本章中对ＨＯＲＰＳＦ方法的高阶残差子网络和参数共享反馈子网络均作了详细的介绍和作用说明。其中高阶残差子网络的作用是综合利用神经网络中底层特征的细节描述和高层特征的抽象表达，为病害表观提供丰富５２ 第４章基于高阶残差和参数共享反馈的卷积神经网络农作物病害识别研宄细致的特征表达，从而有效提高模型的识别精度；参数共享反馈子网络的作用是一通过将网络中深层卷积层的特征反馈至浅层卷积层，对网络特征进行再次的一精细过滤调整，使得原深层特征中的背景噪声进步被抑制，有效提高模型的鲁棒性。最后，本章通过实验验证了ＨＯＲＰＳＦ方法的识别准确率和鲁棒性。为－了验证本章ＨＯＲＰＳＦ方法，分别在公开数据集ＭＫＤ２和自然环境下的农作物病－２害数据集ＡＥＳＣＤ９１４上进行了相应的实验。经过大量的实验证明，本章提出的ＨＯＲＰＳＦ方法在相同的测试数据集上具有更高的精度和鲁棒性，能获得很好的识别效果，具有很强的抗干扰能力。５３ 第５章基于自注意力的卷积神经网络农作物病害图像识别研究第５章基于自注意力的卷积神经网络农作物病害图像识别研究本章主要介绍基于自注意力的卷积祌经网络方法以解决农作物病害识别问题。第５．１节引言中介绍背景知识。第５．２节介绍研宄动机。第５．３节详细介绍基于自注意力的深度卷积神经网络（ＳＡＣＮＮ）方法：从ＳＡＣＮＮ网络整体架构、ＳＡＣＮＮ方法中Ｂ－的ａｓｅＮｅｔ、自注意力网络的结构实现，以及参数详情和实现细节等方面详细介绍和展现了我们的ＳＡＣＮＮ方法。第５．４节给出了实验验证和结－。５果分析第．５节设计并实现了农作物病害识别应用系统ＡＥＳＣＤＲ，介绍了系统的整体架构、页面展示及测试结果。最后，５．６节对全章内容进行总结。５１．引言农业生产中农作物病害危害严重，会导致粮食减产，如果大量喷洒农药，会造成更大的生态环境污染，农产品农药残留超标。因此，快速准确的识别农作物病害图像类别是农作物安全生产和农产品品质的保障。传统农业生产中的农作物病害识别方式是农业专家指导和培训农民掌握病害特征，然后通过人眼观察，直接根据专业知识和经验对病害进行识别。人眼经过人脑的视觉注意力机制指挥，将注意力主要集中在显著性的区域或者感兴趣的区域内。对于作物病害识别任务而言一，人眼将主要关注于叶部病害的病斑部位，这是做出准确判断的第步，对于人而言是最简单的也是关键步骤，而对于机器而言就存在很大的难度。人类可以快速准确的对接收到的外界信息，诸如视觉信息、听觉信息等，做出分析处理和相应的理解，这是因为人类大脑所具有特有的信息处理机制即注意力机制。当人脑接收到相关信息时，为了提高信息处理的效率和准确性，人脑不会对接收到的全部信息进行处理、分析和理解。而只是将注意力集中在显著性，的感兴趣的信息上面，排除受其干扰的可能性，从而对，过滤掉不重要的信息信息进行高效准确的处理。实际环境下农作物病害图像由于背景复杂，例如水稻田会有积水、土壤、杂草；拍摄过程中会出现人手、动物和鸟等的干扰；作物叶片上可能会有水珠、灰尘还有一些诸如光、鸟的排泄物等落在上面，从而干扰到拍摄出来的图像；另外线、角度等的环境因素影响；黄瓜大棚中有塑料膜、支架等影响。农作物叶部病一些特殊性害图像本身也存在，诸如病斑区域小，在整个叶片中不占主要地位；病斑与背景对比度小，有的病斑在背景中很难被发现，这样容易造成病斑和背景混淆等。以上实际环境复杂背景的影响因素和农作物病害图像本身的特殊性，都５４ 第５章基于自注意力的卷积祌经网络农作物病害图像识别研究给农作物病害图像识别带来了困难和挑战。深度学习里面的注意力机制，就是源于人脑的注意力机制。最早人们将注意一一力机制应用在图像处理上，是希望通过个类似于人脑注意力的机制，只使用个很小的感受野来处理图像需要特别关注的区域，使得髙维的图像处理计算维度降低。在卷积神经网络出现之后，研宄者发现深度卷积神经网络本身就自带注意力的功能。在分类任务中，深层的特征因素能够激活的维度正好是集中在了与，也就是通常所说的显著性区域分类任务密切相关的区域。显著性特征常被用来进行图像检索和图像分割任务中。一自注意力机制是注意力机制的种特殊情况，我们将自注意力机制引入到卷积神经网络中，以期能更好的对农作物叶部病害图像的病斑区域重点关注，提取到更多的关键信息，改善模型的识别性能，实现快速、准确、鲁棒的农作物病害图像识别目标。５．２研究动机农作物病害图像识别方面目前的研究大多都是针对简单背景，但是当面向实际环境复杂背景带有各种噪声和环境因素影响的情况下的农作物病害图像识（别时，由于实际环境复杂背景下，各种因素影响和环境噪声干扰图像样例如图４．１所示），以及农作物病害图像的特殊性：病斑区域小，病斑和背景区分不明显从而导致两者容易混淆的等特殊性（如图５．１所示），使得农作物病害图像识别存在准确率不高、识别速度慢、抗干扰能力弱等问题。基于此，我们己经在前面的第三章和第四章中针对识别准确率和抗干扰能力，将高阶残差网络和参数共享反馈网络引入到卷积神经网络中，针对全局特征和细节特征提取来对卷积祌经网络进行设计和模块化，以实现农作物叶部病害的高精度和强鲁棒性识别。但是，从第四章的实验可得，基于高阶残差和参数共享反馈的卷积神经网络方法ＨＯＲＰＳＦ的识别精度最高达到０９２５７，．还需要继续研究实际环境下农作物病一害识别方法，以期进步提升识别准确率。农作物病害图像具有以下特殊性，：病斑区域小病斑和背景区分不明显从而导致两者容易混淆的等特殊性，５．１。５１，其图像样例如图所示在图，中红色框中框出的是病斑区域，，这样在实际特征提取中容易和病斑区域小，而且不明显背景混淆。借助于人工识别病害的经验，快速的锁定关键的病斑区域，实现病害图像类别的快速准确识别，使得我们需要重点关注病斑区域的有效特征。如何能实现对病斑区域的重点关注，提取到病斑区域的有效特征成为我们需要解决的关键问题。目前对于关键部位特征的提取方法，近年来研究者主要使用的是自注意机５５ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄制，这为我们提供了可行性的解决方案。自注意力网络由于能够获取到所需关注区域的有效特征而被人们所重视。目前，基于自注意力的模型己经被广泛使用，＿１Ｇ２１Ｇ５１Ｇ６１（）７１Ｇ８［］［［主要应用在诸如机器翻译Ｉ［】］、字幕生成、音素识别、语音识别、＿＆〇９ｉＨ＞ｉ３ｎ１１１］ｍ］【１对抗网络、骨架动作识别、图像处理等方面。而在农作物病害图像识别中，尚未见到自注意机制的使用，自注意网络对于病斑区域的有效特征提取以及识别精度提升的重要作用被研究者所忽略。此外，前人工作中还未见详细讨论过自注意力网络的引入位置选择、通道大小设置及网络数目对于提取所关注区域有效特征的影响。因此，我们考虑在深度卷积神经网络中引入自注意力机制，以实现对农作物病斑的有效提取和农作物叶部病害的高精度、鲁棒性的识一别。与此同时探讨下自注意力机制引入过程中的引入位置选择、通道大小设置及网络数目对于识别性能的影响一，以进步清楚的展示其工作机制，同时为其他研宄工作者提供启发。ｍｍｍｍｍｍ图５１实际环境下农作物病害数据集ＡＥＳ－ＣＤ９２１４．中的图片展示。注：图中红色框标出的是病斑区域，可见大部分病斑区域小，与背景对比度小，容易混渚病斑和背景，从而会给识别带来挑战。，本章中我们将针对实际环境农作物病害图像的病斑区域的有效特征提取，引入自注意力机制，深入探讨自注意力网络的引入位置选择、通道大小设置及网络数目对于提取所关注区域有效特征以及识别性能的影响，提出基于自注意的，来实现对农作物病害图像进行快速卷积神经网络农作物病害识别方法、准确和鲁棒的识别。５６ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄５３基于自．注意力的卷积神经网络农作物病害识别方法深度学习中的注意力机制源自于人类的注意力机制，其核心就是实现从众多信息中选择出对当前任务目标更关键的信息，过滤掉与目标任务不重要的信息，从而实现节约计算资源的同时提高处理精度。注意力机制最早是在九十年代被提出来，用于计算机视觉图像领域。而真正被人们所熟知和火爆发展是始于１１３２０４［］１ｏｏｌｅｍＲＮＮ，通过注意力机制年ｇｇｉｎｄ团队在模型中使用注意力机制一去学习副图像需要处理的部分，使得需要处理的像素减少，从而有效降低了任务的复杂度。１Ｇ４－１（）５［］自注意力又称作内部注意力，自注意力机制主要关注的是自己本身，通常也不会使用其他额外的信息。自注意力机制是注意力机制的使用的特殊情况，它在很多任务上都有十分出色的表现。２０１７年，ｇｏｏｇｌｅ机器翻译团队发表１４‘［１］《Ａ－的ｔｔｅｎｔｉｏｎｉｓａｌｌｏｕｎｅｅｄ》中大量使用了自注意力ｅｌｆａｔｅｎｔｉｏｎ）机制来ｙ（ｓ学习文本表示，ＮＬＰ。自注意力机制也成为了大家近期的研宄热点并在各种任５Ｌ［１１］务上进行探索ｉｎ，进而从句子中抽取相。等人使用自注意力机制关注本身１１４Ｖ［］关信息ａｓｗａｎｉ证明机器翻译模型只需使用自注意力模型就可以达到。等人一１１２Ｐ［］最新的结果。ａｒｍａｒ等人提出了种将自注意力引入图像生成自回归模型一１１６［１的图像变换器模型。Ｗａｎｇ等人将自注意力作为种非局部操作方式来对时空依赖关系进行建模。他们通过计算位置处的响应作为所有位置处的特征的加权和来实现自注意力机制。并提出该模块可以插入到许多计算机视觉体系结构中。并通过实验验证了自注意力模型改进了对ＣＯＣＯ任务集的目标检测／分割和“姿态估计ＩａｎＧｏｏｄｆｅｌｌｏｗ自注。谷歌大脑的等人在他们的最新研究中提出”意力生成对抗网络（ＳＡＧＡＮ），将自注意力机制引入到卷积ＧＡＮ中，作为卷积的补充，在ＩｍａｇｅＮｅｔ多类别图像合成任务中取得了最优的结果。本章将自注意力机制用于提取农作物病害图像的病斑区域的有效特征，并研宄自注意力机制引入卷积神经网络时的相关参数对有效特征提取以及识别性能的影响。提出基于自注意力机制的卷积神经网络农作物病害识别方法，以实现农作物病害的快速、准确、鲁棒的识别目标。本节将首先介绍基于自注意力的卷－积神经网络（ＳｅｌｆＡｔｔｅｎｔｉｏｎＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋ，ＳＡＣＮＮ）方法的整体框架结构图，、；；然后分别介绍基本网络和自注意力网络的结构参数以及性能最后，给出网络采用的损失函数以及实现细节。本章的自注意机制研宄是以文献＿和文献为基础开展的。５．３．１网络整体架构针对农作物病斑特征的鲁棒性提取引入自注意力网络提出了一种，本章，基于自注意力的卷积神经网络ＳＡＣＮＮ的农作物病害识别方法，旨在提取农作物５７ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄的病害的全局特征和局部特征，以实现农作物病害识别的高准确率和强鲁棒性。ＳＡＣＮＮ方法的网络整体框架结构如图５．２所示，主要包括基本网络和自注意力网络。在图５．２中，可以看到，对于待识别的农作物病害图像，我们通过在基本网络Ｂａｓｅ－Ｎｅｔ中引入ＳＡ模块来实现对图像类别概率的计算，根据概率计算给出分类５３一结果。图５．２中蓝色矩形框中是基本网络（具体结构如图．所示），其中有个绿色菱形高亮模块代表的是自注意力模块（Ｓｅ－ｌｆＡｔｅｎｔｉｏｎ，ＳＡ）绍将在，其详细介－Ｎｅ５５４）。ａｓｅｔ主．３．３节介绍（结构如图．所示基本网络Ｂ要用于提取图像全局特征，自注意力网络主要用于获取病斑区域的局部特征。两者结合，相互作用旨在提高农作物病害识别的准确率和鲁棒性。卷积ＲｅＬＵ多＿输入图像全局平均池化层＇ｓｌ，１ｆＡｔｔｅｎｔｉｏｎ４０。３黄瓜Ｓ霉蜗馨＃Ｂａｓｅ－Ｎｅｔ图５．２基于自注意力的卷积神经网络ＳＡＣＮＮ的农作物病害识别方法整体架构。一－Ｎｅ注：图中蓝色矩形框中是基本网络Ｂａｓｅｔ（具体结构如图５．３所示），其中有－Ａｔｅｎｔｏｎ）Ｓｅ，个绿色菱形高亮模块代表的是自注意力模块（ｌｆｉ，ＳＡ其详细介绍将在５．３．３节介绍（结构如图５．４所示）。５－．３２ＢａｓｅＮｅ．ｔ一Ｂ－ａｓｅＮｅｔ网络，本章方法中设计了个，作为引入自注意力网络的基础架构主要用于对农作物病害全局特征进行提取。该基本网络是由三个残差模块、１个一３一Ｓｏｆｔｍａｘ最大池化层个，、个卷积层、个全局平均池化层和层组成其详细结构及参数如图５．３所示。５３，，三在图．中我们可以看到个残差模块的结构基本相同，都包括三个卷一积层，其中第个卷积层和第三个卷积层均为３＊３卷积核，中间卷积层卷积核一２大小为１＊１。第个卷积层的步长为，是为了将输入尺寸减小。同时整个基本网络只使用了１＊１和３＊３两种规定的卷积核，这使得参数量大大减少，同时也能避免因图像集过小而产生的过拟合。另外，我们采用的是更深而非更宽的网络一，可以看到。，最设计策略，我们每层都尽量使用的是小通道通道数最小为８５８ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄＊ｉ５６ｍａｅＩｎｐｕｔｓｚｅ：２２５６ｉｇｉ＇—＊Ｏｕｔｐｕｔｓｉｚｅ：２５６２５６上｜厂一Ｏｕｔｔｓｉｚｅ：＊ｐｕ｜３３，１６，２，ｃｏｎｖ２｜—＾＊１２８１２８：：：：．．１Ｉ：；；：．：．ＩＲｅｓｉｄｕａｌ；Ｕｉｋｉｎ＞§ｒ＾ｑｙ〇Ｂｌｏｃｋｌ▼＊３３１６１ｃｏｎｖ４，，，｜０－１ｒｅｓ—、Ｏ＊ｕｔｐｕｔｓｉｚｅ：「７３：１＊６４６４Ｉ３ＺＺＺＺＺＺＲｅｓｉｄｕａｌ匕／ｒＢｌｏｃｋ２＊３３３２１ｃｏｎｖ７，，，一ｅｓ－ｒ２＊Ｓ３６４２－ｃｏｎｖ８；ｓ二”，，，Ｚ＞ＺＯＺ．１ＩＲｅｓｉｄｕａｌ．ｉｎ３２ｃ＾ｒ／／ｊ］Ｂ＾ｌｏｃｋ３＾＊Ｖｊ３３，６４，ＴｃｏｎｖｌＯ１＾＾ｒｅｓ－３Ｐｏｏｌ／２ｊ＊＊Ｏｕｔｐｕｔｓｉｚｅ：１６１６ＩＴ３．６４，１，ｃｏｎｖｌｌ１ｉＯｕｔｔｓｅ＊ｐｕｉｚ：３１２８２ｃｏｎｖｌ２｜３，，＊８８Ｖ＊１１６４１ｃｏｎｖ！３，，，ａｖｇＰｏ〇ｌ，；＾＊Ｏｕｔｐｕｔｓｉｚｅ：１１ｊＧ＾ｏｆｔｍａｘ５３－图．ＳＡＣＮＮ中ＢａｓｅＮｅｔ的详细架构及参数。一一注＿：ＢａｓｅＮｅｔ包括三个残差模块三个卷积层、ａｘ、个全局平均池化层和个Ｓｏｆｔｍ。层图左侧列出的是卷积层输出尺寸；图中部列出了相应的参数，从左到右依次为核尺寸、通道数量、步长和卷积层名称编号，；图右侧示意出了三个残差模块其－－－输出分别为ｅｓ１、ｒｅｓ２和ｒｅｓ３。ｒ５９ 第５章基于自注意力的卷积祌经网络农作物病害图像识别研宄１２８大为。Ｂ－在ａｓｅＮｅｔ中，我们采用了３个连续的残差模块，这是因为在前面第三章和第四章中我们已经通过实验验证了残差模块对图像识别的精度提高有很好的效果，能有效提高网络的识别性能。同时，残差模块还可以有效抑制过拟合，这样一对于样本数量不足的训练问题也是种可以采取的很好的处理方案。在实验部ＡＥＳ－ＣＤ９２－１４数ＢＮｔ分，我们在据集上测试了ａｓｅｅ基本网络的识别准确率，结果达到了９４－Ｎ．８１％，这充分说明了我们选用的Ｂａｓｅｅｔ对农作物病害的识别具有高精度，其结构设计是恰当合理的。５．３．３自注意网络１１６［］文献中提出了自注意网络的基本结构，本文的自注意网络整体上就是基一于文献所提出的结构，在细节方面我们做了进步的探讨。本章的自注意力一一网络包括３个并行的卷积层、两个矩阵乘法操作、个Ｓｏｆｔｍａｘ层和个求和操５４作，详细结构如图．所示。卷积ＲｅＬＵ＿＿ｏｎｖ１＊卷积核：ｉｉ＾步长．１１ｒ－Ｂ＇ＡｔｔｅｎｔＪｐｉｏｎｍａｐｓ通道：－，Ｓｏｆｔｍａｘ卜、严和轉Ｃｏｎｖｏｌｕｔｉｏｎ／Ｍ（ｘ）Ｓｅ－ｌｆＡｔｅｎｔｉｏｎａｐｓ卜〒ｔｅ－Ｃｏ＼ｎｖ３ｕ＾＾：ｉｎＷＭＮＭ转置，、Ｏｕｔ（ｘ）—ｒ步长：ｌ”＾ＨＨ通道：ｃ图５．４自注意力网络结构图。注：？表示的是矩阵乘法操作：？表示的是求和操作，其上方的ｎ表示ＳＡ（ｘ）需要乘以系数Ｈ之后再进行求和操作；卷积层虚线引向的框中列出的是三个卷积层的相应参数，其中ｃ为输入的通道数，ｒａｔｉｏ表示通道设置比例，可取１／２，１／４，１／８１／１０１／１６。，，等５Ｉ在图．４中，可以看到ｎＸ输入到自注，当将基本网络卷积层输出的特征映射（）意力网络时，首先并行经过卷积层Ｃｏｎｖ１、Ｃｏｎｖ２、Ｃｏｎｖ３卷积，其输出分别为Ｌ（ｘ、）Ｍ（ｘ）、Ｎ（ｘ。自注意力网络中的卷积层参数如图５．４所示，其中Ｃｏｎｖｌ和Ｃｏｎｖ２通道）＊一Ｉｉ１２１４数为ｃｒａｔｉｏ，这里ｃ为输入ｎ（ｘ）的通道数，ｒａｔｏ是个比例系数，可以取／、／、１６／８／０６／、１、１１、１／１等，具体取值需要通过实验测试来确定最佳值。这里我们可以得６０ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄ｃ＊ｒａｆｉ０＊ｃｃ＊ｃＬ＝ＷＭ＝＝ｉ？（）到：ｊｃｘｊｃＷｊｃＷｘ其中柯、ＩｅｅＪ？（），，，Ｊ（）＾（）是卷积层学习到的权重参数。由于在Ｔｅｎｓｏｒｆｌｏｗ框架中实现时，卷积出来的特征映射维度为［■Ｂｉｆｃ／ｉｓｉｚｅ，Ｈｅｉｇｈ，Ｗｉｄｒｈ，Ｃｈａｎｎｅ／］，经过ｒｅｓｈａｐｅ将维度调整为＇￡此＊扣／＾２￡１／（＾０＾？＾，＂￡￡１＝／／￡／＾＊１，１＜；＞：、＿＾！：、＾；［，＞，］其中＞１以＾出／１（）〇）（〇均经过这样的ｒｅｓｈａｐｅ变换，所以相乘之前必须要对Ｍ（ｘ）、Ｎ（ｘ）进行转置操作。Ｃｏｎｖｌ和Ｃｏｎｖ２的输出相乘之后再通过Ｓｏｆｔｍａｘ层获得Ａｔｔｅｎｔｉｏｎｍａｐｓ，其值记为４？〇）。则ｅｘＦ＾ｐ（ｕｌＪ）Ａ＝—ｔｔ５．１ｊｉ（）２ＹＪ＾ｅｘｐ（Ｆｉ）ｉ〇ｊ＝１］其中，＾＾／巧）Ａ的一Ｓ个关键值，是，表示模型在合成ｊ区域时参与到ｉ位置的程度５４－ＡｔｔＳ，图．中，Ｓｅｌｆｅｎｔｉｏｎｍａｐｓ对应的输出Ａｘ是乘法操作的结果其公式如下：（）ＳＡｘ＝Ｎｘｔｔ５．２（）ｉ＾Ａ（ｊｉ）ｊ显而易见，ＳＡ（ｘ）对应的维度为［ＪＢｉｒｃｈｓｉｚｅ，Ａｒｅａ，Ｃｈａｎｎｅ〗］。为了与Ｊｎ（ｊｃ）进行和操作以加入后续网络的卷积层中，需要将其ｒｅｓｈａｐｅ变化为ＷｉｄｆｈＣ／ｉａｎｎｅＺ］，输出Ｏｗｒ（ｊｃ），计算公式为Ｏｕｔｘ＝ｊ．ＳＡｘ＋Ｉｎ５．３（）ｆ（）（ｘ）（）５．３．４卷积神经网络中引入自注意力网络的详细讨论在对ＳＡＣＮＮ方法网络系统架构进行设计时，我们为了确定合理的适合的网一络架构而进行了系列的实验来确定ＳＡＣＮＮ方法中引入ＳＡ的位置选择、通道大小设置以及引入网络数目等方面设计的合理性ａｓｅ－。如何将ＳＡ网络引入到ＢＮｅｔ中使得ＳＡ发挥最优性能，这是我们的ＳＡＣＮＮ方法在农作物病害识别中取一－－２得优异表现的关键问题。因此我们在ＡＥＳＣＤ９１４数据集上进步讨论了ＢａｓｅＮｅｔ中引入ＳＡ的相关细节内容选择依据，包括引入位置选择、通道大小设置以一及引入网络数目确定等方面，以期进步清楚的展示其工作机制，同时为其他研宄工作者提供启发。１．引入位置选择的合理性验证本章方法中，引入ＳＡ的目的是为了能提取到强鲁棒性的病斑区域特征。对一－于如何提取有效的病斑区域局部特征这问题，引入ＢａｓｅＮｅｔ的位置选择就成１７１［］ＣＮＮ中引入注意为首先要考虑的问题。在文献中，探索了在力机制的三种（１）（２），；（３）方式：在卷积前引入；在池化前卷积后引入前两种方式同时使用，，也。因此在本章中，我们对于自注意力网络的位置选择借鉴了这三种方６１ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宂Ｂａｓｅ－ｅ式ＮｔＡ的识，。我们首先测试了在结构中多个位置引入Ｓ别准确率其对比结果如表５．１所示。表５．１在卷积神经网络中不同位置添加ＳＡ时识别准确率对比结果。位置残差块２与３残差块３中残差块３中残差块３后－２ｏｎｖｎｖ之间ｒｅｓｃ８ｃｏｎｖ９ｃｏｌｌ０．９１７９０．９５３．０．识别准确率１０９４０３９３１４５－从表．１可以看出，当在ＢａｓｅＮｅｔ网络的不同位置引入ＳＡ时，其识别准确率会有所变化，从而也说明了位置对ＳＡ引入网络的性能确实是有影响的。当在残差块２后面，即图５．３中ｒｅｓ２位置引入ＳＡ时，其网络识别准确率为９１．７９％；当一在残差块３中的第个卷积层，即图５．３中Ｃ〇ｎｖ８位置引入ＳＡ时，其识别准确率达到了所有测试位置的最高值９５．３１％。这是因为只有在此位置上引入ＳＡ时，ＳＡ才能正确提取到病斑区域的有效特征，从而发挥ＳＡ的最佳性能，使得整个网络系统识别准确率达到最大值。因此，在使用ＳＡ模块时，需要选择ＳＡ的最佳引入位置使得ＳＡ模块能提取到所需关注区域的有效特征，这是发挥网络最佳－性能的关键。在以下实验中，我们默认ＳＡ引入位置均为ＢａｓｅＮｅｔ网络结构中的ｃｏｎｖ８位置。２．引入通道大小设置的合理性验证在引入ＳＡ网络过程中．ＳＡ，我们还需要确定的细节是在５３．３节关于的结１１６［］构介绍中提到的通道大小的比例系数ｒａｔ，２，ｉｏ。自文献中该系数为１／而在Ｇ１１］［１／８文献中使用的是。为了选取到更适合于本文识别任务的比例系数，本节对于ｒａｔｉｏ的选择，是通过分别给ｒａｔｉｏ取值１／２、１／４、１／８、１／１０和１／１６等之后，Ｓ－ＣＤ９２在农作物病害数据集ＡＥ１４上进行识别准确率测试实验来确定的。因为所选定的ｃｏｎｖ８通道数为６４，则对应引入ＳＡ中ｃｏｎｖｌ（图５．４中）通道数分别为３２６４－、１６、８、、。我们在ＡＥＳＣＤ９２１４数据集上识别准确率的测试实验结果如５２．所示表。表５．２不同通道大小的ＳＡ识别准确率结果对比．通道比例１／２１／４１／８１／１０１／１６２）（１６）（８）６）４）及大小（３（（识别准确率０．９５５９０．９４９２０．９５３１０．９４８７０．９４９８从表５．２中可以看到，引入ＳＡ中通道大小不同，网络识别准确率会有所不１同，但是整体上差别不大，最大值与最小值的差别不超过％。在这里我们选择６２ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄１／２和１／８比例的通道比例作为两个初选通道。在后面的实验部分，我们将通过鲁棒性测试对比来确定适合于农作物病害图像识别的ＳＡＣＮＮ方法的最佳通道一，大小，，建当对。在此提醒注意在般选择通道比例时议选择适合大小的通道其他诸如鲁棒性有要求时，可以初选两个最高精度的通道数对应值，然后可以通过鲁棒性对比实验来进一步确定最终的通道大小，这样可以综合考虑各因素条，选择到满足最佳性能要求的可以引入的最佳通道数的ＳＡ网络件。３．引入ＳＡ网络数目的合理性验证上面研宄表明，各因素都会影响网络的识别性能，ＳＡ的引入确实能对识别准确率起到作用。那么引入ＳＡ的网络数目如何来确定呢？是不是引入的越多就？ＳＡ－越好呢为了确定引入的网络数目对于识别性能的影响，我们在ＢａｓｅＮｅｔ网络中选择前面确定的最佳引入位置ｃｏｎｖ８和较优通道大小比例１／８，通过级联、Ｓ－ＣＤ９２并行和操作两种方式在ＡＥ１４数据集上测试了网络引入两个ＳＡ时的识别准确率。这里所定义的并行和操作指的是以并行方式加入两个ＳＡ模块，然后对这两个输出结果求和，将其和输入到下面的卷积层中继续训练提取特征。实验测试得到的识别准确率结果如表５．３所示。从表５．３可以看出，两种方式引入的两个ＳＡ网络测试识别准确率均低于只一ＳＡ，引入个的识别准确率。这个原因，我们认为是针对本章实验的图集而言一Ｓ一添加个Ａ网络就可以充分的提取到病斑区域的有效特征，当再增加个ＳＡ时，对于这部分有效特征的作用就过于强化了，相应的就会减弱全局特征的作用，以致影响整体的识别准确率。因此引入ＳＡ网络的数目，并非想象中的引入越多效果越好。在实验过程中，我们需要根据实际图集测试效果和具体情况进行选择和分析，以确定最佳的网络引入数目。５Ｓ表．３在最隹位置以两种方法引入两个Ａ网络的识别准确率结果对比。引入方式及个数一个ＳＡ级联两个ＳＡ并行和两个ＳＡ识别准确率０．９５３１０．９４２５０．９４９８５３５．．方法实现细节简介我们使用Ｓｏｆｔｍａｘ作为目标函数，其公式如公式（３．１）。我们在ＮＶＩＤＩＡＧＰＵ１０８０ｉ机器上Ｐｔｈｏｎ３．６和Ｔｅｎｓｏｒｆｌｏｗ框架实现了ＳＡＣＮＮ方法，并利，通过使用ｙ－３用Ａｄａｍ最优化算法对公式（３．１）的损失函数进行优化ＩＸ１０。，初始学习率为方法中批处理大小设置为６４，ｄｒｏｐｏｕｔ设置为０．５。６３ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄５．４实验在本节中，我们首先对实验使用到的数据集、实验方案和相关的现有对比方－法进行了介绍，接着在公开数据集ＭＫＤ２数据集上，通过与现有方法进行实验对比，验证了本章ＳＡＣＮＮ的识别准确率。最后，在我们的自然环境下农作物病一ＥＳ－ＣＤ９２害图像数据集Ａ１４数据集上，我们进步对ＳＡＣＮＮ方法的识别准确率进行验证，并通过在测试集中添加噪声来测试其鲁棒性，。实验结果证明本章提出的ＳＡＣＮＮ方法对于实际环境下农作物病害识别具有高准确率和强鲁棒性，能满足实际生产过程中农作物病害识别的需要。５．４．１数据集介绍＃］－本章使用的实验数据集有两种：ＭａｌａｙａＫｅｗ叶片数据集的子集Ｍ１ＣＤ２９４＾：！Ｓ－ＣＤ９２１４。－－和ＡＥ其中ＭａｌａｙａＫｅｗ的子集有两个，分别为ＭＫＤ１和ＭＫＤ２。４－Ｄ－ＭＫ１中是Ｋ两个子集均包括４类植物叶片，ＭＤ２中是局部。完整的叶片图像－Ｄ２中叶片的图像。在ＭＫ，４４类叶片的训练集和测试集中每类图片数目分别为７８８和２００－。ＡＥＳＣＤ９２１４图集是本研宄团队在自然环境中采集的作物病害图像。数据集中包含有不同背景、各种噪声以及环境因素如不同分辨率、角度和光照等－，５１，３８ＥＳＣＤ９２４各类实际场景的图像其图像样例如图．所示在表．中列出了Ａ１３－图集的类别名及其数量．８可以看到，ＡＥＳＣＤ９２１４数据。由表集中的类别数目不均衡，这使得我们需要克服类别不均衡带来的某些类别训练不充分，存在训练一－偏差的问题，对于识别方法具有定的挑战性ＡＥＳＣＤ９２１４。我们将数据集中的图像按类别抽取每类中２０％作为测试集、８０％作为训练集。５２．４．对比方法介绍本章实验验证包括识别准确率和识别鲁棒性两个方面。其中在公用数据集９５－ＭＫＤ２上对ＳＡＣＮＮ〖］方法精度进行验证时，本章对比的方法包括文献中的９６ＳＶＭＦ［】ＬｅａｆＳｎａ（ＲＢ）方法ｅａｆＳｎａＳＶＭ（ＮＮ）方法；文ｐ、Ｌｐ献中的ＨＣＦＳＶＭ－（ＲＢＦ）方法、ＨＣＦＳｃａｌｅＲｏｂｕｓｔＳＶＭ（ＲＢＦ）方法ＣｏｍｂｉｎｅＳＶＭ、线性方９７法【］；文献中的ＳＩＦＴ线性ＳＶＭ方法等。其中ＳＶＭ（ＲＢＦ）方法是基于径向基核函数ＲＢＦ的ＳＶＭ分类器方法。Ｃｏｍｂｉｎｅ线性ＳＶＭ方法中特征提取包括１（）１Ｃｏｎ［］ｖＮｅｔ特征、ＨｏＣＳ特征和ＨＣＦｓ特征，然后结合ＳＶＭ分类器对这些特征Ｆ１进行分类，从而达到分类识别的目的。ＳＩＦＴ线性ＳＶＭ方法是基于空间金字塔匹配的方法提取Ｓ，ＳＶＭＩＦＴ特征并结合简单线性分类器来对图像进行分类识ＥＳ－９２４上验证识－ＣＤ，Ｎ别。在Ａ１别准确率和鲁棒性时实验对比方法包括Ｂａｓｅｅｔ、ＳＡＣＮＮ－（ｌ／２和ＳＡＣＮＮ（ｌ／８。ＳＡＣＮＮ（ｌ／２和ＳＡＣＮＮ（ｌ／８分别对应在ＢａｓｅＮｅｔ））））的ｃｏｎｖ８位置上引入ＳＡ通道ｒａｔｉｏ取值为１／２和１／８时的方法。６４ 第５章基于自注意力的卷积神经网络农作物病害图像识别研究５．４．３与现有方法对比为了验证ＳＡＣＮＮ方法的识别准确率，本章使用ＳＡＣＮＮ方法与现有的方法Ｋ－Ｄ２上。，实验结果如表５４在公有数据集Ｍ进行识别准确率的对比实验．所示５－表．４ＭＫＤ２数据集上不同分类方法识别精度对比结果？方法识别准确率输入图片尺寸＊ＳＡＣＮＮ０．９７０１６８１６８９６ｎＭ［］＊Ｃｏｍｂ．１２５６ｉｅＳＶ（线性０９５２５６）９６［］＊２５６ＨＣＦ０．７１６２５６％＊ＨＣＦ－Ｓｃａ［１ｌｅＲｏｂｕｓｔ０．６６５２５６２５６９５＊Ｌ［］ｅａｆＳｎａＳＶＭＲＢＦ０．４２０２５６２５６ｐ（）９５＊ＬｆＮＮ【］０ｅａＳｎａｐ．５８９２５６２５６９７＊［］ＳＩＦＴＳＶＭ（线性０．５８８２５６２５６）在表５．４中，可以看出，本论文的ＳＡＣＮＮ方法明显的优于所有的对比方法。ＣＶＭ一相比精度最高的ｏｍｂｉｎｅ线性Ｓ方法的精度高出了１．９０％。为了进步加快＊网络运算速度，１６８１６８，节约训练时间本章实验采用规格图片作为网络输入图片。本章的ＳＡＣＮＮ方法具有明显的优势，能够实现快速准确的识别。５－．４．４ＢａｓｅＮｅｔ与ＳＡＣＮＮ的识别准确率和鲁棒性对比引入ＳＡ宄竟对识别准确率提升有什么作用？ＳＡ的重要作用是提取重要区域的有效特征，那么提取到重要区域的有效特征在农作物病害识别时的表现又？Ｓ－ＣＤ９２如何为了回答以上问题，本章中我们在自然环境数据集ＡＥ１４上首先ａｓｅ－ｅＮＮ对ＢＮｔ和ＳＡＣＮＮ方法的精度做了测试对比实验；同时，为了验证ＳＡＣＡＥＳ－ＣＤ１５０３方法的鲁棒性，在９２４测试集中添加０．００至０．不同等级的高斯噪声，、椒盐噪声、同时添加高斯和椒盐噪声等以测试ＳＡＣＮＮ方法在加入不同等级噪声干扰时的识别准确率，从而评估模型的鲁棒性。实验测试噪声等级间隔为０。．００５（１）无噪声干扰时的识别精确度对比结果一步验证本章方法中为了进ＳＡ网络对农作物病斑区域特征提取对识别准Ｅ－２－１４ＢＮＡＣＮＮ确率的作用，在不加噪声时，我们ＡＳＣＤ９上对ａｓｅｅｔ和Ｓ两种，实验对比结果如表５５方法的识别准确率进行测试．所示。５－们提出的基于自注意力的卷从表．５中ＣＤ９２１４上，可以看到，在ＡＥＳ，我积神经网络ＳＡＣＮＮ方法达到了最高的识别准确率０．９５５９（通道比例为１／２时的Ｂｓｅ－Ｎｅ取值，高出ａｔ方法０．７８％，当通道比例为１／８时，ＳＡＣＮＮ方法也达到了）６５ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄－５－ＣＤ表．５ＡＥＳ９２１４上深用ＢａｓｅＮｅｔ和ＳＡＣＮＮ方法测试的识别准确率对比结果？方法Ｂａｓｅ－ＮｅＳ／ＳＡＣｔＡＣＮＮｌ２）ＮＮ（ｌ／８（）识别准确率０．９４８１０．９５５９０．９５３１９５－．３１％的识别准确率ａｓｅＮｅｔ方法识别准确率高出．５％。，比Ｂｐ这说明加入ＳＡ网络确实能够提高农作物病害识别的准确率，我们的方法在农作物病害识别应用中具有高准确率。（２）添加不同噪声时的识别鲁棒性对比结果ＡＣＮＮＥＳ－２４为了验证本章提出的Ｓ方法的鲁棒性，我们在ＡＣＤ９１的测试集－上添加噪声测试识别准确率，其结果如表５．６表５．８所示，其对应的结果曲线如５－．５图５７。图．所示－５Ｓ－ＮｅｔＮＮ表．６ＡＥＣＤ９２１４上测織添加不同等级的髙斯嗓声后采用Ｂａｓｅ、ＳＡＣ（ｌ／８）和ＳＡＣＮＮ（丨／２）三种方法测试的识别准确率对比结果。方法＼噪声等级０．００５０．０１０．０１５０．０２０．０２５０．０３Ｂａ－ｅ５２４ｓｅＮｔ０１１０．４５８１４２５２０．３９３４３６３８０３３３１．０．０．．ＳＡＣＮＮ（１／８）０．７２４９０．６０３２０．５３５７０．４８１００．４３４７０．３８６１ＳＡＣＮＮ（１／２）０．６０１６０．４６０９０．３７１００．３１１９０．２７０１０．２３２７■５－－表．７ＡＥＳＣＤ９２１４上测６＾？加不同等级的嗓声后采用ＢａｓｅＮｅｔ、ＳＡＣＮＮ（１／８）和ＳＡＣＮＮ（１／２）三种方法测试的识别准确率对比结果？＼０．００５０．０１００１５０．０２００２５０３方法噪声等级．．．０－０ＢａｓｅＮｅｔ０．８２０３０．６４１２０．５６４７．５１５１０．４８８３０．４５４２Ｓ８０９４０８２７６０４３０５４６６ＡＣＮＮ（１／）．１７．．７３０．６８９２．６０．１３３ＳＡＣＮＮ（１／２）０．８６３９０．６９２００．５８８２０．５１７３０．４５５３０．４０４６５－－表．８ＡＥＳＣＤ９２１４上拥试集同时添加不同等级的高斯和椒盐嗓声后采用ＢａｓｅＮｅｔ、ＳＡＣＮＮＣｌ／８）和ＳＡＣＮＮ（１／２）三种方法测试的识别准确率对比结果？方法／噪声等级０．００５０．０１０．０１５０．０２０．０２５０．０３Ｂａｓｅ－Ｎｅｔ０．５１１７０．４３２５０．３８９６０．３４３８０．３０６４０．２８６３ＳＡＣＮＮ１／８０．６７３００．５５６３０．４６９３０．４１１８０．３６５５０．３３２０（）ＳＡＣＮＮ（１／２）０．５３１８０．３８０００．３００２０．２４５５０．２１３２０．１７４１５．６中在表，我们可以看到，随着噪声等级的增加比方法的识别准确率，各对都会有所降低一，但是降低的程度不样。这是因为噪声的干扰会增加网络对于图６６ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄像有效特征的提取的难度，干扰到有效特征的提取工作，从而影响识别准确率，使其下降。从表５．６可以看出，当添加高斯噪声时，ＳＡＣＮＮ（１／８）的识别准确率均为最高（表５．６中黑色加粗数字）。虽然前面比例确定实验中通道１／２时的精度比１／８的精度要高，但是噪声干扰实验结果表明当通道为１／８比例时，ＳＡＣＮＮ方法对于噪声的抑制能力更强。由此可见，，通道比例不仅影响识别精度对与鲁棒性的影响也有作用。因此在使用ＳＡ时要特别注意通道大小的选择。高斯噪声ＶＳ识别准确率ＪＳｎ．９００Ｊ５Ｌ０５＼＿＂￣ＢａｓｅＮｅ＾ｔ＃〇！〇〇Ｖ＾０．７５０ＳＡＣＮＮｌ／８（）＋ＳＡＣＮ＿ｌ）｜｜０：５００〇４〇〇．０．３００冒ｗ０．２５０＇▲獻０．２００繼＂■ｍ０．１５００．１０００．０５０ＯｊＯＯＯ００００５０．０１００１５００２００２５００３００３５００４０．０４Ｂ００５．．．．．．．．噪声等级－５Ｓ－ＣＤ９２１４测试集上添加不同等级的高斯噪声时ＮｅｔＳ／２图．５在ＡＥ，采用Ｂａｓｅ、ＡＣＮＮ（ｌ）、ＳＡＣＮＮ（１／８）摊识别准确率结颗比曲线图。同样在当在测试集中添加椒盐噪声，以及同时添加高斯和椒盐噪声时，测试对比的结果可以从表５．７和表５．８得到。ＳＡＣＮＮ（１／８）方法在这两种情况的噪声干扰时，同样表现最好。这样让我们更加确定了选取ＳＡＣＮＮ（１／８）方法以确定网络结构，来实现实际环境下农作物病害识别的高精度和强鲁棒性。５－５７ＳＡ网络ＳＡＣＮＮ从图．５图．中曲线的下降趋势我们显而易见，引入了的－方法在加入不同等级的噪声时，其识别准确率曲线下降比ＢａｓｅＮｅｔ方法的曲线－－（５５５７），ＳＡＣＮＮＢＮｔ图．图．中下降要缓慢说明方法相比ａｓｅｅ方法识别准确率受噪声千扰小，对噪声的抑制能力强，具有更高的鲁棒性。此外，选择１／２通道和１／８通道，其对应的ＳＡＣＮＮ方法对于噪声的抑制能力不同。当通道比例为１／２时，识别准确率高达０．９５５９，但是其对噪声的抑制能力明显弱于通道比例为１／８的ＳＡＣＮＮ方法。所以在精度差别不大的情况下，我们选择噪声抑制能力更强，鲁棒性好的１／８通道的ＳＡＣＮＮ方法对农作物病害进行识别，此方法在ＡＥＳ－ＣＤ９２１４上的精度和鲁棒性方面都具有优异的表现。在此，我们设置通道大小时兼顾精度和鲁棒性两方面综合考虑而选择最佳网络结构，希望这对于研宄６７ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄椒盐噪声ｖｓ识别准确率ａｉ－ＮｅＢａｓｅｔ８＾｜０：雙０．８００ＳＡＣＮＮｌ／８（）ＳＡＣＮＮ１／２Ｅ（）ｍ画０．５５０▼０．５００ｏ４５〇．—ｍｍ０－４０００－３５００．３００Ａ０．２５０００．．．００５０．０１０．０１５０．０２００２５０．０３０．０３５００４０．０４５０．０５噪声等级５－－图．６在ＡＥＳＣＤ９２１４测试集上添加不同等级的椒盐噪声时，采用ＢａｓｅＮｅｔ、ＳＡＣＮＮ（ｌ／２）、ＳＡＣＮＮ（１／８）方法识别准确率结果对比曲线图．Ａ高斯＋椒盐噪声ＶＳ识别准确率—ＩＩＩ＼－＾ＳＡＯＯＮｌ／８）（｜Ｓ；７００Ｖｗ０５０－＾ＳＡＣＮＮｌ／２（）Ｐ｜ｏｌｏｏ邊｜０．４５０▲０．４００義、０．３５０、了▲０．２００．０．１５０人■ｌ０．１０００．０５００．０００００．００５０．０１０．Ｄ１５０，０２０．０２５０．０３０，０３５０．０４０．０４５０．０５噪声等级－５７ＳＣＤ９２１４－图．在ＡＥ测试集上同时添加不同等级高斯椒盐噪声时，采用ＢａｓｅＮｅｔ、ＳＡＣＮＮ（１／２）、ＳＡＣＮＮ（１／８）施识别翻率结觥比曲线图。注：图中横坐标表示的是噪声等级，纵坐标表示的是识别准确率。６８ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄５－ＯＲ表．９ＡＥＳＣＤ９２１４上和试集添加不同等级的高斯嗓声后采用ＨｅｓＮｅｔ、ＨＯＲＰＳＦ和ＳＡＣＮＮ（１／８）三种方法测试的识别准确率对比结方法＼噪声等级０．００５０．０１０．０１５０．０２０．０２５０．０３ＨＯＲｅｓＮｅｔ０．５７８９０．４８６７０．４４５５０．４１６８０．３９５１０．３７５６ＨＯＲＰＳＦ０．７１３８０．６２４４０．５４９１０．４７９７０．４３０４０．３７１３ＳＡＣＮＮ（．５１／８）０．６７３００５６３０．４６９３０．４１１８０．３６５５０．３３２０５－ＨＯＲ１０ＡＥＳＣＤ９２１４上ＮＨＯＲＰＳＦ表．＿试集添加不同等级的椒盐嗓声后采用ｅｓｅｔ、和ＳＡＣＮＮ（１／８）三祀推澜试的识别＿率对＿果．方法＼噪声等级０．００５０．０１０．０１５０．０２０．０２５０．０３ＨＯＲｅｓＮｅｔ０．５５７７０．４６３４０．４０７６０．３８５９０．３５８３０．３３０１ＨＯＲＰＳＦ０６９１１０．５７０７０４７１００．４１２５０．３４８００．２９９７．．ＳＡＣＮＮ（１／８）０．６７３００．５５６４０．４６９３０．４１１３０．３６５５０．３３２０５－ＨＯＲｅｓＮｅ表．１１ＡＥＳＣＤ９２１４上测试集同时添加不闻等级的高斯和椒盐嗓声后采用ｔ、ＨＯＲＰＳＦ和ＳＡＣＮＮ（１／８）三种方法和试的识别准确率对比结果。方法＼噪声等级０．００５０．０１０．０１５０．０２０．０２５０．０３ＨＯＲｅｓＮｅｔ０．５５７７０．４６３４０．４０７６０．３８５９０．３５８３０．３３０１ＨＯＲＰＳＦ０．６９１１０．５７０７０．４７１００．４１２５０．３４８００．２９９７ＳＡＣＮＮ（１／８）０．６７３００．５５６４０．４６９３０．４１１３０．３６５５０．３３２０者引入ＳＡ网络时能有所启发。５．４．５本论文三种方法识别准确率和鲁棒性对比－ＣＤ９２１４面向实际环境数据集ＡＥＳ，我们对本论文第三章提出的ＨＯＲｅｓＮｅｔ方法，第四章提出的ＨＯＲＰＳＦ方法以及本章ＳＡＣＮＮ方法的识别准确率和鲁棒性进行对比，其不添加噪声时识别准确率对比结果如表５．１２所示，在添加噪声时－－的鲁棒性对比结果如表５表５．１１所示５１。．９，对应的曲线如图５．８图．０所示５１２ＡＥ－１４ｅｓＮｅｌ法测试的识别准确率表．ＳＣＤ９２ｊｙＲＨＯＲｔＨＯＲＰＳＦＳＡＣＮＮ／８ｆｌ、、（）方对比结果．方法ＨＯＲｅｓＮｅｔＨＯＲＰＳＦＳＡＣＮＮ（ｌ／８）识别准确率０．９０１４０．９２５７０．９５３１当不添加噪声时，由表５．１２的识别准确率结果可以看到，ＨＯＲｅｓＮｅｔ、ＨＯＲＰＳＦ、６９ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄ＳＡＣＮＮ三种方法的识别准确率单调上升，这说明加入注意力机制的ＳＡＣＮＮ方－２１４ＣＤ９时，与ＨＯＲｅｓＮｅｔ、ＨＯＲＰＳＦ方法相比法在面向实际环境病害图集ＡＥＳ，具有更高的精度。这点充分的说明了ＳＡ机制对于病斑有效特征的提取表现优异，能够提取到更加细致有效的病斑特征，有利于识别性能的改善和提高，我们的ＳＡＣＮＮ方法对于实际环境带有复杂背景和各种环境因素影响下的病害图像识别能力更强。０３５０高斯噪声ＶＳ识别准确率０，９００孤Ｗ〇８５０＋ＨＯＲｅｓＭｅｔ＾０：８００摇〇．７５０ＨＯＲＰＳＦ＾０．７００＃ｓ．０．６５００－Ａ＾．６００麵鼠ＳＡＣＮＭ（１／８）一０．ＳＳ０、０．５０００．４５０〇．４〇〇；０．３５００．３０００．２５００．２００．０．１５０．．．０．００００５００１０１５００２０．０２５０．０３０．０３５噪声等级５８Ｓ￣ＣＤ９２图．在ＡＥ１４测试集上添加不同等级的高斯嗓声时，采用ＨＯＲｅｓＮｅｔ、ＨＯＲＰＳＦ、ＳＡＣＮＮ（１／８）方法识别准确率结果对比曲线图。ＥＳ－ＣＤ９２当在Ａ１４数据集的测试集中添加不同等级的高斯噪声、椒盐噪声－、同时添加不同等级高斯椒盐噪声时，由表５．９表５．１１可以得到，ＨＯＲｅｓＮｅｔ、ＨＯＲＰＳＦ、ＳＡＣＮＮ三种方法随着噪声等级的增加，识别准确率都会相应的降低。虽然ＳＡＣＮＮ在不加噪声干扰时识别准确率是最高的，但是当加入噪声干扰时，即使等级为０．０５，无论是加高斯噪声，还是加椒盐噪声，ＳＡＣＮＮ方法的识别准确率都要低于Ｈ０ＲＰＳＦ，由此可见，ＨＯＲＰＳＦ相对于ＳＡＣＮＮ方法，对于椒盐噪一－声和高斯噪声的抗干扰能力更强．８５１０些。从图５图．的曲线中，我们同样可以得到这样的结论。当加入不同等级的高斯噪声、同时添加高斯和椒盐噪声这两种情况，分别对应图５８．和图５．１０曲线图，可以很明显的看到，红线圆点代表的ＨＯＲＰＳＦ方法的识别准确率曲线在加入高斯噪声时识别一准确率路领先，而在同时加入高斯和椒盐噪声时识别准确率和ＳＡＣＮＮ方法基本相同。只有在加入，５．９高斯噪声低等级时如图所示，ＳＡＣＮＮ方法的识别准确率稍高，当等级高于０．０１５之后，其识别准确率低于ＨＯＲＰＳＦ方法。因此，整体上ＨＯＲｅｓＮｅｔ方法对于三种情况的噪声抑制性能要优于ＳＡＣＮＮ方法。分析其原因，是由于ＨＯＲＰＳＦ７０ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄１０００椒盐噪声ＶＳ识别准确率ｎｏｎｑ＿？－？ＨＯＲｅｓＮｅｔｍ嫌０．９００？０．８５０ＨＯＲ＾ＰＳＦ磐０．８００—－０．７５０ＡｇｒＳＡＣＮＮ（８１／）ｇ０．７００故０．６５００．６００〇．５５〇０５０００．４５００．４０００．３５００．３００００．００５０．０１０．０１５０．０２０．．．０２５００３００３５噪声等级ＥＳ－ＣＤ９２图５．９在Ａ１４测试集上添加不同等级的椒盐噪声时，采用ＨＯＲｅｓＮｅｔ、ＨＯＲＰＳＦ、ＳＡＣＮＮ（１／８）方＾识别准确率结敕ｆ比曲线图。＋ｏｓｆｏ高斯椒盐噪声ＶＳ识别准确率勝０．９００ｒｏｃｎ〇－－＊Ｈ０ＲｅｓＮｅｔ＾０；８００Ｍ．７５０．０－＾－ＨＯＲＰＳＦ０＊７００氤咬０．６５０＾－—０．６００５＾ｎｉｒＳＡＣＮＮ１／８（）０．５５０鼠、０．Ｓ０００．４５０ｏ．４〇ｏ０．３５００３０００．２Ｓ００．２０００．１Ｓ０００．００５０，０１０．０１５００２０３０．０３５，．０２５０．０噪声等级５－１０ＥＳＣＤ９２１４ＨＯＲＮ图．在Ａ测试集上同时添加不同等级高斯椒盐嗓声时，采用ｅｓｅｔ、ＨＯＲＰ■ＳＦ、ＳＡＣＮＮ（１／８）Ｗ识别准确率结比曲线图。注：图中横坐标表示的是噪声等级，纵坐标表示的是识别准确率。７１ 第５章基于自注意力的卷积祌经网络农作物病害图像识别研究中的参数共享反馈模块能够有效抑制这两种噪声的干扰，具有很好的抗干扰能一力。因此，在我们下步的工作中可以研究将参数共享反馈ＰＳＦ模块和ＳＡ模块有效融合来对抗噪声干扰问题。５．５基于ＳＡＣＮＮ的农作物病害图像识别系统一在本节中，我们将使用ＳＡＣＮＮ方法来实现个农作物病害图像识别的应用Ｓ－Ｄ系统，我们将该系统命名为ＡＥＣＤＲ（ＣｒｏｐｉｓｅａｓｅＲｅｃｏｇｎｉｔｉｏｎ，ＣＤＲ）系统。一ＡＥＳ－ＣＤＲ系统是通过使用ＳＡＣＮＮ方法训练个农作物病害图像识别模型，并使用训练获得的模型来对用户上传的图像进行实时的分类识别，以确定所传图像的病害类别。５．５１．模型训练的数据集准备－ＣＤ９２目前该系统的后台数据集包括ＡＥＳ１４数据集以及网络搜索获得的８６５张其他日常生活的图像，５．其图像样例如图．１１所示。在图５１１中，我们可以看到，该图像数据类别多样，包括日常家庭中常见的花朵、窗帘、办公室、房子、桌子、猫一、狗等共７类８６５张图片。我们将这７类作为我们的其他非病害类别起加入一７ＡＥＳ－到训练集中。即我们的训练集，３７ＣＤ９２１４共有个类别除了表．所列出的一中的六类以外，还有类是其他类别。其他类别中具体的类别以及相应数量如５一＊１３。７２５６２５６表．所示我们将这类图像统裁剪为。随机抽选训练集和测试集的比例为４：１。■９■讀图５．１１新增的其他类别图像示例？５５２ＡＥＳ－ＣＤＲ应．．用系统架构设计ＡＥＳ－ＳＡＣＮＮ５ＣＤＲ系统是通过网络对表．１３所歹Ｉ出的７，」类数据进行训练获取到相应的识别模型，之后加载模型对用户上传的图像进行实时的测试，给出７２ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄表５．１３其他类别中包含的图像类别与数置？类别名称花朵窗帘办公室房子桌子猫狗类别数量２９３５０２４８３５１２０６０５９－识别结果。ＡＥＳＣＤＲ系统可以实现６种病害类别和非病害类别之间的分类识别，其整体系统架构如图５．１２所示。图片上传贝ｍ展不ｒ１ｕ—ｍｍ——一二ＴＺＴ——一ｉ—ｊＭｋｍｍｍｍｍｗｍｍｔｔｕｔｔｉｒｔＶｒｔＭＶＭｉｆｉｎｍｉ．ｉ■＿＿？＿？■＿？＿＿■晒＿ＭｒｔｍｍｍｍｗｌＶｒｔ—＊＊？？ｒｔ？ＵＭ§１—：ＩＩ模ｊｉ数据集准备—：ｊｉ；ＣＤ９２１４３常豕玲＊ｒ二一后台限务支撑ＩＬ！＾５－图．１２农作物病害图像识别应用系统ＡＥＳＣＤＲ整体架构。一我们设计和实现了个面向实际环境的农作物病害识别系统，该系统可以实现对水稻和黄瓜的６种病害图像以及其他非病害类别的识别。如图５．１２所示，我们的ＡＥＳ＿ＣＤＲ系统包括后台服务支撑和ｗｅｂ页面展示两大模块。其中后台服一＊务首先通过数据集准备将数据集中的１００７９张图像统尺寸为２５６２５６，对数据集中每类随机抽取８０％作为训练集，２０％作为测试集，对ＳＡＣＮＮ网络结构选择合适的初始化值进行模型训练。训练后获得农作物病害图像识别模型，通过图片上传，重载模型，对图片进行分类，并在系统界面中给出分类结果。Ｗｅｂ页面展示包括图片上传和分类结果展示两部分。５－．５．３ＡＥＳＣＤＲ应用系统界面展示－ＣＤＲ应用系统界面展示如图５３ＡＥＳ．１所示。在图５．１３中可以看到，目前我们的系统只是针对水稻和黄瓜６种病害以及其他非病害类别给出识别结果。１系统操作步骤如下：（）在ｗｅｂ界面中，，按下选择图片按钮即可打开本地的图库文件夹，用户也可以通过浏览选择电脑中其他位置的图片，其界面展示如５１４图．所示。（２）选择图片之后，只需点击上传识别，则会提示你是否确认上传图片进行识别。当选择确定之后，即可实现将客户端电脑上的图片上传到ｗｅｂ服务器端。７３ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄识别系统－农作物病窖图像＊请您点击下面的浏笼按《．选择您想＊进行识别的供害？片识掬．，点击提交邸可开＆Ｈ黹蒹统支持的对识崩的农作赛病畜田像种炎：■Ｉ＿ｉｊ圍■．板权听有中科Ｋ合钯？绝机械研宄所智ｔｅ农欢与环电检《研宄笮２０丨８＊箱：ｗｈＺｅｎｇ？ｎ？＿？；．Ｃｎｂ＾ｍｗ－霸Ｓｉｉ５－１ＡＥＳＣＤＲ图．３应用系统界面展示。农作物病害图像识别系统？您点＆Ｔ面的《？？？．＊？您《要进行识Ｗ的病＊围片．衣击探交扣珂开烚识期？Ｅ＾－＜＾＆？ｎ卜Ｔｈｒ＾ｍＳ＾ｒｎｎｔ．ｉ１＿丨｜＃ＩＩＩｋ議—＿—＇＇—？？．＿１义“ｌ：：：：；：ｔ＾３Ｓａｉｆａ？ｔｆｌｂｏｎｐ？＿５ｉｉＪ５２Ｋ＾９〇９ｉ＞ｇ？＾５＾９，一：二．？隨細＊ＨｉｗＩ…二＾＂＇＇？－文轉名：？！Ｎｉ３ｉｆ５ｎ？）ＦｔＣ２？Ｖ．：？．；；．７ＳＷ３Ｗ＾．ｄＳ０３５＜ｉ５：：Ｔ？；｜：：Ｕ二—！：—￣￣”！３＾ｉＨＨＨＳＳ版Ｋ所有中？Ｅ合Ｒ？裝扒臧《５宥ｆｔ农ｆｔ与环填检讕玦宄寮２０１：：ｈｆｉｉｎｃｎｔ系８崎箱■＾ｎｉ＾１Ｆｍ－５－图．１４ＡＥＳＣＤＲ应用系统界面展示选择图片。７４ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄＾农作物病審图像识§！１系织％＇隨＾？？？点击７面的《粜按任，选择《？麥进识期的＊＊田妗，点击提交？可开始识期ｒｈｏｒｐｓ＾—酿Ｅ３３Ｉ：？：ｉ較系统支挎的可识期的农疼＆联＊？像羚炙Ｉ幽關關｜Ｉ＾■．Ｋ胡水疽铒农稻纹枯病水Ｉ麻《？．，■麵ｉｌｌ织权所奋中科Ｋ合淝管能机裱研丸用费ｆｔ农＊与环埭检？班究室２〇！８邮箱：■ＫＬｒｊＩ－５－图．１５ＡＥＳＣＤＲ应用系统界面确认识别展示。农作物病害固像识别系统ｍｔ１＼？别结果如下：ｗｍｍｍ－ａ澜类期二預测类期三＇．；１ｉ＿■ｉ寧＜其它内：ｌｏｏ．ｏｏ％〉＜？亊：〇〇〇＾＞＞黄瓜白？病：概事：〇〇〇叫＞ｆ（？黄瓜靶斑病＇．？＊－＼Ｅ＾Ｍ（：目前系统支持的可＿的衣作物病畜困像种类：黄瓜Ｒｓｉ病ｕｒｎａｓｓｓ病黄瓜白粉病丨■圓Ｉ：」：」５－－图．１６ＡＥＳＣＤＲ应用系统界面展示识别结果。７５ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄５１５其界面显示如图．所示（３）当图片上传到服务器端后，会自动调用模型重载模块，对后台的农作物病害图像识别模型进行重载，实现对上传的图片的分类识别。（４））通过对上传的图片进行识别之后，会给出该图片的类别概率，系统选择输出概率最大的三类的结果以及概率，其界面显示如图５．１６所示。５５４ＡＥＳ－．．ＣＤＲ应用系统测试ＡＥＳ－ＣＤＲ２８０为了检测应用系统的识别效果，。我们随机搜索下载张图片图片类别包括黄瓜霜霉病、白粉病、靶斑病各４０张，水稻纹枯病、稻瘟病、胡麻斑病各４０张，其他类别如猫４０张。具体的测、狗、桌子、建筑物、花朵等共５１４５１５试集组成见表．所示。测试结果见表．所示。５＊．１４ＡＥＳＣＤＲ朗系．表统测谢｜逝成类别名称以及数最＃情黄瓜黄瓜黄瓜水稻水稻水稻胡其他类别＾大１霜霉病白粉病靶斑病纹枯病稻瘟病麻斑病猫狗桌子建筑物花朵数量４０４０４０４０４０４０８８８８８｜｜｜｜｜｜｜５－表．１５ＡＥＳＣＤＲ应用系统测试结果。７类别１２３４５６７－－－－－１７２７３７４７５正确识别Ｓ量３７３６３８３７３８３７８８７８６｜｜｜｜｜｜｜误判数量３４２３２３〇０１０２｜｜｜｜｜｜｜一５－表．１５中，类别１７分别对应表５．１４的第行的类别种类。由表５．１５可知，测试结果对于病害类别共２４０张图片，误判１７张；对于其他类别测试集共４０－，误判３张，ＡＥＳＣＤＲ系９２．８６％，张图片。由此可见统的整体识别精度为说明一Ｓ－ＣＤＲ应用系统对于我们的ＡＥ实际的图片识别效果较好，这结果和我们在ＡＥＳ－ＣＤ９２－１４上的识别精度相差不大，也说明了我们的ＡＥＳＣＤ９２１４确实是适合一于验证实际环境应用的数据集。另外，在此需要注意点：由于深度学习模型训一练的类别有限，虽然我们专门添加了类非病害图像类别，但是我们在该类别中，。的图像种类也是有限的不能涵盖其他非病害类别所以，有可能会出现待识别的图像不属于我们的训练集中的任何种类的这种情况，这样会导致输出的分类一一的误判问题。当不属于任何类的时候，会归为最接近的类。对于此种误判，７６ 第５章基于自注意力的卷积神经网络农作物病害图像识别研宄属于训练集限制所导致的。我们会在后续工作中不断的增加系统的训练集以及识别种类，不断改进系统的识别性能，以期实现更加快速实用的诊断系统。５．６本章小结一本章中，为了进步提高农作物病害识别的识别精度和鲁棒性，我们基于，提取病斑区域的有效特征的目的，将自注意力网络引入到卷积神经网络系统中一利用自注意力网络来提取病斑区域的有效特征，从而提出了种基于自注意力的卷积神经网络（ＳＡＣＮＮ）方法来实现农作物病害的高精度和强鲁棒性的识别。－通过在公有数据集ＭＫ－Ｄ２和自然环境农作物病害数据集ＡＥＳＣＤ９２１４上的实验ＭＫ－Ｄ２上测试，证明了我们ＳＡＣＮＮ方法相比现有方法在精度上具有优势（在ＥＳ－ＣＤ９２１４的测试识别准确率高出１．９０％）；同时当在自然环境采集的数据集Ａ，集中加入各种噪声进行测试时，我们的ＳＡＣＮＮ方法具有更好的抗干扰能力充分证明了该方法的强鲁棒性，。此外本章还探讨了自注意力网络在深度网络中的一位置选择，以进步清楚的、通道大小设置、网络数目等方面对识别性能的影响。，展示其工作机制，同时为其他研宄工作者提供启发最后结合本论文提出的三ＡＥＳ－，ＣＤＲ农种方法，进行了三种方法的对比实验并在此基础上设计和实现了一一ＳＡ作物病害识别系统，网络和优化算法进。下步我们将考虑通过综合利用步提尚识别精度和鲁棒性。７７ 第６章总结与展望第６章总结与展望６．１研究工作总结本论文重点研宄了面向实际环境下的农作物病害图像的鲁棒性识别，以有效改善因缺乏专业知识无法准确诊断病害的限制，提高以人工智能技术为载体的农业专家知识和经验的推广普及，从而显著提高农作物病害的诊断和防治效果。主要研宄内容与创新点如下：１、针对实际环境下农作物病害识别精度不高的问题，设计并实现了高阶残差一网络，研究了高阶残差网络对于农作物病害的精度提升的显著作用种，提出了－高阶残差卷积神经网络方法（ＨｉＯｒｄｅｒＲｅｓｉｄｕａｌＣｏｎｖｏｌｕｔｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋｇｈｉ，ＨＯＲｅｓＮｅｔ），用来实现农作物病害的快速准确识别。高阶残差网络可以为病害表一观提供丰富细致的特征表达，能够有效提高模型的病害识别精度，同时还具有一定的抗干扰能力，定程度上能够提高系统的鲁棒性。通过对自然环境下采集的ＡＥＳ－ＣＤ９２１４数据集进行精度和鲁棒性测试实验，结果表明，基于高阶残差的深度卷积神经网络能实现对农作物病害的准确鲁棒识别。２、针对实际环境下农作物病害识别鲁棒性弱的问题，设计并实现了参数共一享反馈网络，研宄了参数共享反馈网络对识别鲁棒性的重要作用，提出了种高ｈ－－阶残差和参数共享反馈的卷积神经网络模型（ＨＲｉｉｇＯｒｄｅｒｅｓｄｕａｌａｎｄＰａｒａｍｅｔｅｒＳｈａｒｉｎｇＦｅｅｄｂａｃｋＣｏｎｖｏｌｕｔｉｏｎａ丨ＮｅｕｒａｌＮｅｔｗｏｒｋ，ＨＯＲＰＳＦ），以实现实际环境下农作物病害的高精度和鲁棒性的识别。该方法中高阶残差子网络为病害表观提供丰富细致的特征表达，能够有效提高模型的病害识别精度；参数共享反馈子网络一使得原深层特征中的背景噪声进步被抑制，能够有效提高模型的鲁棒性。通过－Ｄ２上对比和现有方法在公有数据集ＭＫ结果显示，本论文方法在兼顾识别准确率－ＣＤ、识别速度和鲁棒性方面，表现更为优异。同时通过对ＡＥＳ９２１４数据集上的测试结果表明，本文方法能实现实际环境下农作物病害的高精度、快速和鲁棒性的识别。３、针对农作物病害图像背景复杂、病斑区域小、病斑与背景对比度小从而容易造成两者混淆等特点而严重影响病害识别效果，导致识别鲁棒性不高的问一题，研宄了自注意力网络对于病斑区域特征提取的有效性，提出了种基于自Ｓｅ－注意力的卷积神经网络（ｌｆＡｔｅｎｔｉｏｎＣｏｎｖｏｌｕｔｌ丨ｉｏｎａＮｅｕｒａＮｅｔｗｏｒｋ，ＳＡＣＮＮ），以实现农作物病害病斑有效特征的提取以及农作物病害识别的强鲁棒性，该方法通过引入自注意力机制能够使深度网络学习专注于病斑区域的有效特征提取。该方法主要包括基本网络和自注意力网络。其中基本网络主要用于提取图像全局特征，自注意力网络主要用于获取病斑区域的局部特征。广泛的实验结果表７８ 第６章总结与展望ＳＡＣＮＮＡＥＳ－ＣＤ－１４Ｄ２上的识别准确率分别达到了明，方法在数据集９２和ＭＫ－９５．３１％和９７．０％ＭＫＤ２上的识１．，其中在别准确率优于当前最好的方法９％，这表明引入自注意力机制的卷积神经网络能够重点关注图像重要区域，从而有效提ＡＥＳ－ＣＤ９２高识别精度１４测试集中添加不同等级的噪声测试显示了ＳＡＣＮＮ。在方法对于噪声的抗干扰能力，说明了ＳＡＣＮＮ方法具有强鲁棒性。此外，本论文还探讨了自注意力网络在深度网络中的位置选择、通道大小设置、网络数目等方一面对识别性能的影响，以进步清楚展示自注意力网络工作机制，希望能为其他研宄者提供启发。通过以上研究工作，实现了对实际环境下农作物病害图像的高精度和强鲁棒性的识别，为农作物快速、准确、鲁棒性的诊断和防治提供技术支持。６．２未来工作展望本论文面向实际环境农作物叶片病害图像识别的鲁棒性进行了相关研究工作，基于这些研宄工作，基本实现了实际环境下农作物病害图像的快速、准确、鲁棒的识别目标，为后续农作物病害诊断和防治奠定了坚实的技术保障。随着研，宄的不断深入未来可从以下几个方面开展相关研究工作：（１）考虑到高阶残差的卷积神经网络在农作物病害识别上的有效性，未来可考虑在继续通过更多方式扩充图像集的基础上，增加更多的残差模块，研宄残差模块之间的更多的连接方式，充分发挥高阶残差网络的优势，结合优化算法来进一步提高农作物病害图像识别的准确率。一（２）鉴于反馈机制的有效性，未来可进步研宄高阶残差和参数共享反馈模块的结合方式，通过对模块间多种结合方式的选择与比较，最终确定最优的组合方式来构建整体性能最佳的网络模型，以更好的满足实际环境农作物病害图像识别需求，解决实际识别应用问题。（３）在基于自注意力的卷积神经网络农作物病害识别方法研宄中，我们发现该方法对于添加的高斯噪声和椒盐噪声的抑制能力并不是很好，鉴于参数共享反馈模块对于噪声的强抑制方面的优异表现一，我们可以考虑下步工作中将参数共享反馈网络和自注意力网络相互结合，研宄如何让两者发挥各自的优势以更好的实现实际环境农作物病害图像识别的快速、高精度、强鲁棒性和抗干扰的综合优异性能。（４）农作物病害有时会多种病害同时发生，对于此种情况，需要研究多种病害共存时的病害识别方法。另外，对于早期诊断，也是具有重要意义的研究课题一。在下步的工作中我们会考虑对多病害的诊断、早期诊断等方面进行相关的研宄。７９ 参考文献参考文献１刘俊田张金华．Ｍ．中国农业科学技术出版社２０１４．［］，植保实用技术手册［，］２玺宏夏建国等．试论我国农业专家系统的应用及发展Ｊ．农业网络信息２０００［］吴，谭，，［］，８－：１４．（）３建强段亚冰李定旭等．我国植物病虫害专家系统的研宄进展及发展趋势Ｊ？河南［］徐，，，［］３６３－农业科学２００７１１．＾１１７，，（）４ＡＢＵＮＡＳＥＲＳＳＫＡＳＨＫＡＳＨＫＡＦＡＹＹＡＤＭ．Ｄｅｖｅｌｏｉｎａｎｅｘｅｒｔｓｓｔｅｍｆｏｒｌａｎｔ，，［］ｐｇｐｙｐｄ－ｉｓｅａｓｅｄｉａｎｏｓｓＪ．ＪｌｆＡｒｉｃｉａｌＩｎｔｅｌｌｉ２００８ｌ２７８８５．ｉｏｕｒｎａｏｔｆｉｅｎｃｅ：ｇｆ］ｇ，，（）一５？农业专家系统的应用及发展［Ｊ？山东师范大学学报自然科学版２００８２３４葛中）：，，（）［］］（－１５０１５３．上官周平－６？农业专家系统及其应用Ｊ．农业现代化研宄．１９９４１５５：２９８３０１［］，，）［］（－７崔国贤．．盛畅．专家系统及其在农业上的应用与发展［Ｊ农业网络信息２００８３：４７［］，］，（）．８马孝义专家系统在农业上的应用概况及前景［Ｊ．农机化研究２０１１３３石琳，陈帝伊，，［］，］２－（Ｉ）：１５２１８．？９ＢＡＲＢＥＤＯＪＧＡｉｉｉｆｄｉｆｌ．Ｄｔａｌｉｍａｅｒｏｃｅｓｓｎｔｅｃｌｉｎｉｕｅｓｏｒｅｔｅｃｔｉｎｕａｎｔｉｎａｎｄｃａｓ［］ｇｇｐｇｑｇ，ｑｙｇｉ－ｉｎｌｓｆｙｇｌａｎｔｄｉｓｅａｓｅｓＪ．ＳｒｉｎｅｒＰｕｓ２０１３２ｌ：６６０６６０．ｐ［］ｐｇ，，（）ｉｉｍａｌｈｌ１０ＨＵＧＨＥＳＤＰＳＡＬＡＴＨＥＭ．Ａｎｏｅｎａｃｃｅｓｓｒｅｏｓｔｏｒｏｆｅｓｏｎａｎｅａｌｈｏｅｎａｂｅｔｔｔ［，ｐｐｙｇｐ］ｔｈｅｄｅｖｅｌｏｍｅｎｔｏｆｍｏｂｉｌｅｄｉｓｅａｓｅｄｉａｎｏｓｔｉｃｓｔｈｒｏｕｈｍａｃｈｉｎｅｌｅａｒｎｉｎａｎｄｃｒｏｗｄｓｏｕｒｃｉｎｐｇｇｇｇＪ．ＣｏｍｕｔｅｒＳｃｉｅｎｃｅ２０１５．［］ｐ，１１ＭＯＨＡＮＴＹＳＰＨＵＧＨＥＳＤＰＳＡＬＡＴＨｅＭ．Ｕｓｎｄｅｅｌｅａｒｎｉｎｒｉｍａｅｂａｓｅｄｌａｎｔｉｆｏ［］，，ｇｐｇｇｐｄｉｓｅａｓｅｄｅｔｅｃｔｉｏｎＪ．ＦｒｏｎｔｉｅｒｓｉｎＰｌａｎｔＳｃｅｎｃｅ２０１６７．ｉ［］，，？１２ＮＡＣＨＴＩＧＡＬＬＬＧＡＲＡＵＪＯＲＭＮＡＣＨＴＩＧＡＬＬＧＲＣｌａｓｓｉｆａｔｉｏｎｏｆａｌｅｔｄｉｓ［．ｉｃｒｅｅ］，，ｐｐｏｒｄｅｒｓｕｓｉｎｇｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓ［Ｃ／／ＩＥＥＥＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎＴＯＯＬＳ］Ａ－ｗｉｔｈｒｔｉｌＩｎｅｌｌｅ２０１７４７２４７６．ｉｆｉｃａｔｉｇｎｃｅ．：１３ＤＵＲＭＵＳＨＧＵＮＥＳＥＯＫＩＲＣＩＭｅｔａｌ．Ｄｉｓｅａｓｅｄｅｔｅｃｔｉｏｎｏｎｔｈｅｌｅａｖｅｓｏｆｔｈｅｔｏｍａｔｏ［］，，，ｌａｎｔｓｂｕｓｉｎｄｅｅＩｅａｍｉＣ］／／ＩｎｔｅｍａｔｉｏｎａＧｅｏｉｔｉ．０ｐｙｎｌＣｏｎｆｅｒｅｎｃｅｏｎＡｒｏｎｆｏｒｍａｃｓ２１７：ｇｐｇ［ｇ－１５．４．Ｊ．１孙俊谭文军毛罕平等基于改进卷积神经网络的多种植物叶片病害识別农业工］，，，［］［－２０１７３３１９：２０９２．程学报１５，，（）一．．［１５张航程清洁种基于卷积神经网络的小麦病害识别方法［Ｊ山东农业科学，，武英，等，］］２０１８３１３７－４１．（）：１１６ＢＡＲＢＥＤＯｉｉｉｉｄｉｉｉ［ＪＧＡ．Ａｒｅｖｅｗｏｎｔｈｅｍａｎｃｈａｌｌｅｎｅｓｎａｕｔｏｍａｔｃｌａｎｔｓｅａｓｅｄｅｎｔｉｆｉｃａｔｏｎ］ｇｐｂａｓｅｄ－ｏｎｖｉｓｉｂｌｅｒａｎｇｅｉｍａｇｅｓＪ．ＢｉｏｓｓｔｅｍｓＥｎｉｎｅｅｒｉｎ２０１６１４４：５２６０．ｆ］ｙｇｇ，，８０ 参考文献１７刘春来文景芝明秀等ＳＪ．［．ｒＤＮＡＩＴ在植物病原真菌分子检测中的应用东北农业，，杨，［］］２００７３８－大学学报１：１０１１０６．，，（）．１Ｊ．１８魏蜜路露李春琪株油茶病害拮抗真菌的鉴定、生物学特性及拮抗作用研究，等［］，，［］２０－河南农业科学１６４５８：７４８０．，，（）－－１９ＳＲＥＥＮＩＶＡＳＡＰＲＡＳＡＤＳＳＨＡＲＡＤＡＫＢＲＯＷＮＡＥ５ｅｔａｌ．Ｐｃｒｂａｓｅｄｄｅｔｅｃｔｉｏｎｏｆｃｏｌ？，［］－ｌｅｔｏｔｒｈｕｍａｃｕｔａｕｍｏｎｓｔＪ．ＰｌａｎｔＰａｈｏｌｏ２０１０４５４：６５０６５５．ｉｃｔｒａｗｂｅｒｒｙｔｇｙ［］，，（）２０志雄齐龙马旭等．基于高光谱成像技术的水稻叶瘟病病害程度分级方法［Ｊ．农业］郑，，，］［工程学报２０９－１３２９丨：１３８１４４．，（），２１夏拯曦．玉，张明哲，等米细菌性枯萎病和玉米内州萎焉病的红外光谱检测技术研］，陈［宄Ｊ．西南农业学报２０１５２８３．［］，，（）２２雷雨曾庆东．基于高光谱成像技术的小麦条锈病病害程度分级方法Ｊ．农业机械学报［，，］［］２０１８５．（）２３ＱＥＭＪＢＵＲＫＳＴＦＲＩＴＥＮＯＵＲＭＡｅｔａｌ．Ｄｅｔｅｃｔｉｏｎｏｆｃｉｔｒｕｓｃａｎｋｅｒｕｓｉｎｈｅｒｓｅｃｔｒａｌ，，，ｇｙｐｐ［］ｒｅｅｃａｎｃｅｗｉｉｆｌｔｉｍａｉｎｓｅｃｔｒａｌｉｎｆｏｒｍａｔｉｏｎｄｉｖｅｒｅｎｃｅＪ．ＪｏｕｒｎａｌｏｆＦｏｏｄＥｎｎｅｅｒｎｇｇｉｔｈｐｇ［ｇｇ，］２００９９３２－１８３１９１．：，（）＇＇２４ＸＩＮＧＪＢＲＡＶＯＣＪＡＮＣＳｏＫＰＴｅｔａｌ．Ｄｅｔｅｃｔｉｎｂｒｕｉｓｅｓｏｎｏｌｄｅｎｄｅｌｉｃｉｏｕｓａｌｅｓ，，ｇｇｐｐ［］，ｕｓｉｎｈｅｒｓｅｃｔｒａｌｉｍａｉｎｗｉｔｈｍｕｌｔｉｌｅｗａｖｅｂａｎｄｓＪ．ＢｉｏｓｓｔｅｍｓＥｎｉｎｅｅｒｉｎ２００５９０ｇｙｐｐｇｇｐ［］ｙｇｇ，，－ｌ：２７３６．（）２５ＳＡＮＫＡＲＡＮＳＥＨＳＡＮ－－？ＩＲ．Ｃｏｍａｒｉｓｏｎｏｆｖｓｉｌｅｎｅａｒｎｆｒａｒｅｄａｎｄｍｉｄｉｎｆｒａｒｅｄｓｅｃｉｂｉ，ｐｐ［］ｔｒｏｓｃｏｆｏｒｃｌａｓｓｉｆｉｃａｔｉｏｎｏｆｈｕａｎｌｏｎｂｉｎａｎｄｃｉｔｒｕｓｃａｎｋｅｒｉｎｆｅｃｔｅｄｌｅａｖｅｓＪ．Ａｇｒｉｃｕｌｔｕｒａｌｐｙｇｇｇ［］－－Ｅｎｎｅｅｒｌ３５．ｉｎＩｎｔｅｒｎａｔｉｏｎｌ：ＴｅＩＧＲｅｏｕｍａ２０１Ｉ３：７５７９ｇｉｇａｈＣｊ，，（）？２６ＹＡＮＧＣＭｉｈ．Ａｓｓｅｓｓｍｅｎｔｏｆｔｈｅｓｅｖｅｒｔｏｆｂａｃｔｅｒｉａｌｌｅａｆｂｌｉｈｔｉｎｒｉｃｅｕｓｎｃａｎｏｅｒｉ［ｙｇｇｐｙｙｐ］－ｓｅｃｔｒａｌｒｅｆｌｅｃｔａｎｃｅＪ．ＰｒｅｃｉｓｉｏｎＡｒｃｕｌｕｒｅ２０１０１１１：６１８１．ｐ［ｇｉｔ］，，（）２７ＦＡＮＧＹＲＡＭＡＳＡＭＹＲＰ．Ｃｕｒｒｅｎｔａｎｄｒｏｓｅｃｔｉｖｅｍｅｔｈｏｄｓｆｏｒｌａｎｔｄｉｓｅａｓｅｄｅｔｅｃｔｉｏｎ［］，ｐｐｐＪ－．Ｂｉｏｓｅｎｓｏｒｓ２０１５５３：５３７５６１．，，（）［］２８李旺，唐少先，陈荣．基于颜色特征和支持向量机的黄瓜叶部病害识别Ｊ］．农机化研究，［］［３－５２０１４．（１）：７７王建玺Ｊ．２９宁菲菲鲁书喜．基于支持向量机的苹果叶部病害识别方法研究山东农业［］，，［］－２０１５７．科学：１２２１２５，（＞３０祁糾江朝晖春合等．基于图像技术的玉米叶部病害识别研宄Ｊ．安徽农业大学学［，，杨，［］］２０６４３２－：３２５３３０．报１，，（）３１肖志云刘洪．马铃薯典型病害图像自适应特征融合与快速识别Ｊ．农业机械学报，［，［］］２０－１７１２：２６３２．（）［３２］ＫＡＭＡＬＭＭ，ＭＡＳＡＺＨＡＲＡＮＩ，ＲＡＨＭＡＮＦＡ．ＣｌａｓｓｉｆｉｃａｔｉｏｎｏｆｌｅａｆｄｉｓｅａｓｅｆｒｏｍｉｍａｅｒｏｃｅｓｓｉｎｔｅｃｈｎｉｕｅＪ２０１８．，ｇ［ｐｇｑ］８１ 参考文献３３ＯＭＲＡＮＩＥＫＨＯＳＨＮＥＶＩＳＡＮＢＳＨＡＭＳＨＩＲＢＡＮＤＳｅｔａｌ．Ｐｏｔｅｎｔｉａｌｏｆｒａｄｉａｌｂａｓｉｓ［］，，，ｆｕｎｃｔｉｏｎｂａｓｅｄｓｕｏｒｔｖｅｃｔｏｒｒｅｒｅｓｓｉｏｎｆｏｒａｐｌｅｄｉｓｅａｓｅｄｅｔｅｃｔｉｏｎＪ，Ｍｅａｓｕｒｅｍｅｎｔ２０１４ｐｐｇｐ［］，，５５９－：５１２５１９．（）３４．米雅婷．基于ＧＡＢＰ神经网络的温室番茄病害诊断研宄［Ｄ］东北林业大学２０１６．［，］３５包晓安．基于人工神经网络与图像处理的苹果识别方法研宂Ｊ．，张瑞林，钟乐海农业［］［］－工程学报２００４２０３．：１０９１１２，，（）３６李宗儒何东健．基于手机拍摄图像分析的苹果病害识别技术研宄［Ｊ．计［］，］算机工程与设２０－计１０３１１３：３０５１３０５３．，，（）３７温芝元乐平．基于补偿模糊神经网络的脐橙不同病虫害图像识別ｍ．农业工程学报［］，曹，２０－１２２８１１：１５２１５７．，（）３８ＬＩＵＧＳＨＥＮＨＹＡＮＧＸｅｔａｌ．Ｒｅｓｅａｒｃｈｏｎｒｅｄｉｃｔｉｏｎａｂｏｕｔｆｒｕｉｔｔｒｅｅｄｉｓｅａｓｅｓａｎｄｉｎｓｅｃｔ［］，，，ｐｅ－ｓｔｓｂａｓｅｄｏｎｎｅｕｒａｌｎｅｔｗｏｒｋＪ．２００５１８７：７３１７４０．ｐ［］，３９ＨＵＡＮＧＫＹ．Ａｌｉｃａｔｉｏｎｏｆａｒｔｉｆｉｃｉａｌｎｅｕｒａｌｎｅｔｗｏｒｋｆｏｒｄｅｔｅｃｔｉｎｈａｌａｅｎｏｓｉｓｓｅｅｄｌｉｎ［ｐｐｇｐｐｇ］ｄｓｅａｓｅｓｓｉｎｃｏｌｏｒａｎｄｔｅｘｔｕｒｅｅａｕｒｅｓＪ．Ｃｏｍｔｅｒｓ＆ＥｌｔｒｏｉｃｉｎＡｉｃｕｌｕ２００７ｉｕｇｆｔｐｕｅｃｎｓｇｒｔｒｅ，，［］５７－１：３１１．（）４０ＳＡＮＹＡＬＰＰＡＴＥＬＳＣ．ＰａｔｅｒｎｒｅｃｏｎｉｔｉｏｎｍｅｔｈｏｄｔｏｄｅｔｅｃｔｔｗｏｄｉｓｅａｓｅｓｉｎｒｉｃｅｌａｎｔｓＪ．［］，ｇｐ［］ＪｏｌＰｈｏｔｏｈｉＳｉｅｎｃｅ２０１３５６６３１９－３２５ｕｒｎａｏｆ．ｒａｃｃ：ｇｐ，，（）４ＭＡＪＵＭＤＡＲＤＫＯＬＥＤＫＣＨＡＫＲＡＢＯＲＴＹＡｔｌ．ｉｎｔｉｉｔｌｉ［１ｅａＡｎｔｅｒａｅｄｄａｍａｅ，，，］ｇｇｇａｎａｌｓｉｓｓｓｔｅｍｆｏｒｄｅｔｅｃｔｉｉｉｄｉｉｌＣｉｏｎｒｅｃｏｔｏｎａｎｄｄｉａｎｏｓｓｏｆｓｅａｓｅｎｗｈｅａｔｅａｖｅｓ／／ｙｙ，ｇｎｇ［］Ｗ－ｉｌＳＣｆｏｒｍａｔ．．ＩｎｔｅｒｎａｔｏｎａｙｍｐｏｓｉｕｍｏｎｏｍｅｎｉｎｏｍｐｕｔｉｎｇａｎｄＩｎｉｃｓ２０１５：４００４０５４２卜旭松刘立波．朴素贝叶斯算法在蝴蝶兰病害分类中的应用研宂Ｊ．农机化研究［］，［］，２０－１５３：２３０２３３．（）［４３］赵玉霞，王克如，白中英，等．贝叶斯方法在玉米叶部病害图像识别中的应用［Ｊ］．计算机工程与应用２００７４３５－：１９３１９５．，，（）４４翟治芬徐哲周新群等．基于朴素贝叶斯分类器的棉花盲椿象危害等级识别Ｊ．农业［，，，］［］工程学报２０－１５３１１：２０４２１１．，，（）４５Ｊ２０－刘斌张振东张婷婷．基于贝叶斯分类的毒蘑菇识别［．软件导刊１５１４１１：６０６２．［］，，］，，（）４６管泽鑫，唐健，杨保军，等．基于图像的水稻病害识别方法研究［Ｊ．中国水稻科学，２０１０，［］］２４５－：４９７５０２．（）４７唐朝霞张粤．基于遗传算法的玉米病害图像特征优化与识别Ｊ．］，安徽农业大学学报，［［］２０－１３４０２：３３６３４１，，（）４８ＰＨＡＤＩＫＡＲ－Ｓ．ＣｌａｓｓｉｆｉｃａｔｉｏｎｏｆｒｉｃｅｌｅａｆｄｉｓｅａｓｅｓｂａｓｅｄｏｎｍｏｒｈｏｌｏｉｃａｌｃｈａｎｅｓＪ．Ｉｎｔｅｒ［］ｐｇｇ［］ｎａｔｉｏｎａｌＪｏｕｒｎａｌｏｆＧｅｏｒａｈｉｃａｌＩｎｆｏｒｍａｔｉｏｎＳｃｅ２０３．ｇｉｎｃｅ１２２ｐ，，（）４９夏永泉，王兵，支俊，等．基于随机森林方法的小麦叶片病害识别研宄Ｊ．图学学报，［］［］２０－１８３９５７６２．１：，（）８２ 参考文献５０张经纬贡亮黄亦翔等．基于随机森林算法的黄瓜种子腔图像分割方法Ｊ．农机化研［］，，，［］２０３９－究１７１０：１６３１６８．，，（）５１田杰．基于图像分析的小麦叶部病害识别方法研宄Ｄ．西北农林科技大学２０１５．［［］，］５２许良凤徐小兵胡敏等．基于多分类器融合的玉米叶部病害识别Ｊ．农业工程学报［］，，，［］，２０－１５３１１４：１９４２０１．，（）５３ＺＨＡＮＧＳＷＡＮＧＨＨＵＡＮＧＷｅｔａｌ．Ｐｌａｎｔｄｉｓｅａｓｅｄｌｅａｆｅｍｅｎｔａｔｏｎａｎｄｒｅｃｏｎｉｔｏｎｂｓｉｉ，，，ｇｇｙ［］ｆｆｕｓｉｏｎｏｓｕｅｒｉｘｅｌｋｍｅａｉｉｓａｎｄｈｏＪ．ＯｔｉｋＩｎｔｅｒｎａｔｉｏｎａｌＪｏｕｒｎａｌｆｏｒＬｉｈｔａｎｄＥｌｅｃｏｎｐｐｔｒ，ｐｇ［］ｐｇＯｐｔｉｃｓ，２０１７，１５７．５４秦立峰何东健宋怀波．词袋特征ＰＣＡ多子空间自适应融合的黄瓜病害识别Ｊ．农业［］，，］［２０－工程学报１８３４８：２００２０５．，，（）一５５杜海顺蒋曼曼王娟等．种用于农作物叶部病害图像识别的双权重协同表示分类［］，，，Ｊ２０－方法．计算机科学１７４４１０：３０２３０６，，［］，（）５６陈丽王兰英．概率神经网络在玉米叶部病害识别中的应用Ｊ．农机化研究２０１１３３［］，［］，，６－：１４５１４８．（）５７ＨＩＮＴＯＮＧＥＳＡＬＡＫＨＵＴＤＩＮＯＶＲ．Ｒｅｄｕｃｉｎｔｈｅｄｉｍｅｎｓｉｏｎａｌｉｔｏｆｄａｔａｗｉｔｈｎｅｕｒａｌ［，ｇｙ］ｎｅＪｅｎｃｅ２００６３－ｔｗｏｒｋｓ．．Ｓｃｉ１３５７８６：５０４５０７．，，（［］）５８ＬｅＣＵＮＹＢＯＴＴＯＵＬＢＥＮＧ－ＩＯＹｅｔａｌ．Ｇｒａｄｉｅｎｔｂａｓｅｄｌｅａｒｎｉｎａｌｅｄｔｏｄｏｃｕｍｅｎｉｔ］，，，ｇｐｐ［－ｒｅｃｏｎｉｔｉｏｎ．ＰｒｏｃｅｅｄｉｎｓｏｆｔｈｅＩＥＥＥ１８６ｌｌ：２２７８２３２４．ｇ＾］ｇ９９８，，（）５９ＬＥＳＨＮＯ？ＭＬＩＮＶＹＰＩＮＫＵＳＡｅｔａｌ．Ｍｕｌｔｉｌａｅｒｆｅｅｄｆｏｒｗａｒｄｎｅｔｗｏｒｋｓｗｉｔｈａｎｏｎｏｌ［］，，，ｙｐｙｎｏｍｉａｌａｃｔｉｖａｔｉｏｎｆｕｎｃｔｉｏｎｃａｎａｐｐｒｏｘｉｍａｔｅａｎｙｆｕｎｃｔｉｏｎＪ．ＮｅｕｒａｌＮｅｔｗｏｒｋｓ１９９１６６：［］，，（）８６－１８６７．６０ＲＵＭＥＲＬＨＡＲ－ＤＥ．ＬｅａｒｎｎｒｅｒｅｓｅｎｔａｔｉｏｎｂｂａｃｋｒｏａａｎｅｒｒｏｒｓＪ．Ｎａｔｕｒｅ１９８６［ｉｔｉ］ｇｐｙｐｐｇｇ［］，，３２３３－：５３３５３６．（）６１ＰＯＬＬＡＣＫＪＢ．ＲｅｃｕｒｓｉｖｅｄｉｓｒｉｔｅｄｒｅｒｅｓｅｎｔａｔｉｏｎｓＪ．ＡｒｔｉｆｉｃｉａｌＩｎｅｌｌｉｅｎｃｅ１９９０４６ｔｂｕｐ［］ｔｇ，，［］－Ｉ：７７１０５．（）６２ＧＯＯＤＦＥＬＬＯＷＩＪＰＯＵＧＥＴＡＢＡＤＩＥＪＭｅａ．ＧｅｎｅｒｉｖｅａｄｖｅｒｓａｒｉａｌｎｅｔｗｏｒｋｓＭＩＲＺＡｔｌａｔ，，，［］Ｊ－．ＡｄｖａｎｃｅｓｉｎＮｅｕｒａｌＩｎｆｏｒｍａｔｉｏｎＰｒｏｃｅｓｓｉｎＳｓｔｅｍｓ２０１４３：２６７２２６８０．［］ｇｙ，，Ｈ？６３ＫＲＩＺＨＥＶＳＫＹＡＳＵＴＳＫＥＶＥＲＩＩＮＴＯＮＧＥＩｍａｅｎｅｃｌａｓｓｉｆｉｃａｔｉｏｎｗｉｔｈｄｅｅｃｏｎ［］．ｔ，，ｇｐｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓＣ／／ＩｎｔｅｍａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎＮｅｕｒａｌＩｎｆｏｒｍａｔｉｏｎＰｒｏｃｅｓｓｉｎ［］ｇ－Ｓｙｓｔｅｍｓ．２０１２：１０９７１１０５．ＳＺＥＧＥＤＹＣＬＷ－６４ＩＵＪＩＡＹｅｔａｌ．ＧｏｉｎｄｅｅｅｒｗｉｔｈｃｏｎｖｏｌｕｔｉｏｎｓＪ．２０１４：１９．，，，ｇ［［］ｐ］－６５ＳＩＭＯＮＹＡＮＫＺＩＳＳＥＲＭＡＮＡ．Ｖｅｄｅｅｌｔｉｌｌｉ［ｒｃｏｎｖｏｕｏｎａｌｎｅｔｗｏｒｋｓｆｏｒａｒｅｓｃａｅｍａｇｅ，］ｙｐｇｒｅｃｏｎｉｔｉｏｎ．ＣｏｍｕｔｅｒＳｃｉｅｎｃｅ２０４．ｇ１＾］ｐ，６６ＨＥＫ，ＺＨＡＮＧＸＲＥＮＳ，ｅｔａｌ．Ｄｅｅｒｅｓｉｄｕａｌｌｅａｒｎｉｎｆｏｒｉｍａｅｒｅｃｏｎｉｔｉｏｎ［Ｃ／／ＩＥＥＥ［］，ｐｇｇｇ］ｏｎｆｅｎｃｅｅｒ－Ｃｒｅｉｉｅｒｎｉｉｏｎ．２．ｏｎＣｏｍｐｕｔＶｓｏｎａｎｄＰａｔｔＲｅｃｏｇｎｔ０１６：７７０７７８８３ 参考文献６７ＨＵＪＳＨＥＮＬＳＵＮＧ．ＳｕｅｅｚｅａｎｄｅｘｃｉｔａｔｉｏｎｎｅｔｗｏｒｋｓＪ．２０１７．［］，，ｑ［］６８ＤＥＮＧＪＤＯＮＧＷＳＯＣＨＥＲｌＲｅｔａｌ．Ｉｍａｅｎｅｔ：Ａｌａｒｅｓｃａｅｈｉｅｒａｒｃｈｉｃａｌｉｍａｅｄａｔａｂａｓｅ［］，，，ｇｇｇＣＣｏｍｕｔｅｒＶｉｉｏｎａｎｅｒｎＲｅｃｏｎｉｔｉｏｎ２００９．ＣＶＰＲ２００９．ＩＥＥＥＣｏｎｆｅｒｅｎｃｅｏｎ．／／ｐｓｄＰａｔｇ，［］２００９－：２４８２５５．６９ＳＩＬＶＥＨＵＡＮＧＡｅｔｉＲＤＭＡＤＤＩＳＯＮＣＪａｌ．Ｍａｓｔｅｒｎｔｈｅａｍｅｏｆｏｗｉｔｈｄｅｅｎｅｕｒａｌ［］，，，ｇｇｇｐｎｅａｎｄ－ｔｗｏｒｋｓｔｒｅｅｓｅａｒｃｈＪ．Ｎａｔｕｒｅ２０１６５２９７５８７：４８４４８９．，，（）［］７０ＦＵＥＮＴＥＳ－－－ｍｅＡＹＯＯＮＳＫＩＭＳＣｅａ．Ａｒｏｂｕｓｔｄｅｅｌｅａｍｉｎｂａｓｅｄｄｅｔｅｃｒｏｒｒｅａｌｔｌｔｏｆｔｉ［］，，，ｐｇｔｏｍａｔｏｌａｎｔｄｉｓｅａｓｅｓａｎｄｅｓｔｓｒｅｃｏｎｉｔｉｏｎＪ．Ｓｅｎｓｏｒｓ２０１７１７９：２０２２．ｐｐｇ［］，，（）－ＨＥＫ．Ｆａｓｔｅｒｒｃｎｎｉ７１ＲＥＮＳＧＩＲＳＨＩＣＫＲｅｔａｌ：Ｔｏｗａｒｄｓｒｅａｌｔｍｅｏｂｅｃｔｄｅｅｃｔｉｏｎｗｉｔｈ［］，ｔ，，ｊｒｅｉｏｎｒｏｏｓａｌｎｅｔｗｏｒｋｓＪ．ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＰａｔｅｒｎＡｎａｌｓｉｓ＆ＭａｃｈｉｎｅＩｎｔｅｌｌｉｅｎｃｅｇ，ｐｐ［］ｙｇ２０－１７３９６：１１３７１１４９．，（）７２ＤＡＩＪＬＩＹＨＥＫｅａｌ．Ｒｆｃｎ：ｂｅｃｔｄｅｔｅｃｔｉｏｎｖｉａｒｅｉｏｎｂａｓｅｄｆｕｌｌｃｏｎｖｏｌｕｉｏｎａｌｎｅｔｗｏｒｋｓ［］，ｔＯｔ，，ｊｇｙＪ．．２０１６［］７３ＬＩＵＷＡＮＧＵＥＬＯＶＤＥＲＨＡＮＤｅｔａｌ．Ｓｓｄ：ＳｉｎｌｅｓｈｏｔｍｕｌｔｉｂｏｘｄｅｔｅｃｔｏｒＣ／／Ｅｕｒｏｅａｎ［］，，，ｇ］ｐ［ｆｅＣ－Ｃｏｎｒｅｎｃｅｏｎｏｍｕｔｅｒｉｉ．２０６３７．ｐＶｓｏｎ１：２１－ＣＹｌｉｉｄｅｅｌｍｏｄｅｌ７４ＴＯＯＥＬＩＮＪＵＫＩＳｅａ．Ａｃｏｍａｒａｔｖｅｓｕｄｏｆｆｉｎｅｔｕｎｎｅａｒｎｉｎｓｆｏｒ［］ｔｔ，，，ｐｙｇｐｇｉｄｉｉｉｌｐｌａｎｔｄｉｓｅａｓｅｅｎｔｆｉｃａｔｉｏｎ＾．Ｃｏｍｕｔｅｒｓ＆ＥｌｅｃｔｒｏｎｉｃｓｎＡｒｃｕｔｕｒｅ２０１８．］ｐｇ，－－？７５ＳＺＥＧＥＤＹＣＩＯＦＦＥＳＶＡＮＨＯＵＣＫＥＶｅａｉｉ［］ｌ．Ｉｎｃｅｔｏｎｖ４ｎｃｅｔｉｏｎｒｅｓｎｅｔａｎｄｔｈｅｉｍ，ｔ，，，ｐｐａｃｔｏｆｒｅｓｉｄｕａｌｃｏｎｎｅｃｔｉｏｎｓｏｎｌｅａｍｉｎＪｐｇ［］．２０１６．［７６］ＨＵＡＮＧＧ，ＬＲＪＺ，ＭＡＡＴＥＮＬＶＤ，ｅｔａｌ．Ｄｅｎｓｅｌｙｃｏｎｎｅｃｔｅｄｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｔｗｏｒｋｓ［Ｃ］／／ｆｅｒｅｎｃｅ－ＩＥＥＥＣｏｎｏｎＣｏｍｕｔｅｒＶｉｓｉｏｎａｎｄＰａｔｅｒｎＲｅｃｏｎｉｔｉｏｎ．２０．ｐｇ１７：２２６１２２６９－－７７ＤＩＮＧＺＮＡＳＲＡＢＡＤＩＮＭＦＵＹ．Ｔａｓｋｄｒｉｖｅｎｄｅｅｔｒａｎｓｆｅｒｌｅａｒｎｉｎｆｏｒｉｍａｅｃｌａｓｓｉｆｉｃａ［，，］ｐｇｇｔｉｏｎＣ／／ＩＥＥＥＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎＡｃｏｕｓｉｃｓＳｅｅｃｈａｎｄＳｉｎａｌＰｒｏｃｅｓｓｉｎ．２０ｔ１６：［］，ｐｇｇ－２４．１４２４１８７８李敬．．基于卷积神经网络的烟草病害自动识别研究ｐ山东农业大学２０１６．［］］，７９马晓丹．基于改进级联神经网络的大豆叶部病害诊断模型Ｊ．农业，关海鸥，祁广云，等［］［］２０４８－机械学报１７（ｌ）：１６３１６８？，，８０双萍孙超等．基于深度卷积神经网络的水稻穗瘟病检测方法Ｊ．业工程学［］，，齐龙，农黄［］报２０３３２０－１７：１６９１７６？，（），－？ｌｉｎｆｉｌｄｉｄｉｄｉｉ［８１］ＬＵＪＨＵＪＺＨＡＯＧｅｔａ．ＡｎｅａｕｔｏｍａｔｃｗｈｅａｔｓｅａｓｅａｎｏｓｓｓｓｔｅｍＪ．Ｃｏｍ，［］，，ｇｙｕｌｉｉｉ．ｔｅｒｓ＆ＥｅｃｔｒｏｎｃｓｎＡｒｃｕｌｔｕｒｅ２０１７１４２ｐｇ，，８２王献锋张传雷张善文．基于自适应判别深度置信网络的棉花病虫害预测Ｊ．农业［］，，，等［］工程学报－２０．１８３４１４：丨５７１６４，，（）８３张善文，张传雷．基于改进深度置信网络的大棚冬枣病虫害预测模型卬．农业工［］，丁军２０７３３９－程学报１１：２０２２０８．，，（）８４ 参考文献８４柯圣财．基于卷积神经网络和监督核哈希的图像检索方法Ｊ．电子，赵永威，李弼程，等［］［］２０－学报１７４５１：１５７１６３．，，（）８５詹曙．基于Ｇａｂｏｒ习的高斯混合稀疏表示图像识别．，王俊，杨福猛，等特征和字典学［ｆｌ［］２０－电子学报１５４３３：５２３５２８．，，（）８６ＣＨＥＮＧＸＺＨＡＮＧＹＣＨＥＮＹｅｔａｌＰｅｓｔｉｄｅｎｔｉｆｉｃａｔｉｏｎｖｉａｄｅｅｒｅｓｉｄｕａｌｌｅａｒｎｉｎｉｎ［．］，，，ｐｇｃｏｍ－ｌｅｘｂａｃｋｒｏｕｎｄＪ．Ｃｏｍｕｔｅｒｓ＆ＥｌｅｃｔｒｏｎｉｃｓｉｎＡｒｉｃｕｌｔｕｒｅ２０４：３３５６．ｐｇ［］ｐｇ１７１１５１，，８７ＰＩＣＯＮ？ＡＡＬＶＡＲＥＺＧＩＬＡＡＳＥＩＴＺＭｅｔａｌ．Ｄｅｅｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓｆｏｒｍｏ［］，，，ｐｂ－ｉｌｅｃａｐｔｕｒｅｄｅｖｉｃｅｂａｓｅｄｃｒｏｐｄｉｓｅａｓｅｃｌａｓｓｉｆｉｃａｔｉｏｎｉｎｔｈｅｗｉｌｄＪ，Ｃｏｍｕｔｅｒｓ＆Ｅｌｅｃｔｒｏｎｉｃｓ［］ｐｉｎＡｇｒｉｃｕｌｔｕｒｅ２０１８．，８８ＪＯＨＡＮＮＥＳＡＰＩＣＯＮＡＡＬＶＡＲＥＺＧＩＬＡＡｅｔａｌ．Ａｕｔｏｍａｔｉｃｌａｎｔｄｉｓｅａｓｅｄｉａｎｏｓｉｓ［］，，，ｐｇｕｓｉｎｍｏｂｉｌｅｃａｔｕｒｅｄｅｖｃｅｓａｌｉｅｄｏｎａｗｈｅａｕｓｅｃａｓｅＪ．Ｃｏｍｕｅｒｓ＆Ｅｌｅｃｔｒｏｎｉｃｓｉｎｇｐｉｔｔ，ｐｐ［］ｐＡ－ｒｃｕｌｔｕｒｅ２０１７１３８：２００２０９．ｇｉ，，８９高君宇小汕张天柱等．基于深度学习的鲁棒性视觉跟踪方法Ｊ．计算机学报［，杨，，］，］［２０－１６３９７：１４１９１４３４．，（）９０ＺＨＥＮＧＳＳＯＮＧＹＬＥＵＮＧＴｅｔａｌ．Ｉｍｒｏｖｉｎｔｈｅｒｏｂｕｓｔｎｅｓｓｏｆｄｅｅｎｅｕｒａｌｎｅｔｗｏｒｋｓｖｉａ［，，，ｐｇｐ］ｓａｂ－ｔｉｒａｉｎｉｎＣ／／ＣｏｍｕｅｒｉｓｉｏｎａｎｄＰａｔｔｅｒｎＲｅｃｏｎｉｉｏｎ．４４８０４４８８．ｉｌｔｙｔｇｔＶｔ［］ｐｇ９１ＨＡＹＤＥＲ－ＭＨＡＩＤＥＲＡＮＡＺＥ．Ｒｏｂｕｓｔｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓｆｏｒｉｍａｅｒｅｃｏ［］？，ｇｇｎｉｉｏｎＪ．ＩｎｔｅｒｎａｔｉｏｎａｌＪｏｕｒｎａｌｏｆＡｄｖａｎｃｅｄＣｏｍｕｔｅｒＳｃｉｅｎｃｅ＆Ａｌｉｃａｔｉｏｎｓ２０１５６１１．ｔ［］ｐｐｐ，，（）９２ＫＯＷＡＬＳＫＩＭＮＡＲＵＮＩＥＣＪＴＲＺＣＩＮＳＫＩＴ．Ｄｅｅａｌｉｎｍｅｎｔｎｅｔｗｏｒｋ：Ａｃｏｎｖｏｌｕｔｉｏｎａｌ［］，，ｐｇｍｎｅｎｔｕｔｅｒ－ｎｅｕｒａｌｎｅｔｗｏｒｋｆｏｒｒｏｂｕｓｔｆａｃｅａｌｉｇＣ／／ＩＥＥＥＣｏｎｆｅｒｅｎｃｅｏｎＣｏｍＶｉｓｉｏｎａｎｄＰａｔ［］ｐｎ－ｔｅｒａＲｅｃｏｇｉｔｉｏｎＷｏｒｋｓｈｏｐｓ．２０１７：２０３４２０４３．９３ＣＡＯＣＸＵＷＲＡＭＡＮＡＮＤｔａ－ｅｌ．Ｌｏｏｋａｎｄｔｈｉｎｋｔｗｉｃｅ：Ｃａｔｕｒｉｎｔｏｄｏｗｎｖｉｓｕａｌ［］，，，ｐｇｐａｔｔｅｎｔｉｏｎｗｉｔｈｆｅｅｄｂａｃｋｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓＣ／／ＩＥＥＥＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅ［］ｏｎＣｏｍｕｅｒＶ－ｔｉｓｉｏｎ．２０１６：２９５６２９６４ｐ．９４ＬＥＥＳＨＣＨＡＮＣＳＭＡＹＯＳＪｅａｌ．Ｈｏｗｄｅｅｌｅａｒｎｎｅｘｔｒａｃｔｓａｎｄｌｅａｍｓｌｅａｆｆｅａｕｒｅｓｔｉｔ［］？？，ｐｇｆｏｒ－ｌａｎｔｃｌａｓｓｉｆｉｃａｔｉｏｎ．ＰａｔｅｒｎＲｅｃｏｎｉｔｉｏｎ２０１７７１：１１３．ｐ＾］ｇ，，９５ＫＵＭＡＲＮＢＥＬＨＵＭＥＵＲＰＮＢＩＳＷＡＳＡｅａｌ．Ｌｅａｆｓｎａ：Ａｃｏｍｕｔｅｒｖｉｓｉｏｎｓｓｔｅｍｆｏｒｔ［，，，ｐｐｙ］ａｕｏｍａｉｃｌａｎｔｓｅｃｉｅｓｉｄｅｎｔｉｃａｉｏｎＣ／／ＥｕｒｏｅａｎＣｏｎｆｅｒｅｎｃｅｏｎＣｏｍｕｅｒＶｓｏｎ．２０１２：ｔｔｉｆｔｔｉｉｐｐ［］ｐｐ５０２－５１６．９６ＨＡＬＬＤＭＣＣＯＯＬＣＤＡＹＯＵＢＦｅｔａｌ．Ｅｖａｌｕａｔｉｏｎｏｆｆｅａｔｕｒｅｓｆｏｒｌｅａｆｃｌａｓｓｉｆｉｃａｔｉｏｎｉｎ［］，，，ｃｈａｌｌｅｎｉｎｃｏｎｄｉｔｉｏｎｓＣ／／ＩＥＥＥＷｉｎｅｒＣｏｎｆｅｒｅｎｃｅｏｎＡｌｉｃａｔｉｏｎｓｏｆＣｏｍｕｔｅｒＶｉｓｉｏｎ．ｇｇ［Ｊｔｐｐｐ２０－１５：７９７８０４．９７ＹＡＮＧＪＹＵＫＧＯＮＧＹｅｔａｌ．Ｌｉｎｅａｒｓａｔｉａｌｒａｍｉｄｍａｔｃｈｉｎｕｓｉｎｓａｒｓｅｃｏｄｉｎｆｏｒ［］，，ｓｐｐｙｇｇｐｇ－ｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎ．Ｃｖｒ２００９１７９４８０１．＾：１］ｐ，［９８］ＣＨＡＮＧＣＣＬＩＮＣＪ．Ｌｉｂｓｖｍ：ＡｌｉｂｒａｒｆｏｒｓｕｏｒｔｖｅｃｔｏｒｍａｃｈｉｎｅｓＭ．ＡＣＭ２０１１：，ｙｐｐ［］，８５ 参考文献－１２７．９９ＯＬＩＶＡＡＴＯＲＲＡＬＢＡ．ＭｌｉｈｅｈａｈｅＡｈｏｌｉｉｔｉＡｏｄｅｎｔｓｅｏｆｔｓｃｅｎｅ：ｓｔｃｒｅｒｅｓｅｎｔａｏｎｏｆｔｈｅ［］，ｇｐｐ－ｓａｉｌＪ．ｉｌｌｉｉ２００４２１７．ｔａｅｎｖｅｌｏｅＩｎｔｅｒｎａｏｎａＪｏｕｒｎａｏｆＣｏｍｕｔｅｒＶｓｏｎ１３：１４５５ｐｐｆ］ｔｐ，，（）ｌｌｔｉｉｉｔｆｏｒ１００ＤＯＵＺＥＭＳＡＮＤＨＡＷＡＬＩＡＨＡＭＳＡＬＥＧＬｅｔａ．Ｅｖａｕａｏｎｏｆｓｔｄｅｓｃｒｏｒｓ［］，，，ｇｐ－ｗｅｂｓｃａ．ｌｅｉｍａｇｅｓｅａｒｃｈＣ／／ＡＣＭＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎＩｍａｅａｎｄ＼＾ｄｅｏＲｅｔｒｉｅｖａｌ［］ｇ２００９－：１８．１０１ＳＥＲＭＡＮＥＴＰＥＩＧＥＮＤＺＨＡＮＧＸｅｔａｌ．Ｏｖｅｒｆｅａｔ：Ｉｎｔｅｒａｔｅｄｒｅｃｏｎｔｏｎｌｏｃａｌｉｚａｏｎ［ｉｉｔｉ，，，ｇｇ，］ａｎｄｄｅｔｅｃｔｉｏｎｕｓｉｎｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｗｏｒｋｓＪ．ＥｒｉｎＡｒｘｖ２０１３．ｇｔ［ｐｔｉ，］０２ＢＡＨＤＡＮＡＵＤＣＨＯＫＢＥＮＧＩＯＹ．Ｎｅｕｒａｌｍａｃｈｉｎｅｔｒａｎｓｌａｔｉｏｎｂｏｉｎｔｌｌｅａｒｎｉｎｔｏ１［］，，ｙｊｙｇａｌｉｇｎａｎｄｔｒａｎｓｌａｔｅＪ．ＣｏｍｕｔｅｒＳｃｉｅｎｃｅ２０１４．ｆ］ｐ，ＭＡＮＮ－１０３ＬＵＯＮＧＭＴＰＨＡＭＨＩＮＧＣＤ．Ｅｆｆｅｃｔｉｖｅａｒｏａｃｈｅｓｔｏａｔｔｅｎｔｉｏｎｂａｓｅｄｎｅｕｒａｌ［］，，ｐｐｍａｃｈｎｅｔｎｓｌａｔｉｏｎＪ．ＣｏｍｕｅｒＳｃｉｅｎｃｅ２０１５．ｉｒａｐｔ，［］－－１０４ＣＨＥＮＧＪＤＯＮＧＬＬＡＰＡＴＡＭ．Ｌｏｎｓｈｏｒｔｔｅｒｍｍｅｍｏｒｎｅｔｗｏｒｋｓｆｏｒｍａｃｈｉｎｅｒｅａｄｉｎ［］，，ｇｙｇＪ．２０．１６［］１０５ＰＡＲＩＫＨＡＰＴａＣＫＳＴＲｏＭＯＤＡＳＤｅｔａｌ．Ａｄｅｃｏｍｏｓａｂｌｅａｔｔｅｎｔｉｏｎｍｏｄｅｌｆｏｒｎａｔｕｒａｌ［］，，，ｐ－ｌａｉｒｅｎｃｅ２２４９２２５５ｎｇｕａｅｎｆｅＪ，２０１６：．ｇ［］０６ＸＵＫＪＫＩＲＯＳＲ．ＳｈｔｄａｎｄｔｅｌｌＮｅｕｒａｌｉｍａｔｉｔｉｉｈ１ＢＡｅｔａｌｏｗａｔｅｎ：ｅｃａｏｎｅｎｅｒａｏｎｗｔ［］，，，，ｇｐｇ－ｖｉｓｕａｉ．ｉ．ｌａｔｅｎｔｏｎ［Ｊ］ＣｏｍｕｔｅｒＳｃｅｎｃｅ２０１５：２０４８２０５７ｐ，－－ｌｄｉｎｕｏｕｓｓｉｉ１０７］ＣＨＯＲＯＷＳＫＩＪＢＡＨＤＡＮＡＵＤＣＨＯＫｅｔａ．Ｅｎｔｏｅｎｄｃｏｎｔｅｅｃｈｒｅｃｏｎｔｏｎ，，［，ｐｇ－ｕｓｉｉｎｇａｔｔｅｎｔｉｏｎｂａｓｅｄｒｅｃｕｒｒｅｎｔｎｎ：ＦｉｒｓｔｒｅｓｕｌｔｓＪ．ＥｒｉｎｔＡｒｘｖ２０１４．［］ｐ，－１０８ＣＨＯＲＯＷＳＫＩＪＢＡＨＤＡＮＡＵＤＳＥＲＤＹＵＫＤｅｔａｌ．Ａｔｔｅｎｔｉｏｎｂａｓｅｄｍｏｄｅｌｓｆｏｒｓｅｅｃｈ［，，，ｐ］－ｒｅｃｏＪ．ＣｏｍｕｔｅｒＳｃｇｎｉｔｉｏｎｉｅｎｃｅ２０１５１０４：４２９４３９．［ｐ，，（）］ＨＵＡＮＧ－１０９ＸＵＴＺＨＡＮＧＰｅｔａｌ．Ａｔｎａｎ：Ｆｉｎｅｒａｉｎｅｄｔｅｘｔｔｏｉｍａｅｅｎｅｒａｔｉｏｎｗｉｔｈ［］，，Ｑ，ｇｇｇｇａｔｅｎｔｉｏｎａｌｅｎｅｒａｔｉｖｅａｄｖｅｒｓａｒｉａｌｎｅｔｗｏｒｋｓＪ．２０１７．ｇ［］ＭＥＴＡＸＡＳＤ－１１０ＺＨＡＮＧＨＧＯＯＤＦＥＬＬＯＷＩｅｔａｌ．Ｓｅｌｆａｔｔｅｎｔｉｏｎｅｎｅｒａｔｉｖｅａｄｖｅｒｓａｒｉａｌ，，，ｇ［］ｎｅｔｗｏｒｋｓＪ．２０１８．］［－１１１ＸＵＹＣＨＥＮＧＪＷＡＮＧＬｅａｌ．Ｅｎｓｅｍｂｌｅｏｎｅｄｉｍｅｎｓｉｏｎａｌｃｏｎｖｏｌｕｔｉｏｎｎｅｕｒａｌｎｅｔｗｏｒｋｓｔ［］，，，－ｆｏｒｓｋｅｌｅｔｏｎｂａｓｅｄａｃｔｉｏｎｏｉｔｉＪ．ＩＥＥＥＳｉｌＰｉＬｅｔ２０１８２５７．ｒｅｃｇｎｏｎｎａｒｏｃｅｓｓｎｇｅｒｓ［］ｇ，，（）２ＰＡＲＭＡＲＶＡＳＷＡＮＩＡＵＳＺＫＯＲＥＩＴｔｌ．Ｉｍａ．２０．１１ＮＪｅａｅｔｒａｎｓｆｏｒｍｅｒ１８］，，，［ｇ＾］３ＭＮＩＨＶＨＥＥＳＳＮＧＲＡＶＥＳＡｅａｌ．ｕｒｒｅｎｔｍｏｄｅｌｖｉｓｕａｌｅｎｉｏＪ．２０４３１１ｔＲｅｃｓｏｆａｔｔｎ１：］，，，［］，［２２０４－２２２．１４ＶＡＳＷＡＮＩＡＳＨＡＺＥＥＲＮＰＡＲＭＡＲｌ．ｔｉｉｌｌ０．［１１］ＮｅｔａＡｅｎｔｏｎｓａｏｕｎｅｅｄＪ．２１７，［］，，ｙ－１１５］ＬＩＮＹＬＩＵＺＳＵＮＭ．ＮｅｕｒａｌｒｅｌａｔｉｏｎｅｘｒａｃｔｉｏｎｗｉｔｈｍｕｌｉｌｉｎｕａｌａｔｅｎｔｉｏｎＣ／／Ｍｅｅｔｉｎ，ｔｔ［，ｇ［］ｇｏｆ－ｔｈｅＡｓｓｏｃｉａｔｉｏｎｆｏｒＣｏｍｐｕｔａｔｉｏｎａｌＬｉｎｇｕｉｓｔｉｃｓ．２０１７：３４４３．１１６ＧＩＲＳＨ１ＣＫＲＧＵＰＴＡ－ＷＡＮＧＸＡｅｔａｌ．ＮｏｎｌｏｃａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓＪ．２０１７．［］，，，［］８６ 参考文献－１１７ＹＩＮＷＳＣＨｉｉＴＺＥＨＸＩＡＮＧＢｅｔａｌ．Ａｂｃｎｎ：Ａｔｅｎｉｏｎｂａｓｅｄｃｏｎｖｏｌｕｔｉｏｎａｎｅｕｒａｌｎｅｗｏｒｋｔｌｔ［］，，，ｆｏｒｉｍｏｄｅｌｉｎｇｓｅｎｔｅｎｃｅａｒｓ［Ｊ．ＣｏｍｕｔｅｒＳｃｉｅｎｃｅ２０１５．ｐ］ｐ＾８７ 附录Ａ论文规范附录Ａ论文规范８８ 致谢致谢，不知不觉在科大读研已近六年，六年时间在我的导师和实验室同事同学的一，帮助下，我从个科研新手成长为能独立进行科研工作独立思考问题的科研人员，学会了很多科研方法和做人做事的道理。在此对所有给予我帮助、指导和支“”一持的老师！、同学、同事们道声真诚的谢谢，首先感谢我的导师李淼研宄员，为我提供了继续攻读博士学位的机会使我能够继续在科研的道路上深造学习。李淼老师不仅是我的博士导师，还是我的硕士导师，同时还是我工作单位的领导。我的科研道路是李老师引导的。李老师在我的论文工作中，从选题，到确定思路和方案等各个方面都给与了很多的指导意见。在实验讨论和方法分析，以及论文结构方面李老师也给我了很多的帮助和指导。这次论文的纲要以及定稿都包含着李老师的指导。李淼老师严谨的治学态一度，也会直深刻影响我的工、独到的见解和精益求精的工作作风使我受益良多！作和生活。在此，我向李老师致以最诚挚的感谢其次要感谢我的父母。六年的时间，能坚持把博士学业完成，、家人和孩子离不开我的家人的支持和理解，。我的爸爸妈妈、公公婆婆为了支持我完成学业，帮我带孩子，照顾我的生活。我的爱人主动帮我承担了很多家里的事情使我能一一一够心无旁骛的完成我的博士课题，，，。我的两个孩子今年个六岁个岁多其实正是需要妈妈陪伴的时候，可是她们都很懂事。大女儿理解我，说等我毕业一了再花时间好好的陪她就可以了。小女儿太小，有时候我整天没见到她，我想，，。，我的心抱她，她都把我推开我假装伤心她还会逗我乐写到这里底其实是心酸的，，亏欠她们。为了博士课题的顺利完成我亏欠了我的家人太多太多的东一西，只能将所有的感激和亏欠化作句感谢。这句感谢里面包含着深深的歉意和一愧疚，所有的切只能通过我以后的努力慢慢的补偿。爸爸妈妈，谢谢你们，女儿所有的成果都离不开你们的理解，、支持与鼓励。公公婆婆，谢谢你们作为你，，们的媳妇，让你们受累我心有亏欠谢谢你们的默默奉献和支持我爱你们。老，公，，谢谢你无条件的全力支持我，今生能和你牵手是我最大的幸福。宝贝们，谢谢你们。妈妈虽然陪伴不多，但是爱在心中妈妈，妈妈的努力也是为了你们爱你们！一直关心，生活中也感谢张建老师张建老师不仅关心我的科研工作，同时在。着我，为我提供了很多的帮助感谢实验室同事胡泽林、李华龙、杨选将、郭盼盼等，，你们平时的激励和帮助让我在读博路上坚定了信念感谢你们。感谢实验室的陈晟师弟、房思思师妹、王敬贤师妹、冯韬师弟以、吴娜师妹一一一及其他的师弟师妹们起成长、、起科研。在学习工作中学会。我们起学习８９ 致谢识人一一、处事、科研。六年的生活和经历本身就是种收获、笔财富。谢谢你们在我的生活历程中留下了重重的一笔，我会感恩所有的过往、所有的经历。，无法在此我特别要感谢给我提供过支持和帮助的前辈和朋友们，限于篇幅一一一列出名字。我要跟他们说，感恩你们的每份付出和帮助，我会牢记心中，一感恩生，。人生中会遇到许多的坎坷和曲折能在困难时给予帮助，不离不弃的一人才是真正的朋友。送人玫瑰，手有余香，助人者天助，祝福好人生平安、健康。一一时至今日，往事幕幕重现，我认为我应该要特别感谢下这些年中的自己。感谢在遇到困难的时候咬牙坚持、绝不放弃的自己；感谢情绪低落的时候流泪哭泣尽情发泄、继续努力的自己；感谢在实验中熬夜加班调试程序的自己；感谢在赶文章时心无旁骛？、废寝忘食的自己，感谢在产房中为了孩子只注射少量麻醉剂忍痛生产的自己一一；感谢直心怀感恩、质朴善良的自己。其实所有这切都一，在此再次感谢我的父母跟我父母从小的培养和教育息息相关。每个曾经的自己成就了现在的我一步都要靠自己一一个脚印的走下。以后的路还很长，每步去，做最好的自己，走过坎坷和荆棘，康庄大道就会在召唤，跨向更加精彩、更一加璀璨的明天、心想事成、健康平安。。祝愿每个善良的人都能做最好的自己最后，感谢评审我论文的各位专家老师，谢谢你们！９０ 在读期间发表的学术论文与取得的研宄成果在读期间发表的学术论文与取得的研究成果已录用（待发表）论文１，，．基于高阶残差与参数共享反馈的卷积神经网络．曾伟辉，李淼李增熊焰农作物病害识别．电子学报（ＥＩ，２０１８年８月已录用）Ｍ－？２ＷｅｉｈｕｉＺｅｎｉａｏＬｉＪｉａｎＺｈａｎＬｅｉＣｈｅｎｅｔａｌＨｉｈＯｄｅＲｉｄｌＣ．．ｒｒｅｓｕａｏｎｇ，，ｇ，，ｇｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋｆｏｒＲｏｂｕｓｔＣｒｏｐＤｉｓｅａｓｅＲｅｃｏｇｎｉｔｉｏｎ．Ｉｎｔｅｒｎａｔｉｏｎａｌｕ－ＣｏｎｆｅｒｅｎｃｅｏｎＣｏｍｐｔｅｒＳｃｉｅｎｃｅａｎｄＡｐｐｌｉｃａｔｉｏｎＥｎｇｉｎｅｅｒｉｎｇ：１５．２０１８．（ＥＩ）．３．曾伟辉，李淼，张健，黄小平，王敬贤．面向农作物病害识别应用的高阶残差卷积神经网络研究．中国科学技术大学学报（２０１８年９月已录用）．已发表论文１．ＪｉｎｘｉａｎＷａｎＬｅｉＣｈｅｎＪｉａｎＺｈａｎＹｕａｎＹｕａｎｉａｎｄＷｅ．ＭｉａｏＬｉｈｕｉＺｅｎｇｇ，，ｇ，，，ｇＣＮＮｆｅｆｏ－？ＴｒａｎｓｒＬｅａｒｎｉｎｇｒＡｕｔｏｍａｔｉｃＩｍａｅＢａｓｅｄＣｌａｓｓｉｆｉｃａｔｉｏｎｏｆＣｒｏＤｉｓｇｐｒｅ－ｅａｓｅｉａｌｉｉ．Ｃｏｎｆｅｎｃｅｏｎｍａｇｅｒａｈｉｃｓｔｅｃｈｎｏｌｏａｎｄｃａｔｏｎｓ：１１１．２０１８．ＥＩｇｐｇｙｐｐ（）一２．朱泽德．种基于ＬＤＡ模型的关键词抽取方，李淼，张健，曾伟辉，曾新华自然科学版．法．中南大学学报．第４６卷第６期，２０１５年６月（）－？３．ＬｅＭｉｉｉａｎｈａｎＷｅｉｈｕｎ．ａｒｒｍｅｎｉＣｈｅｎａｏＬＪＺｉＺｅＡＤｏｕｂｌｅｌｅＷｏｄＳｅ，，ｇ，ｇｙｇｔａｔｉｏｎＣｏｍｂｉｎｅｄｗｉｔｈＬｏｃａｌＡｍｂｉｇｕｉｔｙＷｏｒｄＧｒｉｄａｎｄＣＲＦ．Ｔｒａｎｓａｃｔｉｏｎｓｏｎ－ＣｏｍｕｔｅｒＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏ２１：１８．２０１３．ｐｇｙ，（）４．陈雷，李淼，张健，曾伟辉．有限语料汉蒙统计机器翻译调序方法研宄．中文－２７５９８２０４２０？信息学报：１１３０５（ＥＩ），（），年期－？５ｉｈｅｎｉｉ．ｂｌｅｌ．ＬｅＣＭａｏＬｉＪａｎＺｈａｎＷｅｉｈｕｉＺｅｎＡＤｏｕａｅｒＷｏｒｄＳｅｍｅｎ，，ｇ，ｇｙｇｔａｔｉｏｎＣｏｍｂｉｎｅｄｗｉｔｈＬｏｃａｉｉｄＣＲＦｌＡｍｂｉｇｕｔｙＷｏｒｄＧｒａｎｄ．Ｔｒａｎｓａｃｔｉｏｎｓｏｎ－ＣｏｍｕｔｅｒＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏ２１：１８２０１３．ｐｇｙ，（，）专利１）２０１７１３９５６８．高效生态农林种植实时监测与智能决策系统（发明１１．７２）Ｚ３４７８３．具有本地数据存储功能的鸡舍环境参数采集装置（实用新Ｌ２０１５２０１３．３—ＺＬ２０１３１０３８２．种网络可比语料挖掘方法及装置（发明）０１０．１４）ＺＬ２．便携式农业数据采集与决策的智能监控装置（实用新０１２２０５２８５５７．９９１ 在读期间发表的学术论文与取得的研究成果软件著作权１．面向ｗｅｂ和移动终端的庐江蝴蝶兰花卉物联网管理系统２０１７ＳＲ４６３５３８２．面向Ｗｅｂ和移动终端的庐江薄壳山核桃物联网管理系统２０１７ＳＲ４６２６８３３．面向Ｗｅｂ和移动终端的庐江火龙果物联网管理系统２０１７ＳＲ４６３５４２４．大鹏蛋鸭物联网管理系统２０１７ＳＲ４９２０９１５．基于文本密度模型的网页正文抽取系统２０１４ＳＲ０７０７５８６．汉傣双语农业信息处理平台２０１４ＳＲ０７００１２７．水产养殖智能监控系统２０１３ＳＲ０８９５２１８．水培作物生长智能监控系统２０１３ＳＲ０６２０１９９．基于规则自动抽取的源语言重排序系统２０１３ＳＲ０６１８２９１０．基于ＳＴＭ３２的设施农业监控决策系统Ｖ．０２０１３ＳＲ０６２０１３１１１．基于Ａｎｄｒｏｉｄ的温室花卉手机监控系统Ｖ０２０１３ＳＲ０６２０２８Ｉ．１２．少数民族语言文字信息化评价指标体系构建与评价系统２０１３ＳＲ０７５４８１９２
此文档下载收益归作者所有
