基于python的网络爬虫设计.doc

《基于python的网络爬虫设计.doc》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、基于python的网络爬虫设计基于Python的网络爬虫摘要随着计算机技术的不断发展，新的编程语言层出不穷，Python，Html正是其中的佼佼者。相比较早期普及的高级语言（Java,C语言）等，Python有着更加实用的模块和库，虽然牺牲了底层性，但却更加方便用于开发小型项目。此外，Html也已经被普遍用于网站前端，标记语言的特性结合CSS丰富了网页内容和形式，某种意义上也促进了更加人性化的电子商务系统的发展。本文的网络爬虫正式基于Python语言编写的，通过对Html抓取加工将数据可视化，以监测逐渐从线下转移到线上，并随

2、着电子商务发展越发简单普遍难以追踪的非法野生动物贸易。本文首先对计算器语言的发展，尤其是Python和Html的优势、基础概念以及性能进行介绍。最后着重介绍可以实现检测网络上非法野生动物贸易的爬虫的设计和实现。程序主要包括三个模块：URL解析，Html抓取，本地输出。Python的开发环境和工具分别是OSX和PyChramCE，主要调用了Python中的Urllib2，beautifulsoup模块。最终的程序可以实现对指定网站，指定关键词抓取指定内容，保存内容到本地，以便于追踪和检测。关键字：Python，HTML，爬虫，

3、非法野生动物贸易Python-Basedquot;Illegalwildlifetradequot;SpiderElectronicsamp;InformationTechnologyProgram11-1HaozhiZhuSupervisorRuiZhaoAbstractWiththecontinuousdevelopmentofcomputertechnology,thenewprogramminglanguageafteranother,Python,Htmlistheoneofthebest.Comparedtoth

4、eearlypopularityofhigh-levellanguage(Java,Clanguage),etc.,Pythonhasamorepracticalmodulesandlibraries,althoughattheexpenseoftheunderlyingproperty,butitismoreconvenientforthedevelopmentofsmall-scaleprojects.Inaddition,Htmlhasalsobeenwidelyusedwebfrontend,featurerichC

5、SSmarkuplanguagebindingofwebcontentandform,inasensealsopromotedthedevelopmentofamoreuser-friendlye-commercesystem.Inthispaper,basedontheofficialwebcrawlerwritteninPython,Htmlcrawlingthroughthedatavisualizationprocesstomonitorthegradualshiftfromofflinetoonline,andwi

6、ththedevelopmentofelectroniccommercemoresimpleuniversaluntraceableillegalwildlifetrade.Firstly,thedevelopmentofthecalculatorlanguage,especiallyPythonandHtmladvantages,basiccon...