更新時(shí)間:2020年09月18日16時(shí)01分 來源:傳智播客 瀏覽次數(shù):
截止到目前,網(wǎng)絡(luò)爬蟲的主要開發(fā)語言有Java,Python和C++,對(duì)于一般的信息采集需要,各種開發(fā)語言的差別不大,具體介紹如下:
C/C++
各種搜索引擎大多使用C/C++開發(fā)爬蟲,可能是因?yàn)樗阉饕媾老x重要的是采集網(wǎng)站信息,對(duì)頁面的解析要求不高。
Python
Python語言的網(wǎng)絡(luò)功能強(qiáng)大,能夠模擬登陸,解析JavaScript,短處是網(wǎng)頁解析。Python寫起程序來很便捷,尤其是對(duì)聚焦爬蟲,目標(biāo)網(wǎng)站經(jīng)常變換,要根據(jù)目標(biāo)的變化修改爬蟲程序,使用Python開發(fā)就顯得很方便。
Java
Java有很多解析器,對(duì)網(wǎng)頁的解析支持很好,缺點(diǎn)是網(wǎng)絡(luò)部分支持較差。
對(duì)于一般性的需求,無論Java還是Python都可以勝任。如果需要模擬登陸,對(duì)抗反爬蟲則選擇Python更方便。如果需要處理復(fù)雜的網(wǎng)頁,解析網(wǎng)頁內(nèi)容生成結(jié)構(gòu)化數(shù)據(jù)或者需要對(duì)網(wǎng)頁內(nèi)容進(jìn)行精細(xì)解析則可以選擇Java。
本書選擇Python做為實(shí)現(xiàn)爬蟲的語言,其主要考慮因素在于:
(1) 抓取網(wǎng)頁本身的接口
相比其他動(dòng)態(tài)腳本語言(如Perl、Shell),Python的urllib2包提供了較為完整的訪問網(wǎng)頁文檔的API;相比與其他靜態(tài)編程語言(如Java、C#、C++),Python抓取網(wǎng)頁文檔的接口更簡潔。
此外,抓取網(wǎng)頁有時(shí)候需要模擬瀏覽器的行為,很多網(wǎng)站對(duì)于生硬的爬蟲抓取都是封殺的。這時(shí)我們需要模擬User Agent的行為構(gòu)造合適的請(qǐng)求,譬如模擬用戶登陸、模擬Session/Cookie的存儲(chǔ)和設(shè)置。在Python里都有非常優(yōu)秀的第三方包幫你搞定,如Requests或Mechanize。
(2) 網(wǎng)頁抓取后的處理
抓取的網(wǎng)頁通常需要處理,比如過濾Html標(biāo)簽,提取文本等。Python的Beautiful Soup提供了簡潔的文檔處理功能,能用極短的代碼完成大部分文檔的處理。
其實(shí)以上功能很多語言和工具都能做,但是用Python能夠干得最快、最干凈,正如這句“Life is short,you need Python”。
(3) 開發(fā)效率高
因?yàn)榕老x的具體代碼得根據(jù)網(wǎng)站不同而修改的,而Python這種靈活的腳本語言特別適合這種任務(wù)。
(4) 上手快
網(wǎng)絡(luò)上Python的教學(xué)資源很多,便于大家學(xué)習(xí),出現(xiàn)問題也很容易找到相關(guān)資料。另外,Python還有強(qiáng)大的成熟爬蟲框架的支持,比如Scrapy。
Python語言本身也一直在發(fā)展,目前的穩(wěn)定版本是Python3,它與Python2有著較大的區(qū)別。為了更好地適應(yīng)未來的發(fā)展,在本書中,我們將使用Python3.0開發(fā)爬蟲項(xiàng)目。
猜你喜歡:
北京校區(qū)