簡述第壹文《為什麽選擇爬蟲，選擇python》
1 為什麽選擇爬蟲？要想論述這個問題，需要從網絡爬蟲是什麽？學習爬蟲的原因是什麽？怎樣學習爬蟲來理清自己學習的目的，這樣才能更好地去研究爬蟲技術並堅持下來。
1.1 什麽是爬蟲：爬蟲通常指的是網絡爬蟲，就是壹種按照壹定的規則，自動地抓取萬維網信息的程序或者腳本。壹般是根據定義的行為自動進行抓取，更智能的爬蟲會自動分析目標網站結構。它還有壹些不常使用的名字。如：網絡蜘蛛（Web spider）、螞蟻（ant）、自動檢索工具（automatic indexer）、網絡疾走（WEB scutter）、網絡機器人等。
1.2 學習爬蟲的原因：
1.2.1學習爬蟲是壹件很有趣的事。我曾利用爬蟲抓過許多感興趣東西，興趣是最好的老師，感興趣的東西學的快、記的牢，學後有成就感。
@學習爬蟲，可以私人訂制壹個搜索引擎，並且可以對搜索引擎的數據采集工作原理進行更深層次地理解。有的朋友希望能夠深層次地了解搜索引擎的爬蟲工作原理，或者希望自己能夠開發出壹款私人搜索引擎，那麽此時，學習爬蟲是非常有必要的。簡單來說，我們學會了爬蟲編寫之後，就可以利用爬蟲自動地采集互聯網中的信息，采集回來後進行相應的存儲或處理，在需要檢索某些信息的時候，只需在采集回來的信息中進行檢索，即實現了私人的搜索引擎。當然，信息怎麽爬取、怎麽存儲、怎麽進行分詞、怎麽進行相關性計算等，都是需要我們進行設計的，爬蟲技術主要解決信息爬取的問題。
@學習爬蟲可以獲取更多的數據源。這些數據源可以按我們的目的進行采集，去掉很多無關數據。在進行大數據分析或者進行數據挖掘的時候，數據源可以從某些提供數據統計的網站獲得，也可以從某些文獻或內部資料中獲得，但是這些獲得數據的方式，有時很難滿足我們對數據的需求，而手動從互聯網中去尋找這些數據，則耗費的精力過大。此時就可以利用爬蟲技術，自動地從互聯網中獲取我們感興趣的數據內容，並將這些數據內容爬取回來，作為我們的數據源，從而進行更深層次的數據分析，並獲得更多有價值的信息。
@對於很多SEO從業者來說，學習爬蟲，可以更深層次地理解搜索引擎爬蟲的工作原理，從而可以更好地進行搜索引擎優化。既然是搜索引擎優化，那麽就必須要對搜索引擎的工作原理非常清楚，同時也需要掌握搜索引擎爬蟲的工作原理，這樣在進行搜索引擎優化時，才能知己知彼，百戰不殆。
@學習爬蟲更有錢景。爬蟲工程師是當前緊缺人才，並且薪資待遇普遍較高，所以，深層次地掌握這門技術，對於就業來說，是非常有利的。有些朋友學習爬蟲可能為了就業或者跳槽。從這個角度來說，爬蟲工程師方向也是不錯的選擇之壹，因為目前爬蟲工程師的需求越來越大，而能夠勝任這方面崗位的人員較少，所以屬於壹個比較緊缺的職業方向，並且隨著大數據時代的來臨，爬蟲技術的應用將越來越廣泛，在未來會擁有很好的發展空間。
除了以上為大家總結的4種常見的學習爬蟲的原因外，可能妳還有壹些其他學習爬蟲的原因，總之，不管是什麽原因，理清自己學習的目的，就可以更好地去研究壹門知識技術，並堅持下來。
1.3 怎樣學習爬蟲：
1.3.1 選擇壹門編程語言。入門爬蟲的前提肯定是需要學習壹門編程語言，推薦使用Python 。2018年5月Python已排名第壹，列為最受歡迎的語言。很多人將 Python 和爬蟲綁在壹起，相比 Java , Php , Node 等靜態編程語言來說，Python 內部的爬蟲庫更加豐富，提供了更多訪問網頁的 API。寫壹個爬蟲不需要幾十行，只需要 十幾行就能搞定。尤其是現在反爬蟲日漸嚴峻的情況下，如何偽裝自己的爬蟲尤為重要，例如 UA , Cookie , Ip 等等，Python 庫對其的封裝非常和諧，為此可以減少大部分代碼量。
1.3.2 學習爬蟲需要掌握的知識點。http相關知識,瀏覽器攔截、抓包；python的scrapy 、requests、BeautifulSoap等第三方庫的安裝、使用，編碼知識、bytes 和str類型轉換，抓取javascript 動態生成的內容，模擬post、get，header等，cookie處理、登錄，代理訪問，多線程訪問、asyncio 異步，正則表達式、xpath,分布式爬蟲開發等。
1.3.3 學習爬蟲的基本方法。 ?理清楚爬蟲所需的知識體系，然後各個擊破；推薦先買壹本有壹定知名度的書便於系統的學習爬蟲的知識體系。剛開始學的時候，建議從基礎庫開始，有壹定理解之後，才用框架爬取，因為框架也是用基礎搭建的，只不過集成了很多成熟的模塊，提高了抓取的效率，完善了功能。多實戰練習和總結實戰練習，多總結對方網站的搭建技術、網站的反爬機制，該類型網站的解析方法，破解對方網站的反爬技巧等。
2 為什麽選擇Python?
百度知道在這方面介紹的很多了，相比其它編程語言，我就簡答壹下理由：
2.1 python是腳本語言。因為腳本語言與編譯語言的開發測試過程不同，可以極大的提高編程效率。作為程序員至少應該掌握壹本通用腳本語言，而python是當前最流行的通用腳本語言。與python相似的有ruby、tcl、perl等少數幾種，而python被稱為腳本語言之王。
2.2 python擁有廣泛的社區。可以說，只要妳想到的問題，只要妳需要使用的第三方庫，基本上都是python的接口。
2.3 python開發效率高。同樣的任務，大約是java的10倍，c++的10-20倍。
2.4 python在科研上有大量的應用。大數據計算、模擬計算、科學計算都有很多的包。python幾乎在每個linux操作系統上都安裝有，大部分unix系統也都缺省安裝，使用方便。
2.5 python有豐富和強大的獨立庫。它幾乎不依賴第三方軟件就可以完成大部分的系統運維和常見的任務開發；python幫助裏還有許多例子代碼，幾乎拿過來略改壹下就可以正式使用。