Ⅰ Python爬蟲好寫嗎
python爬蟲不簡單的，基礎爬蟲：
（1）基礎庫：urllib模塊/requests第三方模塊
首先爬蟲就是要從網頁上把我們需要的信息抓取下來的，那麼我們就要學習urllib/requests模塊，這兩種模塊是負責爬取網頁的。這里大家覺得哪一種用的習慣就用哪一種，選擇一種精通就好了。我推薦讀者使用使用requests模塊，因為這一種簡便很多，容易操作、容易理解，所以requests被稱為「人性化模塊」。
（2）多進程、多線程、協程和分布式進程：
為什麼要學著四個知識呢？假如你要爬取200萬條的數據，使用一般的單進程或者單線程的話，你爬取下載這些數據，也許要一個星期或是更久。試問這是你想要看到的結果嗎？顯然單進程和單線程不要滿足我們追求的高效率，太浪費時間了。只要設置好多進程和多線程，爬取數據的速度可以提高10倍甚至更高的效率。
（3）網頁解析提取庫：xpath/BeautifulSoup4/正則表達式
通過前面的（1）和（2）爬取下來的是網頁源代碼，這里有很多並不是我們想要的信息，所以需要將沒用的信息過濾掉，留下對我們有價值的信息。這里有三種解析器，三種在不同的場景各有特色也各有不足，總的來說，學會這三種靈活運用會很方便的。推薦理解能力不是很強的朋友或是剛入門爬蟲的朋友，學習BeautifulSoup4是很容易掌握並能夠快速應用實戰的，功能也非常強大。
（4）反屏蔽：請求頭/代理伺服器/cookie
在爬取網頁的時候有時會失敗，因為別人網站設置了反爬蟲措施了，這個時候就需要我們去偽裝自己的行為，讓對方網站察覺不到我們就是爬蟲方。請求頭設置，主要是模擬成瀏覽器的行為；IP被屏蔽了，就需要使用代理伺服器來破解；而cookie是模擬成登錄的行為進入網站。
（5）異常：超時處理/異常處理，這里不做介紹了，自己去了解一下。
（6）數據儲存庫：文件系統儲存/MySQL/MongoDB
數據的儲存大概就這三種方式了，文件系統儲存是運用了python文件操作來執行的；而MySQL要使用到資料庫創建表格來儲存數據；MongoDB在爬蟲里是非常好的儲存方式，分布式爬蟲就是運用了MongoDB來儲存的。各有特色，看自己需要哪種，在靈活運用。
（7）動態網頁抓取：Ajax/Phantomjs/Selenium這三個知識點
（8）抓包：APP抓包/API爬蟲
（9）模擬登陸的 爬蟲
Ⅱ java截屏有哪幾種方法
前台方式
1. 利用html2canvas實現前台截屏
html2canvas項目的gitHub地址
html2canvas示例
html2canvas可以將HTML代碼塊進行截取，並生成快照形式的canvas，然後可以利用html5的下載功能提供圖片的下載介面，供用戶下載。
優點：前台技術，實現比較容易。
缺點：此項目使用了html5的技術，因此在對IE的兼容上，只可以在IE9+的版本上使用。
使用時，需要引用jQuery.js和html2canvas.js。（html2canvas.js可以在github上下載）
具體JavaScript代碼如下:
var canvas = function () {
html2canvas($("#chart"), {
onrendered: function (canvas) {
$("#class11").html(canvas);//將id為「class11」部分的代碼轉換為canvas
var type = 'png';//圖片類型為png
var imgData = canvas.toDataURL('png');//將圖片轉換為png類型的流
var _fixType = function (type) {
type = type.toLowerCase().replace(/jpg/i, 'jpeg'); var r = type.match(/png|jpeg|bmp|gif/)[0]; return 'image/' + r;
}; var saveFile = function (data, filename) {
var save_link = document.createElementNS('http://www.w3.org/1999/xhtml', 'a');
save_link.href = data;
save_link.download = filename; var event = document.createEvent('MouseEvents');
event.initMouseEvent('click', true, false, window, 0, 0, 0, 0, 0, false, false, false, false, 0, null);
save_link.dispatchEvent(event);
}; //下載時的文件名
var filename = 'fe_' + (new Date()).getTime() + '.' + type; // 下載文件
saveFile(imgData, filename);
}
});
後台方式（java）
1. 利用html2image實現
html2image的地址（google）
html2image是可以識別html標簽並將html轉換成圖片的java項目。
優點：後台轉換，故對瀏覽器的版本基本沒有要求。
缺點：對樣式的識別不是很好，轉換出來的圖片比較簡單，基本沒有可以兼容的樣式。
使用方式：maven中引用如下依賴：
<dependency>
<groupId>com.github.xuwei-k</groupId>
<artifactId>html2image</artifactId>
<version>0.1.0</version></dependency>12345
2. 利用DJNativeSwing項目實現
純java代碼實現。使用DJNativeSwing這個項目，構建一個swing瀏覽器，打開網址，之後截取圖片。（需要eclipse的swt庫支持）
優點：純java實現。
缺點：需要多線程的支持，只在控制台方式實現過（由於本人對於多線程的掌握較弱，目前沒有在spring項目中實現這個方法，求大神指導~~）
3. 利用phantomJs實現
phantomJs的GitHub地址
phantomJs官網
phantom利用的是webKit內核，全面支持web而不需瀏覽器支持，快速，原生支持各種Web標准。
優點：速度快，使用簡單。
缺點：需要在項目的伺服器端引用exe文件進行截圖，並發性能有待考證。
Ⅲ 爬蟲框架都有什麼
設計框架的目的就是將爬蟲流程統一化，將通用的功能進行抽象，減少重復工作。設計網路爬蟲框架需要哪些組件呢？下面ipidea全球IP為大家介紹一下。
爬蟲框架要處理很多的URL，我們需要設計一個隊列存儲所有要處理的 URL，這種先進先出的數據結構非常符合這個需求。 將所有要下載的URL存儲在待處理隊列中，每次下載會取出一個，隊列中就會少一個。我們知道有些URL的下載會有反爬蟲策略，所以針對這些請求需要做一些特殊的設置，進而可以對URL進行封裝抽出 Request。
頁面下載器如果沒有，用戶就要編寫網路請求的處理代碼，這無疑對每個 URL 都是相同的動作。 所以在框架設計中我們直接加入它就好了，至於使用什麼庫來進行下載都是可以的，你可以用 httpclient 也可以用okhttp在本文中我們使用一個超輕量級的網路請求庫 oh-my-request (沒錯，就是在下搞的)。優秀的框架設計會將這個下載組件置為可替換，提供默認的即可。
爬蟲調度器，調度器和我們在開發 web 應用中的控制器是一個類似的概念，它用於在下載器、解析器之間做流轉處理。 解析器可以解析到更多的 URL 發送給調度器，調度器再次的傳輸給下載器，這樣就會讓各個組件有條不紊的進行工作。
網頁解析器我們知道當一個頁面下載完成後就是一段 HTML 的 DOM 字元串表示，但還需要提取出真正需要的數據以前的做法是通過String的API 或者正則表達式的方式在DOM 中搜尋，這樣是很麻煩的，框架 應該提供一種合理、常用、方便的方式來幫助用戶完成提取數據這件事兒。常用的手段是通過xpath或者css選擇器從DOM中進行提取，而且學習這項技能在幾乎所有的爬蟲框架中都是適用的。
數據處理，普通的爬蟲程序中是把網頁解析器和數據處理器合在一起的，解析到數據後馬上處理。 在一個標准化的爬蟲程序中，他們應該是各司其職的，我們先通過解析器將需要的數據解析出來，可能是封裝成對象。然後傳遞給數據處理器，處理器接收到數據後可能是存儲到資料庫，也可能通過介面發送給老王。
Ⅳ Python的爬蟲框架有哪些
向大家推薦十個Python爬蟲框架。
1、Scrapy：Scrapy是一個為了爬取網站數據，提取結構性數據而編寫的應用框架。 可以應用在包括數據挖掘，信息處理或存儲歷史數據等一系列的程序中。它是很強大的爬蟲框架，可以滿足簡單的頁面爬取，比如可以明確獲知url pattern的情況。用這個框架可以輕松爬下來如亞馬遜商品信息之類的數據。但是對於稍微復雜一點的頁面，如weibo的頁面信息，這個框架就滿足不了需求了。它的特性有：HTML, XML源數據 選擇及提取 的內置支持；提供了一系列在spider之間共享的可復用的過濾器(即 Item Loaders)，對智能處理爬取數據提供了內置支持。
2、Crawley：高速爬取對應網站的內容，支持關系和非關系資料庫，數據可以導出為JSON、XML等。
3、Portia：是一個開源可視化爬蟲工具，可讓使用者在不需要任何編程知識的情況下爬取網站！簡單地注釋自己感興趣的頁面，Portia將創建一個蜘蛛來從類似的頁面提取數據。簡單來講，它是基於scrapy內核；可視化爬取內容，不需要任何開發專業知識；動態匹配相同模板的內容。
4、newspaper：可以用來提取新聞、文章和內容分析。使用多線程，支持10多種語言等。作者從requests庫的簡潔與強大得到靈感，使用Python開發的可用於提取文章內容的程序。支持10多種語言並且所有的都是unicode編碼。
5、Python-goose：Java寫的文章提取工具。Python-goose框架可提取的信息包括：文章主體內容、文章主要圖片、文章中嵌入的任何Youtube/Vimeo視頻、元描述、元標簽。
6、Beautiful Soup：名氣大，整合了一些常用爬蟲需求。它是一個可以從HTML或XML文件中提取數據的Python庫。它能夠通過你喜歡的轉換器實現慣用的文檔導航,查找,修改文檔的方式.Beautiful Soup會幫你節省數小時甚至數天的工作時間。Beautiful Soup的缺點是不能載入JS。
7、mechanize：它的優點是可以載入JS。當然它也有缺點，比如文檔嚴重缺失。不過通過官方的example以及人肉嘗試的方法，還是勉強能用的。
8、selenium：這是一個調用瀏覽器的driver，通過這個庫你可以直接調用瀏覽器完成某些操作，比如輸入驗證碼。Selenium是自動化測試工具，它支持各種瀏覽器，包括 Chrome，Safari，Firefox等主流界面式瀏覽器，如果在這些瀏覽器裡面安裝一個 Selenium 的插件，可以方便地實現Web界面的測試. Selenium支持瀏覽器驅動。Selenium支持多種語言開發，比如 Java，C，Ruby等等，PhantomJS 用來渲染解析JS，Selenium 用來驅動以及與Python的對接，Python進行後期的處理。
9、cola：是一個分布式的爬蟲框架，對於用戶來說，只需編寫幾個特定的函數，而無需關注分布式運行的細節。任務會自動分配到多台機器上，整個過程對用戶是透明的。項目整體設計有點糟，模塊間耦合度較高。
10、PySpider：一個國人編寫的強大的網路爬蟲系統並帶有強大的WebUI。採用Python語言編寫，分布式架構，支持多種資料庫後端，強大的WebUI支持腳本編輯器，任務監視器，項目管理器以及結果查看器。Python腳本控制，可以用任何你喜歡的html解析包。
以上就是分享的Python爬蟲一般用的十大主流框架。這些框架的優缺點都不同，大家在使用的時候，可以根據具體場景選擇合適的框架。
Ⅳ python爬蟲框架哪個好用
爬蟲框架中比較好用的是 Scrapy 和PySpider。pyspider上手更簡單，操作更加簡便，因為它增加了 WEB 界面，寫爬蟲迅速，集成了phantomjs，可以用來抓取js渲染的頁面。Scrapy自定義程度高，比 PySpider更底層一些，適合學習研究，需要學習的相關知識多，不過自己拿來研究分布式和多線程等等是非常合適的。
PySpider
PySpider是binux做的一個爬蟲架構的開源化實現。主要的功能需求是：
抓取、更新調度多站點的特定的頁面
需要對頁面進行結構化信息提取
靈活可擴展，穩定可監控
pyspider的設計基礎是：以python腳本驅動的抓取環模型爬蟲
通過python腳本進行結構化信息的提取，follow鏈接調度抓取控制，實現最大的靈活性
通過web化的腳本編寫、調試環境。web展現調度狀態
抓取環模型成熟穩定，模塊間相互獨立，通過消息隊列連接，從單進程到多機分布式靈活拓展
pyspider的架構主要分為 scheler（調度器）, fetcher（抓取器）, processor（腳本執行）：
各個組件間使用消息隊列連接，除了scheler是單點的，fetcher 和 processor 都是可以多實例分布式部署的。 scheler 負責整體的調度控制
任務由 scheler 發起調度，fetcher 抓取網頁內容， processor 執行預先編寫的python腳本，輸出結果或產生新的提鏈任務（發往 scheler），形成閉環。
每個腳本可以靈活使用各種python庫對頁面進行解析，使用框架API控制下一步抓取動作，通過設置回調控制解析動作。
Ⅵ python的爬蟲框架有哪些
1.Scrapy是一個為了爬取網站數據，提取結構性數據而編寫的應用框架。 可以應用在包括數據挖掘，信息處理或存儲歷史數據等一系列的程序中
2.pyspider 是一個用python實現的功能強大的網路爬蟲系統，能在瀏覽器界面上進行腳本的編寫，功能的調度和爬取結果的實時查看，後端使用常用的資料庫進行爬取結果的存儲，還能定時設置任務與任務優先順序等。
3.Crawley可以高速爬取對應網站的內容，支持關系和非關系資料庫，數據可以導出為JSON、XML等
4.Beautiful Soup 是一個可以從HTML或XML文件中提取數據的Python庫.它能夠通過你喜歡的轉換器實現慣用的文檔導航,查找,修改文檔的方式.Beautiful Soup會幫你節省數小時甚至數天的工作時間。
還有很多，比如Newspaper，Grab，Cola等等
爬蟲框架學習可以看一下黑馬程序員視頻庫的學習視頻，免費學習哦！很高興能為你提供幫助
Ⅶ 如何使用nodejs做爬蟲程序
1、如果抄是定向爬取幾個頁襲面，做一些簡單的頁面解析，爬取效率不是核心要求，那麼用什麼語言差異不大。
當然要是頁面結構復雜，正則表達式寫得巨復雜，尤其是用過那些支持xpath的類庫/爬蟲庫後，就會發現此種方式雖然入門門檻低，但擴展性、可維護性等都奇差。因此此種情況下還是推薦採用一些現成的爬蟲庫，諸如xpath、多線程支持還是必須考慮的因素。
2、如果是定向爬取，且主要目標是解析js動態生成的內容
此時候，頁面內容是有js/ajax動態生成的，用普通的請求頁面->解析的方法就不管用了，需要藉助一個類似firefox、chrome瀏覽器的js引擎來對頁面的js代碼做動態解析。
此種情況下，推薦考慮casperJS+phantomjs或slimerJS+phantomjs ，當然諸如selenium之類的也可以考慮。
Ⅷ 百度爬蟲用什麼語言
問題一：Google和網路的爬蟲是用什麼語言寫的？ 15分 每個網站都有一個「爬蟲協議」，至少大型網站都會有。
Robots協議（也襲者雹稱為爬蟲協議、機器人協議等）的全稱是「網路爬蟲排除標准」（Robots Exclusion Protocol），網站通過Robots協議告訴搜索引擎哪些頁面可以抓取，哪些頁面不能抓取。
越是大型網站，Robots協議越規范，他們為了提高自己在搜索結果的位置，會針對網路、谷歌等搜素引擎寫爬蟲協議，而網路等搜索引擎不需要特別針對這些大網站寫協議換個角度想，大的搜索引擎就那幾個，而所謂「大網站」數不勝數，怎麼可能寫的過來？
如果你沒能理解這部分內容，說明你還處在「菜鳥」級別。一般的爬蟲演算法是：先查找新地址，用隊列或者堆棧來存儲新增加的url；然後用爬蟲程序從隊列或者堆棧中取地址，繼續爬蟲。因為這兩方面程序執行的速度是不一樣的，不是說找到一個url就能立即爬完，或者有時候還沒找到新url就已經爬完了，所以分了兩個結構。
一般的程序中都會用多個函數來執行一個過程，但這在新手的學習中是不常見到、也是不易搞懂的。
鑒於你提出的問題，我覺得你不到能搞通爬蟲程序的階段，建議你還是從簡單的程序開始。看看這個編程語言入門經典100例【Python版】，希望對你有幫助
問題二：網路他們公司 那建立索引 做爬蟲這些的用什麼語言？ 實現搜索引擎核心演算法 用什麼語言啊？ 爬蟲什麼耿言都可以寫 拆解出來 主要就兩部分
一部分是獲取HTML
另一部分是正則表達式
這要有這兩部分就能從網頁上爬出有用的信息來了
至於多線程、OCR、分布式任務要根據你抓取站點的目標來做，並非是必須的
問題三：一般公司做爬蟲採集的話常用什麼語言 C# python
工具 phantomjs casperjs
問題四：請詳細解釋什麼事網路爬蟲，有什麼作用 說通俗一點就是一段程序，這段程序可以在互聯網上自動查詢更新的網站
問題五：網路爬蟲用什麼語言好 爬蟲好像很多語言都有，java,C#,python等等。我自己用的是python.
問題六：開發網路爬蟲用什麼語言比較好 python雖然我拍帆沒用過，但是這個應嘎是最好的
問題七：網路爬蟲用什麼語言什麼方式實現好 首先取決於目的 如果是一個站點，單一目的，用習慣的語言寫吧，學別的語言用的時間都夠重構兩遍的了。 如果是有100左右的站點，做個框架，把你的爬蟲管理起來，比起怎麼寫更重要。 用Java寫過，語言笨重，所建立的數據模型的任何修改都會導致代
問題八：爬蟲web軟體 用什麼開發語言最好 你可以試試用【神箭手雲爬蟲】寫爬蟲，
完全在雲上編寫和執行爬蟲，不需要配置任何開發環境，快速開發快速實現。
官網上有不少網站的爬蟲源碼分享
還有專門的開發者文檔，裡面的教程很詳細，各種基本爬蟲基礎和進階開發知識都有介紹。
爬蟲編輯器:
神箭手雲爬蟲開發平台：
問題九：各種語言寫網路爬蟲有什麼優點缺點 我用 PHP 和 Python 都寫過爬蟲和正文提取程嫌旅序。
最開始使用 PHP 所以先說說 PHP 的優點：
1.語言比較簡單，PHP 是非常隨意的一種語言。寫起來容易讓你把精力放在你要做的事情上，而不是各種語法規則等等。
2.各種功能模塊齊全，這里分兩部分：
1.網頁下載：curl 等擴展庫;
2.文檔解析：dom、xpath、tidy、各種轉碼工具，可能跟題主的問題不太一樣，我的爬蟲需要提取正文，所以需要很復雜的文本處理，所以各種方便的文本處理工具是我的大愛。;
總之容易上手。
缺點：
1.並發處理能力較弱：由於當時 PHP 沒有線程、進程功能，要想實現並發需要借用多路服用模型，PHP 使用的是 select 模型。實現其來比較麻煩，可能是因為水平問題我的程序經常出現一些錯誤，導致漏抓。
再說說 Python：
優點：
1.各種爬蟲框架，方便高效的下載網頁;
2.多線程、進程模型成熟穩定，爬蟲是一個典型的多任務處理場景，請求頁面時會有較長的延遲，總體來說更多的是等待。多線程或進程會更優化程序效率，提升整個系統下載和分析能力。
3.GAE 的支持，當初寫爬蟲的時候剛剛有 GAE，而且只支持 Python ，利用 GAE 創建的爬蟲幾乎免費，最多的時候我有近千個應用實例在工作。
缺點：
1.對不規范 HTML 適應能力差：舉個例子，如果一個頁面裡面同時有 GB18030 字元集的中文和 UTF-8 字元集的中文，Python 處理起來就沒有 PHP 那麼簡單，你自己需要做很多的判斷工作。當然這是提取正文時的麻煩。
Java 和 C++ 當時也考察過，相對腳本語言比較麻煩，所以放棄。
總之，如果開發一個小規模的爬蟲腳本語言是個各方面比較有優勢的語言。如果要開發一個復雜的爬蟲系統可能 Java 是個增加選項， C++ 我感覺寫個模塊之類的更加適合。對於一個爬蟲系統來說，下載和內文解析只是基本的兩個功能。真正好的系統還包括完善的任務調度、監控、存儲、頁面數據保存和更新邏輯、排重等等。爬蟲是一個耗費帶寬的應用，好的設計會節約大量的帶寬和伺服器資源，並且好壞差距很大。
問題十：爬蟲技術 什麼編程語言 爬蟲的主要原理是抓取html的內容，大部分目前常見的語言都有相關的網路編程API，都能實現網路爬蟲。比如說Java, Python, C++, C#, PHP, Perl等語言都可以。
希望對你有所幫助！
Ⅸ python網路爬蟲怎麼學習
現行環境下，大數據與人工智慧的重要依託還是龐大的數據和分析採集，類似於淘寶 京東 網路 騰訊級別的企業 能夠通過數據可觀的用戶群體獲取需要的數據，而一般企業可能就沒有這種通過產品獲取數據的能力和條件，想從事這方面的工作，需掌握以下知識：
1. 學習Python基礎知識並實現基本的爬蟲過程
一般獲取數據的過程都是按照 發送請求-獲得頁面反饋-解析並且存儲數據 這三個流程來實現的。這個過程其實就是模擬了一個人工瀏覽網頁的過程。
Python中爬蟲相關的包很多：urllib、requests、bs4、scrapy、pyspider 等，我們可以按照requests 負責連接網站，返回網頁，Xpath 用於解析網頁，便於抽取數據。
2.了解非結構化數據的存儲
爬蟲抓取的數據結構復雜 傳統的結構化資料庫可能並不是特別適合我們使用。我們前期推薦使用MongoDB 就可以。
3. 掌握一些常用的反爬蟲技巧
使用代理IP池、抓包、驗證碼的OCR處理等處理方式即可以解決大部分網站的反爬蟲策略。
4.了解分布式存儲
分布式這個東西，聽起來很恐怖，但其實就是利用多線程的原理讓多個爬蟲同時工作，需要你掌握 Scrapy + MongoDB + Redis 這三種工具就可以了。
Ⅹ java爬蟲如何去重
用
requests+Selenium+PhantomJs
多線程爬蟲的時候用的是
mp.manager.dict()
來存儲已經訪問過的網站，如果發現再次訪問就直接跳過
我能想到的就是
Bloom
Filter
，按照上面所說用
redis
來去重應該也可以！