資料內容:
抓取網頁的含義和URL基本構成
1、網絡爬蟲的定義
網絡爬蟲,即 Web Spider,是一個很形象的名字。把互聯(lián)網比喻成一個蜘蛛網,那么Spider就是在網上爬來爬去的蜘蛛。網絡蜘蛛是通過網頁的鏈接地址來尋找網頁的。從網站某一個頁面(通常是首頁)開始,讀取網頁的內容,找到在網頁中的其它鏈接地址,然后通過這些鏈接地址尋找下一個網頁,這樣一直循環(huán)下去,直到把這個網站所有的網頁都抓取完為止。如果把整個互聯(lián)網當成一個網站,那么網絡蜘蛛就可以用這個原理把互聯(lián)網上所有的網頁都抓取下來。這樣看來,網絡爬蟲就是一個爬行程序,一個抓取網頁的程序。網絡爬蟲的基本操作是抓取網頁。那么如何才能隨心所欲地獲得自己想要的頁面?我們先從URL開始。