網絡爬蟲主要是幹什麼用的

網絡爬蟲是用來抓取網頁信息的程序，是一種按照一定的規則，自動地抓取萬維網信息的程序或者腳本。網絡爬蟲是一個自動提取網頁的程序，它為搜索引擎從萬維網上下載網頁，是搜索引擎的重要組成。傳統爬蟲從一個或若干初始網頁的URL開始，獲得初始網頁上的URL，在抓取網頁的過程中，不斷從當前頁面上抽取新的URL放入隊列,直到滿足系統的一定停止條件。