node實(shí)現(xiàn)的爬蟲功能示例

更新時(shí)間：2018年05月04日 12:08:05 作者：Wayne-Zhu

這篇文章主要介紹了node實(shí)現(xiàn)的爬蟲功能,結(jié)合實(shí)例形式分析了nodejs實(shí)現(xiàn)爬蟲功能的步驟與相關(guān)操作技巧,需要的朋友可以參考下

本文實(shí)例講述了node實(shí)現(xiàn)的爬蟲功能。分享給大家供大家參考，具體如下：

node是服務(wù)器端的語言，所以可以像python一樣對(duì)網(wǎng)站進(jìn)行爬取，下面就使用node對(duì)博客園進(jìn)行爬取，得到其中所有的章節(jié)信息。

第一步： 建立crawl文件，然后npm init。

第二步： 建立crawl.js文件，一個(gè)簡單的爬取整個(gè)頁面的代碼如下所示：

var http = require("http");
var url = "http://www.cnblogs.com";
http.get(url, function (res) {
  var html = "";
  res.on("data", function (data) {
    html += data;
  });
  res.on("end", function () {
    console.log(html);
  });
}).on("error", function () {
  console.log("獲取課程結(jié)果錯(cuò)誤！");
});

即引入http模塊，然后利用http對(duì)象的get請(qǐng)求，即一旦運(yùn)行，相當(dāng)于node服務(wù)器端發(fā)送了一個(gè)get請(qǐng)求請(qǐng)求這個(gè)頁面，然后通過res返回，其中on綁定data事件用來不斷地接受數(shù)據(jù)，最后end時(shí)我們就在后臺(tái)打印出來。

這只是整個(gè)頁面的一部分，我們可以在此頁面審查元素，發(fā)現(xiàn)確實(shí)是一樣的

我們只需要將其中的章節(jié)title和每一小節(jié)的信息爬到即可。

第三步： 引入cheerio模塊，如下：（在gitbash中安裝即可，cmd總是出問題）

cnpm install cheerio --save-dev

這個(gè)模塊的引入，就是為了方便我們操作dom，就像jQuery一樣。

第四步： 操作dom，獲取有用信息。

var http = require("http");
var cheerio = require("cheerio");
var url = "http://www.cnblogs.com";
function filterData(html) {
  var $ = cheerio.load(html); 
  var items = $(".post_item");
  var result = [];
  items.each(function (item) {
    var tit = $(this).find(".titlelnk").text();
    var aut = $(this).find(".lightblue").text();
    var one = {
      title: tit,
      author: aut
    };
    result.push(one);
  });
  return result;
}
function printInfos(allInfos) {
  allInfos.forEach(function (item) {
    console.log("文章題目 " + item["title"] + '\n' + "文章作者 " + item["author"] + '\n'+ '\n');
  });
}
http.get(url, function (res) {
  var html = "";
  res.on("data", function (data) {
    html += data;
  });
  res.on("end", function (data) {
    var allInfos = filterData(html);
    printInfos(allInfos);
  });
}).on("error", function () {
  console.log("爬取博客園首頁失敗")
});

即上面的過程就是在爬取博客的題目和作者。

最終后臺(tái)輸出如下：