使用maven實(shí)現(xiàn)有關(guān)Jsoup簡(jiǎn)單爬蟲的步驟
一、Jsoup的簡(jiǎn)介
jsoup 是一款Java 的HTML解析器,可直接解析某個(gè)URL地址、HTML文本內(nèi)容。它提供了一套非常省力的API,可通過DOM,CSS以及類似于jQuery的操作方法來取出和操作數(shù)據(jù)
二、我們可以利用Jsoup做什么
2.1從URL,文件或字符串中刮取并解析HTML查找和提取數(shù)據(jù),
2.2使用DOM遍歷或CSS選擇器操縱HTML元素,屬性和文本
2.3從而使我們輸出我們想要的整潔文本
三、利用Jsoup爬取某東示例
可以從圖中看到,成功爬取某東的女裝熱門銷量從高到低的標(biāo)題,從而可以分析到銷量高(或者是綜合排序)在前列的標(biāo)題名稱。從而可以剖析出熱門商品的命名規(guī)范。
四、Jsoup用法
4.1先創(chuàng)建maven工程,在maven工程上注入依賴
4.2注入依賴后需要導(dǎo)入依賴,否則在程序中使用Jsoup會(huì)全部報(bào)錯(cuò)。
4.3利用JSP的知識(shí)找出目標(biāo)元素
如在某東界面我們發(fā)現(xiàn), 控制目標(biāo)頁面的ID為"plist",則我們使用
getElementById("plist");方法去獲取到他的ID
接著獲取目標(biāo)標(biāo)題,可以由上圖分析得,標(biāo)題是由<em>標(biāo)簽所控制,因此我們需要用到
getElementsByTag("em");去捕捉到em的部分
最后循環(huán)輸出他的部分即可。
五、總結(jié)
Jsoup只能應(yīng)用于簡(jiǎn)單的頁面捕捉,在實(shí)際開發(fā)中許多網(wǎng)站采用Ajax技術(shù)等使得模塊在動(dòng)態(tài)變化抑或是有反爬蟲技術(shù),因此本技術(shù)有局限性。熟悉前端jsp技術(shù)的同學(xué)應(yīng)該會(huì)游刃有余。
最后附上所有代碼
以上就是使用maven實(shí)現(xiàn)有關(guān)Jsoup簡(jiǎn)單爬蟲的步驟的詳細(xì)內(nèi)容,更多關(guān)于maven實(shí)現(xiàn)Jsoup爬蟲的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
Java詳解對(duì)象終止方法finalize()的用法
在前面的 jvm 中, 需要補(bǔ)充幾個(gè)部分的內(nèi)容, 接著來看 finalize() 機(jī)制, 它可以使接近死亡的對(duì)象復(fù)活, 下來我們來看是怎么一回事2022-05-05java面向國(guó)際化項(xiàng)目開發(fā)需遵循的命名規(guī)范
這篇文章主要為大家介紹了在參與開發(fā)國(guó)際化項(xiàng)目時(shí)需遵循的java命名規(guī)范,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步2022-03-03java servlet獲得客戶端相關(guān)信息的簡(jiǎn)單代碼
這篇文章主要介紹了java servlet獲得客戶端相關(guān)信息的簡(jiǎn)單代碼,有需要的朋友可以參考一下2013-12-12詳解Java如何實(shí)現(xiàn)數(shù)值校驗(yàn)的算法
給定一個(gè)字符串如何判斷它是否為數(shù)值類型?本文將帶著大家學(xué)習(xí)一下如何利用Java實(shí)現(xiàn)這個(gè)判斷算法,感興趣的小伙伴可以學(xué)習(xí)一下2022-04-04SpringBoot+SpringSecurity+jwt實(shí)現(xiàn)驗(yàn)證
本文主要介紹了SpringBoot+SpringSecurity+jwt實(shí)現(xiàn)驗(yàn)證,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-07-07