Python CSS選擇器爬取京東網(wǎng)商品信息過程解析

更新時間：2020年06月01日 15:50:22 作者：dcpeng

這篇文章主要介紹了Python CSS選擇器爬取京東網(wǎng)商品信息過程解析,文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下

CSS選擇器

目前，除了官方文檔之外，市面上及網(wǎng)絡詳細介紹BeautifulSoup使用的技術書籍和博客軟文并不多，而在這僅有的資料中介紹CSS選擇器的少之又少。在網(wǎng)絡爬蟲的頁面解析中，CCS選擇器實際上是一把效率甚高的利器。雖然資料不多，但官方文檔卻十分詳細，然而美中不足的是需要一定的基礎才能看懂，而且沒有小而精的演示實例。

京東商品圖

首先進入京東網(wǎng)，輸入自己想要查詢的商品，向服務器發(fā)送網(wǎng)頁請求。在這里小編仍以關鍵詞“狗糧”作為搜索對象，之后得到后面這一串網(wǎng)址：
https://search.jd.com/Search?keyword=%E7%8B%97%E7%B2%AE&enc=utf-8，其中參數(shù)的意思就是我們輸入的keyword，在本例中該參數(shù)代表“狗糧”，具體詳情可以參考Python大神用正則表達式教你搞定京東商品信息。所以，只要輸入keyword這個參數(shù)之后，將其進行編碼，就可以獲取到目標URL。之后請求網(wǎng)頁，得到響應，爾后利用CSS選擇器進行下一步的數(shù)據(jù)采集。

商品信息在京東官網(wǎng)上的部分網(wǎng)頁源碼如下圖所示：

部分網(wǎng)頁源碼

仔細觀察源碼，可以發(fā)現(xiàn)我們所需的目標信息在紅色框框的下面，那么接下來我們就要一層一層的去獲取想要的信息。

在Python的urllib庫中提供了quote方法，可以實現(xiàn)對URL的字符串進行編碼，從而可以進入到對應的網(wǎng)頁中去。

CSS選擇器在線復制

很多小伙伴都覺得CSS表達式很難寫，其實掌握了基本的用法也就不難了。在線復制CSS表達式如上圖所示，可以很方便的復制CSS表達式。但是通過該方法得到的CSS表達式放在程序中一般不能用，而且長的沒法看。所以CSS表達式一般還是要自己親自上手。

直接上代碼，利用CSS去提取目標信息，如商品的名字、鏈接、圖片和價格，具體的代碼如下圖所示：

代碼實現(xiàn)

如果你想快速的實現(xiàn)功能更強大的網(wǎng)絡爬蟲，那么BeautifulSoupCSS選擇器將是你必備的利器之一。BeautifulSoup整合了CSS選擇器的語法和自身方便使用API。在網(wǎng)絡爬蟲的開發(fā)過程中，對于熟悉CSS選擇器語法的人，使用CSS選擇器是個非常方便的方法。

最后得到的效果圖如下所示：