Python3實(shí)現(xiàn)爬蟲(chóng)爬取趕集網(wǎng)列表功能【基于request和BeautifulSoup模塊】
本文實(shí)例講述了Python3實(shí)現(xiàn)爬蟲(chóng)爬取趕集網(wǎng)列表功能。分享給大家供大家參考,具體如下:
python3爬蟲(chóng)之爬取趕集網(wǎng)列表。這幾天一直在學(xué)習(xí)使用python3爬取數(shù)據(jù),今天記錄一下,代碼很簡(jiǎn)單很容易上手。
首先需要安裝python3。如果還沒(méi)有安裝,可參考本站前面關(guān)于python3安裝與配置相關(guān)文章。
首先需要安裝request和BeautifulSoup兩個(gè)模塊
request是Python的HTTP網(wǎng)絡(luò)請(qǐng)求模塊,使用Requests可以輕而易舉的完成瀏覽器可有的任何操作
pip install requests
BeautifulSoup是用Python寫(xiě)的一個(gè)HTML/XML的解析器,它可以很好的處理不規(guī)范標(biāo)記并生成剖析樹(shù)
pip install beautifulsoup4
代碼:
from urllib import request from bs4 import BeautifulSoup #構(gòu)造頭文件,模擬瀏覽器訪問(wèn) url="http://xa.ganji.com/meirdjm/o2/" headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.77 Safari/537.36'} page = request.Request(url,headers=headers) # 發(fā)送請(qǐng)求,獲取內(nèi)容 page_info = request.urlopen(page).read().decode('utf-8') # 將獲取到的內(nèi)容轉(zhuǎn)換成BeautifulSoup格式,并將html.parser作為解析器 soup = BeautifulSoup(page_info, 'html.parser') # 查找所有a標(biāo)簽中class='list-info-title' titles = soup.find_all('a',class_="list-info-title") # 打印抓取到的title for title in titles: print(title.string)
結(jié)果:
更多關(guān)于Python相關(guān)內(nèi)容可查看本站專(zhuān)題:《Python Socket編程技巧總結(jié)》、《Python正則表達(dá)式用法總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python入門(mén)與進(jìn)階經(jīng)典教程》及《Python文件與目錄操作技巧匯總》
希望本文所述對(duì)大家Python程序設(shè)計(jì)有所幫助。
- Python進(jìn)階多線程爬取網(wǎng)頁(yè)項(xiàng)目實(shí)戰(zhàn)
- Python進(jìn)階篇之多線程爬取網(wǎng)頁(yè)
- python爬蟲(chóng)beautifulsoup庫(kù)使用操作教程全解(python爬蟲(chóng)基礎(chǔ)入門(mén))
- python爬蟲(chóng)利器之requests庫(kù)的用法(超全面的爬取網(wǎng)頁(yè)案例)
- Python基于BeautifulSoup和requests實(shí)現(xiàn)的爬蟲(chóng)功能示例
- Python爬取求職網(wǎng)requests庫(kù)和BeautifulSoup庫(kù)使用詳解
相關(guān)文章
python 七種郵件內(nèi)容發(fā)送方法實(shí)例
這篇文章主要介紹了python 七種郵件內(nèi)容發(fā)送方法實(shí)例,需要的朋友可以參考下2014-04-04python+selenium實(shí)現(xiàn)自動(dòng)化百度搜索關(guān)鍵詞
在本篇文章里我們給大家分享了一篇關(guān)于python+selenium實(shí)現(xiàn)自動(dòng)化百度搜索關(guān)鍵詞的實(shí)例文章,需要的朋友們可以跟著操作下。2019-06-06基于python實(shí)現(xiàn)cdn日志文件導(dǎo)入mysql進(jìn)行分析
這篇文章主要介紹了基于python實(shí)現(xiàn)cdn日志文件導(dǎo)入mysql進(jìn)行分析,本文以阿里云CDN日志作為輔助查詢數(shù)據(jù)展開(kāi)主題內(nèi)容,其它云平臺(tái)大同小異,需要的小伙伴可以參考一下2022-05-05pytorch實(shí)現(xiàn)查看當(dāng)前學(xué)習(xí)率
這篇文章主要介紹了pytorch實(shí)現(xiàn)查看當(dāng)前學(xué)習(xí)率,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-06-06python字典通過(guò)值反查鍵的實(shí)現(xiàn)(簡(jiǎn)潔寫(xiě)法)
這篇文章主要介紹了python字典通過(guò)值反查鍵的實(shí)現(xiàn)(簡(jiǎn)潔寫(xiě)法),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2020-09-09Python 數(shù)據(jù)的累加與統(tǒng)計(jì)的示例代碼
這篇文章主要介紹了Python 數(shù)據(jù)的累加與統(tǒng)計(jì)的示例代碼,文中講解非常細(xì)致,代碼幫助大家更好的理解和學(xué)習(xí),感興趣的朋友可以了解下2020-08-08python用socket傳輸圖片的項(xiàng)目實(shí)踐
使用python在網(wǎng)絡(luò)上傳送圖片數(shù)據(jù),需要以byte格式讀取圖片,這樣才可以通過(guò)socket傳輸,本文就來(lái)介紹了python用socket傳輸圖片的項(xiàng)目實(shí)踐,具有一定的參考價(jià)值,感興趣的可以了解一下2024-02-02python實(shí)現(xiàn)多線程暴力破解登陸路由器功能代碼分享
這篇文章主要介紹了python實(shí)現(xiàn)多線程暴力破解登陸路由器功能代碼分享,本文直接給出實(shí)現(xiàn)代碼,需要的朋友可以參考下2015-01-01