Python基于requests庫爬取網(wǎng)站信息
requests庫是一個簡介且簡單的處理HTTP請求的第三方庫
get()是獲取網(wǎng)頁最常用的方式,其基本使用方式如下
使用requests庫獲取HTML頁面并將其轉(zhuǎn)換成字符串后,需要進(jìn)一步解析HTML頁面格式,這里我們常用的就是beautifulsoup4庫,用于解析和處理HTML和XML
下面這段代碼便是爬取百度的信息并簡單輸出百度的界面信息
import requests from bs4 import BeautifulSoup r=requests.get('http://www.baidu.com') r.encoding=None result=r.text bs=BeautifulSoup(result,'html.parser') print(bs.title) print(bs.title.text)
import requests from bs4 import BeautifulSoup #用來解決亂碼現(xiàn)象,所以編寫爬取信息的代碼最好帶上(輸出出現(xiàn)亂碼或者UnicodeEncodeError:'gbk'codec can't encode character) import io import sys sys.stdout = io.TextIOWrapper(sys.stdout.buffer,encoding='gb18030') #用來防止反爬取,可以了解一下 headers={"User-Agent" : "Mozilla/5.0 (Windows; U; Windows NT 5.1; zh-CN; rv:1.9.1.6)", "Accept" : "text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8", "Accept-Language" : "en-us", "Connection" : "keep-alive", "Accept-Charset" : "GB2312,utf-8;q=0.7,*;q=0.7" } #獲取51job網(wǎng)站的基本信息 r=requests.get('https://search.51job.com/list/000000,000000,0000,00,9,99,python,2,1.html?lang=c&stype=&postchannel=0000&workyear=99&cotype=99°reefrom=99&jobterm=99&companysize=99&providesalary=99&lonlat=0%2C0&radius=-1&ord_field=0&confirmdate=9&fromType=&dibiaoid=0&address=&line=&specialarea=00&from=&welfare=') r.encoding=r.apparent_encoding result=r.text bs=BeautifulSoup(result,'html.parser') print(bs.prettify()) u1=bs.find_all('u1',attrs={'class':'item_con_list'}) #這部分代碼便是我們爬取的目標(biāo),51job網(wǎng)站上關(guān)于python職業(yè)的薪資 print(len(u1)) li=bs.find_all('span',attrs={'class':'t4'}) for l in li: print(l.text)
上面這段代碼便是爬取51job網(wǎng)站上的與python相關(guān)職業(yè)的薪資
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Python importlib動態(tài)導(dǎo)入模塊實現(xiàn)代碼
這篇文章主要介紹了Python importlib動態(tài)導(dǎo)入模塊實現(xiàn)代碼,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2020-04-04Pandas DataFrame中的tuple元素遍歷的實現(xiàn)
這篇文章主要介紹了Pandas DataFrame中的tuple元素遍歷的實現(xiàn),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-10-10python中resample函數(shù)實現(xiàn)重采樣和降采樣代碼
今天小編就為大家分享一篇python中resample函數(shù)實現(xiàn)重采樣和降采樣代碼,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-02-02正確理解python中的關(guān)鍵字“with”與上下文管理器
這篇文章主要介紹了關(guān)于python中關(guān)鍵字"with"和上下文管理器的相關(guān)資料,文中介紹的非常詳細(xì),相信對大家學(xué)習(xí)或者使用python具有一定的參考價值,需要的朋友們下面來一起看看吧。2017-04-04python輕松辦公將100個Excel中符合條件的數(shù)據(jù)匯總到1個Excel里
這篇文章主要為大家介紹了python輕松辦公將100個Excel中符合條件的數(shù)據(jù)匯總到1個Excel里示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-03-03Python編程深度學(xué)習(xí)計算庫之numpy
今天小編就為大家分享一篇關(guān)于Python編程深度學(xué)習(xí)計算庫之numpy,小編覺得內(nèi)容挺不錯的,現(xiàn)在分享給大家,具有很好的參考價值,需要的朋友一起跟隨小編來看看吧2018-12-12