Python探索之爬取電商售賣信息代碼示例
網(wǎng)絡(luò)爬蟲(又被稱為網(wǎng)頁蜘蛛,網(wǎng)絡(luò)機(jī)器人,在FOAF社區(qū)中間,更經(jīng)常的稱為網(wǎng)頁追逐者),是一種按照一定的規(guī)則,自動(dòng)的抓取萬維網(wǎng)信息的程序或者腳本。
下面有一個(gè)示例代碼,分享給大家:
#! /usr/bin/env python # encoding = 'utf-8'# Filename: spider_58center_sth.py from bs4 import BeautifulSoup import time import requests url_58 = 'http://nj.58.com/?PGTID=0d000000-0000-0c5c-ffba-71f8f3f7039e&ClickID=1' '' ' 用于爬取電商售賣信息: 例為58同城電腦售賣信息 '' ' def get_url_list(url): web_data = requests.get(url) soup = BeautifulSoup(web_data.text, 'lxml') url = soup.select('td.t > a[class="t"]') url_list = '' for link in url: link_n = link.get('href') if 'zhuanzhuan' in link_n: pass else : if 'jump' in link_n: pass else : url_list = url_list + '\n' + link_n print('url_list: %s' % url_list) return url_list# 分類獲取目標(biāo)信息 def get_url_info(): url_list = get_url_list(url_58) for url in url_list.split(): time.sleep(1) web_datas = requests.get(url) soup = BeautifulSoup(web_datas.text, 'lxml') type = soup.select('#head > div.breadCrumb.f12 > span:nth-of-type(3) > a') title = soup.select(' div.col_sub.mainTitle > h1') date = soup.select('li.time') price = soup.select('div.person_add_top.no_ident_top > div.per_ad_left > div.col_sub.summary > ul > ' 'li:nth-of-type(1) > div.su_con > span.price.c_f50') fineness = soup.select('div.col_sub.summary > u1 > li:nth-of-type(2) > div.su_con > span') area = soup.select('div.col_sub.summary > u1 > li:nth-of-type(3) > div.su_con > span') for typei, titlei, datei, pricei, finenessi, areai in zip(type, title, date, price, fineness, area): #做字典 data = { 'type': typei.get_text(), 'title': titlei.get_text(), 'date': datei.get_text(), 'price': pricei.get_text(), 'fineness': (finenessi.get_text()).strip(), 'area': list(areai.stripped_strings) } print(data) get_url_info()
爬取商城商品售賣信息
總結(jié)
以上就是本文關(guān)于Python探索之爬取電商售賣信息代碼示例的全部?jī)?nèi)容,希望對(duì)大家有所幫助。感興趣的朋友可以繼續(xù)參閱本站:Python探索之自定義實(shí)現(xiàn)線程池、Python探索之ModelForm代碼詳解等,如有不足之處,歡迎留言指出。感謝朋友們對(duì)本站的支持!
- python爬蟲_微信公眾號(hào)推送信息爬取的實(shí)例
- python爬蟲爬取淘寶商品信息
- python登錄并爬取淘寶信息代碼示例
- Python爬取當(dāng)當(dāng)、京東、亞馬遜圖書信息代碼實(shí)例
- python爬蟲爬取淘寶商品信息(selenum+phontomjs)
- 使用python爬蟲實(shí)現(xiàn)網(wǎng)絡(luò)股票信息爬取的demo
- python3爬取各類天氣信息
- 一個(gè)簡(jiǎn)單的python爬蟲程序 爬取豆瓣熱度Top100以內(nèi)的電影信息
- python爬取亞馬遜書籍信息代碼分享
- python3爬取淘寶信息代碼分析
- Python爬取附近餐館信息代碼示例
- python爬取哈爾濱天氣信息
相關(guān)文章
正確理解python中的關(guān)鍵字“with”與上下文管理器
這篇文章主要介紹了關(guān)于python中關(guān)鍵字"with"和上下文管理器的相關(guān)資料,文中介紹的非常詳細(xì),相信對(duì)大家學(xué)習(xí)或者使用python具有一定的參考價(jià)值,需要的朋友們下面來一起看看吧。2017-04-04Python基于matplotlib畫箱體圖檢驗(yàn)異常值操作示例【附xls數(shù)據(jù)文件下載】
這篇文章主要介紹了Python基于matplotlib畫箱體圖檢驗(yàn)異常值操作,涉及Python針對(duì)xls格式數(shù)據(jù)文件的讀取、matplotlib圖形繪制等相關(guān)操作技巧,并附帶xls數(shù)據(jù)文件供讀者下載參考,需要的朋友可以參考下2019-01-01Flask表單與表單驗(yàn)證實(shí)現(xiàn)流程介紹
這篇文章主要介紹了python中Flask?Web?表單的使用方法介紹,表單的操作是Web程序開發(fā)中最核心的模塊之一,絕大多數(shù)的動(dòng)態(tài)交互功能都是通過表單的形式實(shí)現(xiàn)的。更多介紹需要的小伙伴可以參考下面文章內(nèi)容2022-09-09Python實(shí)現(xiàn)像awk一樣分割字符串
這篇文章主要介紹了Python實(shí)現(xiàn)像awk一樣分割字符串,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-09-09django中使用POST方法獲取POST數(shù)據(jù)
這篇文章主要介紹了django中使用POST方法獲取POST數(shù)據(jù),文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-08-08