快捷導(dǎo)航

Python3實(shí)現(xiàn)爬取簡(jiǎn)書(shū)首頁(yè)文章標(biāo)題和文章鏈接的方法【測(cè)試可用】

更新時(shí)間：2018年12月11日 11:52:37 作者：Sailfish23

這篇文章主要介紹了Python3實(shí)現(xiàn)爬取簡(jiǎn)書(shū)首頁(yè)文章標(biāo)題和文章鏈接的方法,結(jié)合實(shí)例形式分析了Python3基于urllib及bs4庫(kù)針對(duì)簡(jiǎn)書(shū)網(wǎng)進(jìn)行文章抓取相關(guān)操作技巧,需要的朋友可以參考下

本文實(shí)例講述了Python3實(shí)現(xiàn)爬取簡(jiǎn)書(shū)首頁(yè)文章標(biāo)題和文章鏈接的方法。分享給大家供大家參考，具體如下：

from urllib import request
from bs4 import BeautifulSoup #Beautiful Soup是一個(gè)可以從HTML或XML文件中提取結(jié)構(gòu)化數(shù)據(jù)的Python庫(kù)
#構(gòu)造頭文件，模擬瀏覽器訪問(wèn)
url="http://www.jianshu.com"
headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'}
page = request.Request(url,headers=headers)
page_info = request.urlopen(page).read().decode('utf-8')#打開(kāi)Url,獲取HttpResponse返回對(duì)象并讀取其ResposneBody
# 將獲取到的內(nèi)容轉(zhuǎn)換成BeautifulSoup格式，并將html.parser作為解析器
soup = BeautifulSoup(page_info, 'html.parser')
# 以格式化的形式打印html
#print(soup.prettify())
titles = soup.find_all('a', 'title')# 查找所有a標(biāo)簽中class='title'的語(yǔ)句
'''''
# 打印查找到的每一個(gè)a標(biāo)簽的string和文章鏈接
  for title in titles:
    print(title.string)
    print("http://www.jianshu.com" + title.get('href'))
'''
#open()是讀寫(xiě)文件的函數(shù),with語(yǔ)句會(huì)自動(dòng)close()已打開(kāi)文件
with open(r"D:\articles.txt","w") as file:    #在磁盤(pán)以只寫(xiě)的方式打開(kāi)/創(chuàng)建一個(gè)名為 articles 的txt文件
  for title in titles:
    file.write(title.string+'\n')
    file.write("http://www.jianshu.com" + title.get('href')+'\n\n')

本機(jī)測(cè)試運(yùn)行結(jié)果如下：

更多關(guān)于Python相關(guān)內(nèi)容可查看本站專題：《Python Socket編程技巧總結(jié)》、《Python正則表達(dá)式用法總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python入門(mén)與進(jìn)階經(jīng)典教程》及《Python文件與目錄操作技巧匯總》

希望本文所述對(duì)大家Python程序設(shè)計(jì)有所幫助。

您可能感興趣的文章:

相關(guān)文章

Django接收自定義http header過(guò)程詳解
這篇文章主要介紹了Django接收自定義http header過(guò)程詳解,文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
2019-08-08
PyQt5 窗口切換與自定義對(duì)話框的實(shí)例
今天小編就為大家分享一篇PyQt5 窗口切換與自定義對(duì)話框的實(shí)例，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
2019-06-06
python如何在文件中部插入信息
這篇文章主要介紹了python如何在文件中部插入信息問(wèn)題，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教
2022-11-11
一篇文章帶你了解python異常基礎(chǔ)
今天小編就為大家分享一篇關(guān)于Python中的異常介紹，小編覺(jué)得內(nèi)容挺不錯(cuò)的，現(xiàn)在分享給大家，具有很好的參考價(jià)值，需要的朋友一起跟隨小編來(lái)看看吧
2021-08-08
Python Beautiful Soup 使用示例詳解
Beautiful Soup 是一個(gè) Python 庫(kù),用于解析 HTML 和 XML 文檔,并提供簡(jiǎn)單而直觀的 API 來(lái)遍歷文檔樹(shù)、搜索元素、提取內(nèi)容等,這篇文章主要介紹了Python Beautiful Soup 使用示例詳解,需要的朋友可以參考下
2024-05-05
python 基于wx實(shí)現(xiàn)音樂(lè)播放
這篇文章主要介紹了python 基于wx實(shí)現(xiàn)音樂(lè)播放的示例代碼，幫助大家更好的理解和學(xué)習(xí)python，感興趣的朋友可以了解下
2020-11-11
Python基礎(chǔ)學(xué)習(xí)之函數(shù)和代碼復(fù)用詳解
函數(shù)能提高應(yīng)用的模塊性,和代碼的重復(fù)利用率,下面這篇文章主要給大家介紹了關(guān)于Python基礎(chǔ)學(xué)習(xí)之函數(shù)和代碼復(fù)用的相關(guān)資料,文中通過(guò)實(shí)例代碼介紹的非常詳細(xì),需要的朋友可以參考下
2022-08-08
Python import與from import使用和區(qū)別解讀
Python程序可以調(diào)用一組基本的函數(shù)（即內(nèi)建函數(shù)），比如print()、input()和len()等函數(shù)。接下來(lái)通過(guò)本文給大家介紹Python import與from import使用及區(qū)別介紹，感興趣的朋友一起看看吧
2021-09-09
Elasticsearch映射字段數(shù)據(jù)類型及管理
這篇文章主要介紹了Elasticsearch映射字段數(shù)據(jù)類型及管理的講解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪
2022-04-04
python實(shí)現(xiàn)可逆簡(jiǎn)單的加密算法
這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)可逆簡(jiǎn)單的加密算法，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下
2019-03-03