python實(shí)現(xiàn)的讀取網(wǎng)頁(yè)并分詞功能示例
本文實(shí)例講述了python實(shí)現(xiàn)的讀取網(wǎng)頁(yè)并分詞功能。分享給大家供大家參考,具體如下:
這里使用分詞使用最流行的分詞包jieba,參考:https://github.com/fxsjy/jieba
或點(diǎn)擊此處本站下載jieba庫(kù)。
代碼:
import requests from bs4 import BeautifulSoup import jieba # 獲取html url = "http://finance.ifeng.com/a/20180328/16049779_0.shtml" res = requests.get(url) res.encoding = 'utf-8' content = res.text # 添加至bs4 soup = BeautifulSoup(content, 'html.parser') div = soup.find(id = 'main_content') # 寫(xiě)入文件 filename = 'news.txt' with open(filename,'w',encoding='utf-8') as file_object: # <p>標(biāo)簽的處理 for line in div.findChildren(): file_object.write(line.get_text()+'\n') # 使用分詞工具 seg_list = jieba.cut("我來(lái)到北京清華大學(xué)", cut_all=True) print("Full Mode: " + "/ ".join(seg_list)) # 全模式 seg_list = jieba.cut("我來(lái)到北京清華大學(xué)", cut_all=False) print("Default Mode: " + "/ ".join(seg_list)) # 精確模式 seg_list = jieba.cut("他來(lái)到了網(wǎng)易杭研大廈") # 默認(rèn)是精確模式 print(", ".join(seg_list)) with open(filename,'r',encoding='utf-8') as file_object: with open('cut_news.txt','w',encoding='utf-8') as file_cut_object: for line in file_object.readlines(): seg_list = jieba.cut(line,cut_all=False) file_cut_object.write('/'.join(seg_list))
爬取結(jié)果:
分詞結(jié)果:
更多關(guān)于Python相關(guān)內(nèi)容感興趣的讀者可查看本站專題:《Python數(shù)學(xué)運(yùn)算技巧總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python入門(mén)與進(jìn)階經(jīng)典教程》及《Python文件與目錄操作技巧匯總》
希望本文所述對(duì)大家Python程序設(shè)計(jì)有所幫助。
- Python讀取網(wǎng)頁(yè)內(nèi)容的方法
- python打開(kāi)url并按指定塊讀取網(wǎng)頁(yè)內(nèi)容的方法
- Python讀取本地文件并解析網(wǎng)頁(yè)元素的方法
- Python中文分詞工具之結(jié)巴分詞用法實(shí)例總結(jié)【經(jīng)典案例】
- Python 結(jié)巴分詞實(shí)現(xiàn)關(guān)鍵詞抽取分析
- python jieba分詞并統(tǒng)計(jì)詞頻后輸出結(jié)果到Excel和txt文檔方法
- python使用jieba實(shí)現(xiàn)中文分詞去停用詞方法示例
- python中文分詞教程之前向最大正向匹配算法詳解
- Python基于jieba庫(kù)進(jìn)行簡(jiǎn)單分詞及詞云功能實(shí)現(xiàn)方法
- python實(shí)現(xiàn)中文分詞FMM算法實(shí)例
- Python中文分詞實(shí)現(xiàn)方法(安裝pymmseg)
- python中文分詞,使用結(jié)巴分詞對(duì)python進(jìn)行分詞(實(shí)例講解)
相關(guān)文章
基于python實(shí)現(xiàn)簡(jiǎn)單日歷
這篇文章主要為大家詳細(xì)介紹了基于python實(shí)現(xiàn)簡(jiǎn)單日歷,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-07-07Python的Flask框架及Nginx實(shí)現(xiàn)靜態(tài)文件訪問(wèn)限制功能
這篇文章主要介紹了Python的Flask框架及Nginx實(shí)現(xiàn)靜態(tài)文件訪問(wèn)限制功能,Nginx方面利用到了自帶的XSendfile,需要的朋友可以參考下2016-06-06python爬蟲(chóng)爬取筆趣網(wǎng)小說(shuō)網(wǎng)站過(guò)程圖解
這篇文章主要介紹了python爬蟲(chóng)爬取筆趣網(wǎng)小說(shuō)網(wǎng)站過(guò)程圖解,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-11-11python調(diào)用百度語(yǔ)音REST API
這篇文章主要為大家詳細(xì)介紹了python調(diào)用百度語(yǔ)音REST API,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-08-08python 進(jìn)程池的兩種不同實(shí)現(xiàn)方法示例
這篇文章主要為大家介紹了python 進(jìn)程池的兩種不同實(shí)現(xiàn)示例,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-05-05使用python畫(huà)出邏輯斯蒂映射(logistic map)中的分叉圖案例
這篇文章主要介紹了使用python畫(huà)出邏輯斯蒂映射(logistic map)中的分叉圖案例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-12-12