python實(shí)現(xiàn)textrank關(guān)鍵詞提取
用python寫(xiě)了一個(gè)簡(jiǎn)單版本的textrank,實(shí)現(xiàn)提取關(guān)鍵詞的功能。
import numpy as np import jieba import jieba.posseg as pseg class TextRank(object): def __init__(self, sentence, window, alpha, iternum): self.sentence = sentence self.window = window self.alpha = alpha self.edge_dict = {} #記錄節(jié)點(diǎn)的邊連接字典 self.iternum = iternum#迭代次數(shù) #對(duì)句子進(jìn)行分詞 def cutSentence(self): jieba.load_userdict('user_dict.txt') tag_filter = ['a','d','n','v'] seg_result = pseg.cut(self.sentence) self.word_list = [s.word for s in seg_result if s.flag in tag_filter] print(self.word_list) #根據(jù)窗口,構(gòu)建每個(gè)節(jié)點(diǎn)的相鄰節(jié)點(diǎn),返回邊的集合 def createNodes(self): tmp_list = [] word_list_len = len(self.word_list) for index, word in enumerate(self.word_list): if word not in self.edge_dict.keys(): tmp_list.append(word) tmp_set = set() left = index - self.window + 1#窗口左邊界 right = index + self.window#窗口右邊界 if left < 0: left = 0 if right >= word_list_len: right = word_list_len for i in range(left, right): if i == index: continue tmp_set.add(self.word_list[i]) self.edge_dict[word] = tmp_set #根據(jù)邊的相連關(guān)系,構(gòu)建矩陣 def createMatrix(self): self.matrix = np.zeros([len(set(self.word_list)), len(set(self.word_list))]) self.word_index = {}#記錄詞的index self.index_dict = {}#記錄節(jié)點(diǎn)index對(duì)應(yīng)的詞 for i, v in enumerate(set(self.word_list)): self.word_index[v] = i self.index_dict[i] = v for key in self.edge_dict.keys(): for w in self.edge_dict[key]: self.matrix[self.word_index[key]][self.word_index[w]] = 1 self.matrix[self.word_index[w]][self.word_index[key]] = 1 #歸一化 for j in range(self.matrix.shape[1]): sum = 0 for i in range(self.matrix.shape[0]): sum += self.matrix[i][j] for i in range(self.matrix.shape[0]): self.matrix[i][j] /= sum #根據(jù)textrank公式計(jì)算權(quán)重 def calPR(self): self.PR = np.ones([len(set(self.word_list)), 1]) for i in range(self.iternum): self.PR = (1 - self.alpha) + self.alpha * np.dot(self.matrix, self.PR) #輸出詞和相應(yīng)的權(quán)重 def printResult(self): word_pr = {} for i in range(len(self.PR)): word_pr[self.index_dict[i]] = self.PR[i][0] res = sorted(word_pr.items(), key = lambda x : x[1], reverse=True) print(res) if __name__ == '__main__': s = '程序員(英文Programmer)是從事程序開(kāi)發(fā)、維護(hù)的專(zhuān)業(yè)人員。一般將程序員分為程序設(shè)計(jì)人員和程序編碼人員,但兩者的界限并不非常清楚,特別是在中國(guó)。軟件從業(yè)人員分為初級(jí)程序員、高級(jí)程序員、系統(tǒng)分析員和項(xiàng)目經(jīng)理四大類(lèi)。' tr = TextRank(s, 3, 0.85, 700) tr.cutSentence() tr.createNodes() tr.createMatrix() tr.calPR() tr.printResult()
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
- Python超簡(jiǎn)單分析評(píng)論提取關(guān)鍵詞制作精美詞云流程
- Python實(shí)現(xiàn)提取Excel指定關(guān)鍵詞的行數(shù)據(jù)
- python 利用百度API進(jìn)行淘寶評(píng)論關(guān)鍵詞提取
- python TF-IDF算法實(shí)現(xiàn)文本關(guān)鍵詞提取
- python多進(jìn)程提取處理大量文本的關(guān)鍵詞方法
- python實(shí)現(xiàn)關(guān)鍵詞提取的示例講解
- python提取內(nèi)容關(guān)鍵詞的方法
- Python使用TextRank算法提取關(guān)鍵詞
相關(guān)文章
Flask框架之?dāng)?shù)據(jù)交互的實(shí)現(xiàn)
本文主要介紹了Flask框架之?dāng)?shù)據(jù)交互的實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2022-06-06BatchNorm2d原理、作用及pytorch中BatchNorm2d函數(shù)的參數(shù)使用
這篇文章主要介紹了BatchNorm2d原理、作用及pytorch中BatchNorm2d函數(shù)的參數(shù)使用方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2022-12-12win10下python2和python3共存問(wèn)題解決方法
在本篇文章里小編給大家整理了關(guān)于win10下python2和python3共存問(wèn)題解決方法,有興趣的朋友們參考下。2019-12-12Python使用matplotlib實(shí)現(xiàn)繪制自定義圖形功能示例
這篇文章主要介紹了Python使用matplotlib實(shí)現(xiàn)繪制自定義圖形功能,結(jié)合實(shí)例形式分析了Python基于matplotlib模塊實(shí)現(xiàn)自定義圖形繪制相關(guān)操作技巧,需要的朋友可以參考下2018-01-01Python用imghdr模塊識(shí)別圖片格式實(shí)例解析
這篇文章主要介紹了Python用imghdr模塊識(shí)別圖片格式實(shí)例解析,具有一定借鑒價(jià)值,需要的朋友可以參考下2018-01-01python 處理數(shù)字,把大于上限的數(shù)字置零實(shí)現(xiàn)方法
今天小編就為大家分享一篇python 處理數(shù)字,把大于上限的數(shù)字置零實(shí)現(xiàn)方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-01-01Django后端接收嵌套Json數(shù)據(jù)及解析詳解
這篇文章主要介紹了Django后端接收嵌套Json數(shù)據(jù)及解析詳解,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-07-07