利用Python將文本中的中英文分離方法
更新時間:2018年10月31日 11:12:01 作者:微瀾同學
今天小編就為大家分享一篇利用Python將文本中的中英文分離方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
在進行文本分析、提取關鍵詞時,新聞評論等文本通常是中英文及其他語言的混雜,若不加處理直接分析,結果往往差強人意。
下面對中英文文本進行分離做一下總結:
1、超短文本,ASCII識別。
s = "China's Legend Holdings will split its several business arms to go public on stock markets, the group's president Zhu Linan said on Tuesday.該集團總裁朱利安周二表示,中國聯(lián)想控股將分拆其多個業(yè)務部門在股市上市。" result = "".join(i for i in s if ord(i) < 256) print(result)
out: China's Legend Holdings will split its several business arms to go public on stock markets, the group's president Zhu Linan said on Tuesday.
2、unicode編碼識別
import re s = "China's Legend Holdings will split its several business arms to go public on stock markets, the group's president Zhu Linan said on Tuesday.該集團總裁朱利安周二表示,中國聯(lián)想控股將分拆其多個業(yè)務部門在股市上市。" uncn = re.compile(r'[\u0061-\u007a,\u0020]') en = "".join(uncn.findall(s.lower())) print(en)
out: chinas legend holdings will split its several business arms to go public on stock markets, the groups president zhu linan said on tuesday
中文的編碼范圍是:\u4e00-\u9fa5,相應的[^\u4e00-\u9fa5]可匹配非中文。
匹配英文時,需要將空格[\u0020]加入,不然單詞之間沒空格了。
以上這篇利用Python將文本中的中英文分離方法就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關文章
python使用Tkinter顯示網(wǎng)絡圖片的方法
這篇文章主要介紹了python使用Tkinter顯示網(wǎng)絡圖片的方法,涉及Python操作圖片的相關技巧,需要的朋友可以參考下2015-04-04Python實現(xiàn)利用最大公約數(shù)求三個正整數(shù)的最小公倍數(shù)示例
這篇文章主要介紹了Python實現(xiàn)利用最大公約數(shù)求三個正整數(shù)的最小公倍數(shù),涉及Python數(shù)學運算相關操作技巧,需要的朋友可以參考下2017-09-09python將中文數(shù)字轉化成阿拉伯數(shù)字的簡單方法
這篇文章主要給大家介紹了關于python如何將中文數(shù)字轉化成阿拉伯數(shù)字的相關資料,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2021-03-03