如何使用python批量修改文本文件編碼格式
使用python批量修改文本文件編碼格式
把文本文件的編碼格式進(jìn)行批量幻化,比如ascii, gb2312, utf8等,相互轉(zhuǎn)化,字符集的大小來看,utf8>gb2312>ascii,因此最好把gb2312轉(zhuǎn)為utf8,否則容易出現(xiàn)亂碼。
gb2312和utf-8的主要區(qū)別:
關(guān)于字庫規(guī)模: UTF-8 > gb2312(utf8字全而gb2312只有漢字)
關(guān)于保存大小: UTF-8> gb2312 (utf8更臃腫、加載更慢,gb2312更小巧,加載更快)
關(guān)于適用范圍:gb2312主要在中國大陸地區(qū)使用,是一個(gè)本地化的字符集,UTF-8包含全世界所有國家需要用到的字符,是國際編碼,通用性強(qiáng)。UTF-8編碼的文字可以在各國支持UTF8字符集的瀏覽器上顯示。
import sys import chardet import codecs def get_encoding_type(fileName): '''print the encoding format of a txt file ''' with open(fileName, 'rb') as f: data = f.read() encoding_type = chardet.detect(data) #print(encoding_type) return encoding_type # such as {'encoding': 'GB2312', 'confidence': 0.99, 'language': 'Chinese'} def convert_encoding_type(filename_in, filename_out, encode_in="gb2312", encode_out="utf-8"): '''convert encoding format of txt file ''' #filename_in = 'flash.c' #filename_out = 'flash_gb2312.c' #encode_in = 'utf-8' # 輸入文件的編碼類型 #encode_out = 'gb2312'# 輸出文件的編碼類型 with codecs.open(filename=filename_in, mode='r', encoding=encode_in) as fi: data = fi.read() with open(filename_out, mode='w', encoding=encode_out) as fo: fo.write(data) fo.close() # with open(filename_out, 'rb') as f: # data = f.read() # print(chardet.detect(data)) if __name__=="__main__": # fileName = argv[1] # get_encoding_type(fileName) # convert_encoding_type(fileName, fileName) filename_of_files = sys.argv[1] #the file contain full file path at each line with open(filename_of_files, 'rb') as f: lines = f.readlines() for line in lines: fileName = line[:-1] encoding_type = get_encoding_type(fileName) if encoding_type['encoding']=='GB2312': print(encoding_type) convert_encoding_type(fileName, fileName) print(fileName)
補(bǔ)充:python實(shí)現(xiàn)文件批量轉(zhuǎn)為utf-8格式
python實(shí)現(xiàn)文件批量轉(zhuǎn)為utf-8格式
xml_path = './' with open(xml_path , 'rb+') as f: ?? ?content = f.read() ?? ?codeType = detect(content)['encoding'] ?? ?content = content.decode(codeType, "ignore").encode("utf8") ?? ?fp.seek(0) ?? ?fp.write(content)
到此這篇關(guān)于如何使用python批量修改文本文件編碼格式的文章就介紹到這了,更多相關(guān)python批量修改文本文件編碼格式內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Anaconda+Pycharm+Pytorch虛擬環(huán)境創(chuàng)建(各種包安裝保姆級(jí)教學(xué))
相信很多時(shí)候大家都會(huì)用到虛擬環(huán)境,他具有可以讓你快速切換不同的python版本,本文主要介紹了Anaconda+Pycharm+Pytorch虛擬環(huán)境創(chuàng)建,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2021-10-10Python連接mysql數(shù)據(jù)庫及簡單增刪改查操作示例代碼
這篇文章主要介紹了Python連接mysql數(shù)據(jù)庫及簡單增刪改查操作示例代碼,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-08-08教你用Python實(shí)現(xiàn)一個(gè)輪盤抽獎(jiǎng)小游戲
Python提供了許多個(gè)圖像開發(fā)界面的庫,比如現(xiàn)在主流的Tkinter,wxPython,pyqt5等,三種各有優(yōu)點(diǎn),也各有缺點(diǎn),下面對(duì)其分別進(jìn)行介紹和對(duì)比,并編寫代碼實(shí)現(xiàn)一個(gè)輪盤轉(zhuǎn)盤抽獎(jiǎng)小游戲.需要的朋友可以參考下2021-05-05用Python實(shí)現(xiàn)2024年春晚劉謙魔術(shù)
昨晚春晚上劉謙的兩個(gè)魔術(shù)表演都非常精彩,忍不住用編程去模擬一下這個(gè)過程,所以本文給大家用Python實(shí)現(xiàn)2024年春晚劉謙魔術(shù),文中通過代碼示例給大家介紹的非常詳細(xì),需要的朋友可以參考下2024-02-02Python?操作Excel-openpyxl模塊用法實(shí)例
openpyxl 模塊是一個(gè)讀寫 Excel 2010 文檔的 Python 庫,如果要處理更早格式的 Excel 文 檔,需要用到額外的庫,openpyxl 是一個(gè)比較綜合的工具,能夠同時(shí)讀取和修改 Excel 文檔,這篇文章主要介紹了Python?操作Excel-openpyxl模塊使用,需要的朋友可以參考下2023-05-05Python實(shí)現(xiàn)Event回調(diào)機(jī)制的方法
今天小編就為大家分享一篇Python實(shí)現(xiàn)Event回調(diào)機(jī)制的方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2019-02-02Python實(shí)現(xiàn)圖書管理系統(tǒng)設(shè)計(jì)
這篇文章主要為大家詳細(xì)介紹了Python實(shí)現(xiàn)圖書管理系統(tǒng)設(shè)計(jì),文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2022-03-03