Python 多線程不加鎖分塊讀取文件的方法
多線程讀取或?qū)懭?,一般?huì)涉及到同步的問題,否則產(chǎn)生的結(jié)果是無法預(yù)期的。那么在讀取一個(gè)文件的時(shí)候,我們可以通過加鎖,但讀不像寫操作,會(huì)導(dǎo)致文件錯(cuò)誤,另外鎖操作是有一定的耗時(shí)。因此通過文件分塊,可以比較有效的解決多線程讀問題,之前看到有人寫的分塊操作,比較復(fù)雜,需要實(shí)現(xiàn)建立好線程以及所讀取塊信息,在這里,我提供了一種比較簡便的方法,以供參考。
#!/user/bin/env python #_*_coding:utf-8_*_ from threading import Thread import time from processing import Process, Queue from multiprocessing import Process file_path = 't' fd = open(file_path, 'r') def deal(thread_num): i = 1 line_list = [] #20是我的文件行數(shù),正式情況下可以通過wc -l t獲取 while i <= 20/thread_num: line_list.append(fd.readline()) i += 1 return line_list def todo(thread_name, line_list): # print 'thread_name:',thread_name,'start' for line in line_list: print str(thread_name) + ' counsume:' + line # print 'thread_name:', thread_name, 'end' if __name__ == '__main__': thread_num = 10 thread_list = [] for i in range(thread_num): line_list = deal(thread_num) t = Thread(target=todo, args=[i, line_list]) t.start() thread_list.append(t) for t in thread_list: t.join()
下面是文件格式:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
運(yùn)行的結(jié)果如下:
以上這篇Python 多線程不加鎖分塊讀取文件的方法就是小編分享給大家的全部內(nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
- 對(duì)python多線程中互斥鎖Threading.Lock的簡單應(yīng)用詳解
- Python實(shí)現(xiàn)的多線程同步與互斥鎖功能示例
- Python多線程編程(四):使用Lock互斥鎖
- Python多線程編程(五):死鎖的形成
- Python多線程編程(六):可重入鎖RLock
- 詳解python多線程、鎖、event事件機(jī)制的簡單使用
- 對(duì)python多線程中Lock()與RLock()鎖詳解
- Python多線程編程之多線程加鎖操作示例
- python多線程高級(jí)鎖condition簡單用法示例
- Python的互斥鎖與信號(hào)量詳解
- Python3.X 線程中信號(hào)量的使用方法示例
- Python多線程操作之互斥鎖、遞歸鎖、信號(hào)量、事件實(shí)例詳解
相關(guān)文章
termux中matplotlib無法顯示中文問題的解決方法
這篇文章主要介紹了termux中matplotlib無法顯示中文問題的解決方法,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-01-01tensor和numpy的互相轉(zhuǎn)換的實(shí)現(xiàn)示例
這篇文章主要介紹了tensor和numpy的互相轉(zhuǎn)換的實(shí)現(xiàn)示例,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-08-08深入理解Python虛擬機(jī)中的Code?obejct
在本篇文章當(dāng)中主要給大家深入介紹在?cpython?當(dāng)中非常重要的一個(gè)數(shù)據(jù)結(jié)構(gòu)?code?object!?我們簡單介紹了一下在?code?object?當(dāng)中有哪些字段以及這些字段的簡單含義,在本篇文章當(dāng)中將會(huì)舉一些例子以便更加深入理解這些字段2023-04-04Django實(shí)現(xiàn)將一個(gè)字典傳到前端顯示出來
這篇文章主要介紹了Django實(shí)現(xiàn)將一個(gè)字典傳到前端顯示出來,具有很好的參考價(jià)值,希望2020-04-04