詳解讓Python性能起飛的15個技巧
前言
Python 一直以來被大家所詬病的一點就是執(zhí)行速度慢,但不可否認的是 Python 依然是我們學習和工作中的一大利器。因此,我們對 Python 呢是“又愛又恨”。
本文總結了一些小 tips 有助于提升 Python 執(zhí)行速度、優(yōu)化性能。以下所有技巧都經(jīng)過我的驗證,可放心食用。
先上結論:
- 使用
map()
進行函數(shù)映射 - 使用
set()
求交集 - 使用
sort()
或sorted()
排序 - 使用
collections.Counter()
計數(shù) - 使用列表推導
- 使用
join()
連接字符串 - 使用
x, y = y, x
交換變量 - 使用
while 1
取代while True
- 使用裝飾器緩存
- 減少點運算符(
.
)的使用 - 使用
for
循環(huán)取代while
循環(huán) - 使用
Numba.jit
加速計算 - 使用
Numpy
矢量化數(shù)組 - 使用
in
檢查列表成員 - 使用
itertools
庫迭代
如何測量程序的執(zhí)行時間
關于 Python 如何精確地測量程序的執(zhí)行時間,這個問題看起來簡單其實很復雜,因為程序的執(zhí)行時間受到很多因素的影響,例如操作系統(tǒng)、Python 版本以及相關硬件(CPU 性能、內存讀寫速度)等。在同一臺電腦上運行相同版本的語言時,上述因素就是確定的了,但是程序的睡眠時間依然是變化的,且電腦上正在運行的其他程序也會對實驗有干擾,因此嚴格來說這就是實驗不可重復。
我了解到的關于計時比較有代表性的兩個庫就是time
和timeit
。
其中,time
庫中有time()
、perf_counter()
以及process_time()
三個函數(shù)可用來計時(以秒為單位),加后綴_ns
表示以納秒計時(自 Python3.7 始)。在此之前還有clock()
函數(shù),但是在 Python3.3 之后被移除了。上述三者的區(qū)別如下:
time()
精度上相對沒有那么高,而且受系統(tǒng)的影響,適合表示日期時間或者大程序的計時。perf_counter()
適合小一點的程序測試,會計算sleep()
時間。process_time()
適合小一點的程序測試,不計算sleep()
時間。
與time
庫相比,timeit
有兩個優(yōu)點:
timeit
會根據(jù)您的操作系統(tǒng)和 Python 版本選擇最佳計時器。timeit
在計時期間會暫時禁用垃圾回收。
timeit.timeit(stmt='pass', setup='pass', timer=<default timer>, number=1000000, globals=None)
參數(shù)說明:
stmt='pass'
:需要計時的語句或者函數(shù)。setup='pass'
:執(zhí)行stmt
之前要運行的代碼。通常,它用于導入一些模塊或聲明一些必要的變量。timer=<default timer>
:計時器函數(shù),默認為time.perf_counter()
。number=1000000
:執(zhí)行計時語句的次數(shù),默認為一百萬次。globals=None
:指定執(zhí)行代碼的命名空間。
本文所有的計時均采用timeit
方法,且采用默認的執(zhí)行次數(shù)一百萬次。
為什么要執(zhí)行一百萬次呢?因為我們的測試程序很短,如果不執(zhí)行這么多次的話,根本看不出差距。
1.使用map()進行函數(shù)映射
Exp1:將字符串數(shù)組中的小寫字母轉為大寫字母。
測試數(shù)組為 oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。
方法一
newlist = [] for word in oldlist: newlist.append(word.upper())
方法二
list(map(str.upper, oldlist))
方法一耗時 0.5267724000000005s,方法二耗時 0.41462569999999843s,性能提升 21.29%
2.使用set()求交集
Exp2:求兩個list
的交集。
測試數(shù)組:a = [1,2,3,4,5],b = [2,4,6,8,10]。
方法一
overlaps = [] for x in a: for y in b: if x == y: overlaps.append(x)
方法二
list(set(a) & set(b))
方法一耗時 0.9507264000000006s,方法二耗時 0.6148200999999993s,性能提升 35.33%
關于set()
的語法:|
、&
、-
分別表示求并集、交集、差集。
3.使用sort()或sorted()排序
我們可以通過多種方式對序列進行排序,但其實自己編寫排序算法的方法有些得不償失。因為內置的 sort()
或 sorted()
方法已經(jīng)足夠優(yōu)秀了,且利用參數(shù)key
可以實現(xiàn)不同的功能,非常靈活。二者的區(qū)別是sort()
方法僅被定義在list
中,而sorted()
是全局方法對所有的可迭代序列都有效。
Exp3:分別使用快排和sort()
方法對同一列表排序。
測試數(shù)組:lists = [2,1,4,3,0]。
方法一
def quick_sort(lists,i,j): if i >= j: return list pivot = lists[i] low = i high = j while i < j: while i < j and lists[j] >= pivot: j -= 1 lists[i]=lists[j] while i < j and lists[i] <=pivot: i += 1 lists[j]=lists[i] lists[j] = pivot quick_sort(lists,low,i-1) quick_sort(lists,i+1,high) return lists
方法二
lists.sort()
方法一耗時 2.4796975000000003s,方法二耗時 0.05551999999999424s,性能提升 97.76%
順帶一提,sorted()
方法耗時 0.1339823999987857s。
可以看出,sort()
作為list
專屬的排序方法還是很強的,sorted()
雖然比前者慢一點,但是勝在它“不挑食”,它對所有的可迭代序列都有效。
擴展:如何定義sort()
或sorted()
方法的key
1.通過lambda
定義
#學生:(姓名,成績,年齡) students = [('john', 'A', 15),('jane', 'B', 12),('dave', 'B', 10)] students.sort(key = lambda student: student[0]) #根據(jù)姓名排序 sorted(students, key = lambda student: student[0])
2.通過operator
定義
import operator students = [('john', 'A', 15),('jane', 'B', 12),('dave', 'B', 10)] students.sort(key=operator.itemgetter(0)) sorted(students, key = operator.itemgetter(1, 0)) #先對成績排序,再對姓名排序
operator
的itemgetter()
適用于普通數(shù)組排序,attrgetter()
適用于對象數(shù)組排序
3.通過cmp_to_key()
定義,最為靈活
import functools def cmp(a,b): if a[1] != b[1]: return -1 if a[1] < b[1] else 1 #先按照成績升序排序 elif a[0] != b[0]: return -1 if a[0] < b[0] else 1 #成績相同,按照姓名升序排序 else: return -1 if a[2] > b[2] else 1 #成績姓名都相同,按照年齡降序排序 students = [('john', 'A', 15),('john', 'A', 14),('jane', 'B', 12),('dave', 'B', 10)] sorted(students, key = functools.cmp_to_key(cmp))
4.使用collections.Counter()計數(shù)
Exp4:統(tǒng)計字符串中每個字符出現(xiàn)的次數(shù)。
測試數(shù)組:sentence='life is short, i choose python'。
方法一
counts = {} for char in sentence: counts[char] = counts.get(char, 0) + 1
方法二
from collections import Counter Counter(sentence)
方法一耗時 2.8105250000000055s,方法二耗時 1.6317423000000062s,性能提升 41.94%
5.使用列表推導
列表推導(list comprehension)短小精悍。在小代碼片段中,可能沒有太大的區(qū)別。但是在大型開發(fā)中,它可以節(jié)省一些時間。
Exp5:對列表中的奇數(shù)求平方,偶數(shù)不變。
測試數(shù)組:oldlist = range(10)。
方法一
newlist = [] for x in oldlist: if x % 2 == 1: newlist.append(x**2)
方法二
[x**2 for x in oldlist if x%2 == 1]
方法一耗時 1.5342976000000021s,方法二耗時 1.4181957999999923s,性能提升 7.57%
6.使用 join() 連接字符串
大多數(shù)人都習慣使用+
來連接字符串。但其實,這種方法非常低效。因為,+
操作在每一步中都會創(chuàng)建一個新字符串并復制舊字符串。更好的方法是用 join()
來連接字符串。關于字符串的其他操作,也盡量使用內置函數(shù),如isalpha()
、isdigit()
、startswith()
、endswith()
等。
Exp6:將字符串列表中的元素連接起來。
測試數(shù)組:oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。
方法一
sentence = "" for word in oldlist: sentence += word
方法二
"".join(oldlist)
方法一耗時 0.27489080000000854s,方法二耗時 0.08166570000000206s,性能提升 70.29%
join
還有一個非常舒服的點,就是它可以指定連接的分隔符,舉個例子??
oldlist = ['life', 'is', 'short', 'i', 'choose', 'python'] sentence = "http://".join(oldlist) print(sentence)
life//is//short//i//choose//python
7.使用x, y = y, x交換變量
Exp6:交換x,y的值。
測試數(shù)據(jù):x, y = 100, 200。
方法一
temp = x x = y y = temp
方法二
x, y = y, x
方法一耗時 0.027853900000010867s,方法二耗時 0.02398730000000171s,性能提升 13.88%
8.使用while 1取代while True
在不知道確切的循環(huán)次數(shù)時,常規(guī)方法是使用while True
進行無限循環(huán),在代碼塊中判斷是否滿足循環(huán)終止條件。雖然這樣做沒有任何問題,但while 1
的執(zhí)行速度比while True
更快。因為它是一種數(shù)值轉換,可以更快地生成輸出。
Exp8:分別用while 1
和while True
循環(huán) 100 次。
方法一
i = 0 while True: i += 1 if i > 100: break
方法二
i = 0 while 1: i += 1 if i > 100: break
方法一耗時 3.679268300000004s,方法二耗時 3.607847499999991s,性能提升1.94%
9.使用裝飾器緩存
將文件存儲在高速緩存中有助于快速恢復功能。Python 支持裝飾器緩存,該緩存在內存中維護特定類型的緩存,以實現(xiàn)最佳軟件驅動速度。我們使用lru_cache
裝飾器來為斐波那契函數(shù)提供緩存功能,在使用fibonacci
遞歸函數(shù)時,存在大量的重復計算,例如fibonacci(1)
、fibonacci(2)
就運行了很多次。而在使用了lru_cache
后,所有的重復計算只會執(zhí)行一次,從而大大提高程序的執(zhí)行效率。
Exp9:求斐波那契數(shù)列。
測試數(shù)據(jù):fibonacci(7)。
方法一
def fibonacci(n): if n == 0: return 0 elif n == 1: return 1 return fibonacci(n - 1) + fibonacci(n-2)
方法二
import functools @functools.lru_cache(maxsize=128) def fibonacci(n): if n == 0: return 0 elif n == 1: return 1 return fibonacci(n - 1) + fibonacci(n-2)
方法一耗時 3.955014900000009s,方法二耗時 0.05077979999998661s,性能提升 98.72%
注意事項:
- 緩存是按照參數(shù)作為鍵,也就說在參數(shù)不變時,被
lru_cache
裝飾的函數(shù)只會執(zhí)行一次。 - 所有參數(shù)必須可哈希,例如
list
不能作為被lru_cache
裝飾的函數(shù)的參數(shù)。
import functools @functools.lru_cache(maxsize=100) def demo(a, b): print('我被執(zhí)行了') return a + b if __name__ == '__main__': demo(1, 2) demo(1, 2)
我被執(zhí)行了(執(zhí)行了兩次demo(1, 2)
,卻只輸出一次)
from functools import lru_cache @lru_cache(maxsize=100) def list_sum(nums: list): return sum(nums) if __name__ == '__main__': list_sum([1, 2, 3, 4, 5])
TypeError: unhashable type: 'list'
functools.lru_cache(maxsize=128, typed=False)
的兩個可選參數(shù):
maxsize
代表緩存的內存占用值,超過這個值之后,就的結果就會被釋放,然后將新的計算結果進行緩存,其值應當設為 2 的冪。typed
若為True
,則會把不同的參數(shù)類型得到的結果分開保存。
10.減少點運算符(.)的使用
點運算符(.
)用來訪問對象的屬性或方法,這會引起程序使用__getattribute__()
和__getattr__()
進行字典查找,從而帶來不必要的開銷。尤其注意,在循環(huán)當中,更要減少點運算符的使用,應該將它移到循環(huán)外處理。
這啟發(fā)我們應該盡量使用from ... import ...
這種方式來導包,而不是在需要使用某方法時通過點運算符來獲取。其實不光是點運算符,其他很多不必要的運算我們都盡量移到循環(huán)外處理。
Exp10:將字符串數(shù)組中的小寫字母轉為大寫字母。
測試數(shù)組為 oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。
方法一
newlist = [] for word in oldlist: newlist.append(str.upper(word))
方法二
newlist = [] upper = str.upper for word in oldlist: newlist.append(upper(word))
方法一耗時 0.7235491999999795s,方法二耗時 0.5475435999999831s,性能提升 24.33%
11.使用for循環(huán)取代while循環(huán)
當我們知道具體要循環(huán)多少次時,使用for
循環(huán)比使用while
循環(huán)更好。
Exp12:使用for
和while
分別循環(huán) 100 次。
方法一
i = 0 while i < 100: i += 1
方法二
for _ in range(100): pass
方法一耗時 3.894683299999997s,方法二耗時 1.0198077999999953s,性能提升73.82%
12.使用Numba.jit加速計算
Numba 可以將 Python 函數(shù)編譯碼為機器碼執(zhí)行,大大提高代碼執(zhí)行速度,甚至可以接近 C 或 FORTRAN 的速度。它能和 Numpy 配合使用,在 for 循環(huán)中或存在大量計算時能顯著地提高執(zhí)行效率。
Exp12:求從 1 加到 100 的和。
方法一
def my_sum(n): x = 0 for i in range(1, n+1): x += i return x
方法二
from numba import jit @jit(nopython=True) def numba_sum(n): x = 0 for i in range(1, n+1): x += i return x
方法一耗時 3.7199997000000167s,方法二耗時 0.23769430000001535s,性能提升 93.61%
13.使用Numpy矢量化數(shù)組
矢量化是 NumPy 中的一種強大功能,可以將操作表達為在整個數(shù)組上而不是在各個元素上發(fā)生。這種用數(shù)組表達式替換顯式循環(huán)的做法通常稱為矢量化。
在 Python 中循環(huán)數(shù)組或任何數(shù)據(jù)結構時,會涉及很多開銷。NumPy 中的向量化操作將內部循環(huán)委托給高度優(yōu)化的 C 和 Fortran 函數(shù),從而使 Python 代碼更加快速。
Exp13:兩個長度相同的序列逐元素相乘。
測試數(shù)組:a = [1,2,3,4,5], b = [2,4,6,8,10]
方法一
[a[i]*b[i] for i in range(len(a))]
方法二
import numpy as np a = np.array([1,2,3,4,5]) b = np.array([2,4,6,8,10]) a*b
方法一耗時 0.6706845000000214s,方法二耗時 0.3070132000000001s,性能提升 54.22%
14.使用in檢查列表成員
若要檢查列表中是否包含某成員,通常使用in
關鍵字更快。
Exp14:檢查列表中是否包含某成員。
測試數(shù)組:lists = ['life', 'is', 'short', 'i', 'choose', 'python']
方法一
def check_member(target, lists): for member in lists: if member == target: return True return False
方法二
if target in lists: pass
方法一耗時 0.16038449999999216s,方法二耗時 0.04139250000000061s,性能提升 74.19%
15.使用itertools庫迭代
itertools
是用來操作迭代器的一個模塊,其函數(shù)主要可以分為三類:無限迭代器、有限迭代器、組合迭代器。
Exp15:返回列表的全排列。
測試數(shù)組:["Alice", "Bob", "Carol"]
方法一
def permutations(lst): if len(lst) == 1 or len(lst) == 0: return [lst] result = [] for i in lst: temp_lst = lst[:] temp_lst.remove(i) temp = permutations(temp_lst) for j in temp: j.insert(0, i) result.append(j) return result
方法二
import itertools itertools.permutations(["Alice", "Bob", "Carol"])
方法一耗時 3.867292899999484s,方法二耗時 0.3875405000007959s,性能提升 89.98%
擴展:itertools
庫詳解:點擊此鏈接
結語
根據(jù)上面的測試數(shù)據(jù),我繪制了下面這張實驗結果圖,可以更加直觀的看出不同方法帶來的性能差異。
從圖中可以看出,大部分的技巧所帶來的性能增幅還是比較可觀的,但也有少部分技巧的增幅較小(例如編號5、7、8,其中,第 8 條的兩種方法幾乎沒有差異)。
總結下來,我覺得其實就是下面這兩條原則:
1.盡量使用內置庫函數(shù)
內置庫函數(shù)由專業(yè)的開發(fā)人員編寫并經(jīng)過了多次測試,很多庫函數(shù)的底層是用C
語言開發(fā)的。因此,這些函數(shù)總體來說是非常高效的(比如sort()
、join()
等),自己編寫的方法很難超越它們,還不如省省功夫,不要重復造輪子了,何況你造的輪子可能更差。所以,如果函數(shù)庫中已經(jīng)存在該函數(shù),就直接拿來用。
2.盡量使用優(yōu)秀的第三方庫
有很多優(yōu)秀的第三方庫,它們的底層可能是用 C 和 Fortran 來實現(xiàn)的,像這樣的庫用起來絕對不會吃虧,比如前文提到的 Numpy 和 Numba,它們帶來的提升都是非常驚人的。類似這樣的庫還有很多,比如Cython、PyPy等,這里我只是拋磚引玉。
其實加快 Python 代碼執(zhí)行速度的方法還有很多,比如避免使用全局變量、使用最新版本、使用合適的數(shù)據(jù)結構、利用if條件的惰性等等,我這里就不一一例舉了。這些方法都需要我們親身去實踐才會有深刻的感受和理解,但最根本的方法就是保持我們對編程的熱情和對最佳實踐的追求,這才是我們能不斷突破自我、勇攀高峰的不竭動力源泉!
以上就是詳解讓Python性能起飛的15個技巧的詳細內容,更多關于Python性能提升技巧的資料請關注腳本之家其它相關文章!
相關文章
利用matplotlib實現(xiàn)根據(jù)實時數(shù)據(jù)動態(tài)更新圖形
今天小編就為大家分享一篇利用matplotlib實現(xiàn)根據(jù)實時數(shù)據(jù)動態(tài)更新圖形,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-12-12Python 通過微信控制實現(xiàn)app定位發(fā)送到個人服務器再轉發(fā)微信服務器接收位置信息
這篇文章主要介紹了Python 通過微信控制實現(xiàn)app定位發(fā)送到個人服務器,再轉發(fā)微信服務器接收位置信息,本文給出了實例代碼,代碼簡單易懂,非常不錯具有一定的參考借鑒價值,需要的朋友可以參考下2019-08-08python實現(xiàn)Pyecharts實現(xiàn)動態(tài)地圖(Map、Geo)
這篇文章主要為大家詳細介紹了python實現(xiàn)Pyecharts實現(xiàn)動態(tài)地圖,文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下2020-03-03Python實現(xiàn)求取表格文件某個區(qū)域內單元格的最大值
這篇文章主要介紹基于Python語言,基于Excel表格文件內某一列的數(shù)據(jù),計算這一列數(shù)據(jù)在每一個指定數(shù)量的行的范圍內(例如每一個4行的范圍內)的區(qū)間最大值的方法,需要的朋友可以參考下2023-08-08