python代碼加速運(yùn)行的四種方法詳解
1.python執(zhí)行原理
python執(zhí)行過(guò)程:python腳本語(yǔ)言(.py)或者cython語(yǔ)言(.pyx)–解釋器解釋–>字節(jié)碼(.pyc)–虛擬機(jī)執(zhí)行–>機(jī)器碼(看不到,可以在cpu上跑起來(lái))。
由于沒(méi)有原生的編譯時(shí)類型檢查,所有的類型的檢查都被移交給了運(yùn)行時(shí),執(zhí)行一行Python代碼很可能需要做不只一行的類型檢查、邊界檢查,因此python比起C++等會(huì)慢很多。
python的解釋器可以多種,常見(jiàn)的是cpython(最常用)、Ipython(基于cpython的交互式解釋器)、pypy(動(dòng)圖編譯python代碼,運(yùn)行速度快,與cpython有少數(shù)不同)、Jython、IronPython。
2.Cypthon(推薦,速度與numba接近)
Cython是一門語(yǔ)言,文件名以.pyx結(jié)尾。其是python的超集,即兼容python,Cython與python類似于C++與C的關(guān)系。同時(shí)Cython也是一個(gè)編譯器的名稱,其可將Cython語(yǔ)言寫(xiě)的pyx文件(包含.py文件)直接編譯成動(dòng)態(tài)庫(kù),從而獲得近乎于寫(xiě)CXX語(yǔ)言的性能。
官網(wǎng)推薦使用setuptools (setup.py)的方法來(lái)編譯.pyx/.py代碼。如以下文件樹(shù),
├── os
│ └── ros_os.py
│ └── setup.py
目標(biāo)是將os文件夾下的ros_os.py編譯成.so動(dòng)態(tài)庫(kù),因此在ros_os.py同級(jí)目錄下新建一個(gè)setup.py文件。setup.py的內(nèi)容如下:
from setuptools import setup from Cython.Build import cythonizesetup( name='ros_os', ext_modules=cythonize("ros_os.py"), zip_safe=False, )
然后運(yùn)行指令python setup.py build_ext --inplace,則會(huì)在同級(jí)目錄下生成ros_os.so動(dòng)態(tài)庫(kù)文件。在其他python文件中,就可以通過(guò)import導(dǎo)入該.so文件,實(shí)現(xiàn)加速。
注意,若os文件夾下有__init__.py文件,則會(huì)出錯(cuò)。解決方法是需要將setup.py移動(dòng)到與ros_os.py最近的無(wú)__init__.py文件的文件夾下,如以下文件樹(shù)所示:
├── pkg
│ ├── init.py
│ ├── os
│ │ ├── init.py
│ │ └── ros_os.py
└── setup.py
os文件夾下有__init__.py文件,顯式地表示os是一個(gè)python的包,同樣地,pkg下也存在__init__.py文件,因此需要將setup.py放在與pkg同級(jí)的目錄下,該目錄是最靠近ros_os.py的最近的且無(wú)__init__.py文件的目錄。同時(shí),修改setup.py中對(duì)ros_os.py的路徑,如下:
from setuptools import setup from Cython.Build import cythonize setup( name='ros_os', ext_modules=cythonize("pkg/os/ros_os.py"), zip_safe=False, )
在setup.py的同級(jí)目錄下運(yùn)行編譯指令:python setup.py build_ext --inplace,則可以正確編譯獲得ros_os.so動(dòng)態(tài)文件。
優(yōu)點(diǎn):加速python,并達(dá)到python加密的效果(推薦的加密手段)
缺點(diǎn):需要手動(dòng)編譯;少數(shù)python內(nèi)置屬性不支持,例如__file__;
3.numba(傳言可加速40倍左右)
numba是一個(gè)可以加速python大部分模塊的庫(kù),其原理是將其修飾的函數(shù)在第一次運(yùn)行時(shí)先優(yōu)化并翻譯成機(jī)器碼,而在重復(fù)運(yùn)行時(shí),則直接調(diào)用該機(jī)器碼,因此達(dá)到可以媲美C和C++的速度。使用方法如下:
from numba import jit # 從numba中導(dǎo)入函數(shù)jit import random @jit(nopython=True) # jit,numba裝飾器中的一種 def monte_carlo_pi(nsamples): acc = 0 for i in range(nsamples): x = random.random() y = random.random() if (x ** 2 + y ** 2) < 1.0: acc += 1 return 4.0 * acc / nsamples
在原始代碼中加入第1行和第4行,則可以加速monte_carlo_pi模塊(自動(dòng)將其優(yōu)化并編譯成機(jī)器碼)。即,要加速哪個(gè)函數(shù),就在函數(shù)定義前面加上裝飾器@jit(nopython=True)。
優(yōu)點(diǎn):對(duì)numpy和循環(huán)語(yǔ)法的加速明顯;使用方便;
缺點(diǎn):少量庫(kù)無(wú)法加速,如pandas庫(kù);僅能安裝到無(wú)法用于python2及以下版本;安裝比較困難,需要裝llvm編譯器;
4.其他加速方法
使用整型代替浮點(diǎn)型
5.各自加速方法的對(duì)比
代碼片段對(duì)大小為128x128的二維數(shù)組求和,運(yùn)行1000次時(shí)間如下:
Total cost time for func: py_func, call 1000 times: 3.803216s.
Total cost time for func: np_func, call 1000 times: 0.343562s.
Total cost time for func: nb_func, call 1000 times: 0.017122s.
Total cost time for func: cy_func, call 1000 times: 0.018159s.
它們分別代表了原始Python、Numpy、Numba、Cython對(duì)應(yīng)的性能??梢钥闯?,cython與numba可有效加速python代碼。其中,numba以稍微快于cython,但是numba不兼容python2,且調(diào)試?yán)щy,因此,推薦使用cython。
6.方法補(bǔ)充
下面小編為大家整理了一些其他Python可以加速運(yùn)行的技巧,希望對(duì)大家有所幫助
1.全面加速(pypy)
將python換為pypy,在純python代碼下,pypy的兼容性就不影響使用了,因?yàn)橐恍┘僷ython的代碼常常會(huì)用pypy進(jìn)行一下加速
測(cè)試代碼,for循環(huán)10000000次
start = time.time() for i in range(10000000): print(i,end="\r") end = time.time() print(f"耗費(fèi)時(shí)間{end-start}秒>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>")
2.if判斷靠前
如:
if tag in ["nts", "nto", "ntc", "ntcb", "ntcf", "ntch", "nth", "ntu", "nt"]: BMES(f_,i2, tag="ORG") elif tag in ["nb", "nba", "nbc", "nbp", "nf", "nm", "nmc", "nhm", "nh"]: BMES(f_,i2, tag="OBJ") elif tag in ["nnd", "nnt", "nn"]: BMES(f_,i2, tag="JOB") elif tag in ["nr", "nrf"]: BMES(f_,i2, tag="PER") elif tag in ["t"]: BMES(f_,i2, tag="TIME") elif tag in ["ns", "nsf"]: BMES(f_,i2, tag="LOC") else: for i3 in list(i2): f_.write(i3 + " " + f"O" + "\n")
滿足條件的可以先跳出判斷
到此這篇關(guān)于python代碼加速運(yùn)行的四種方法詳解的文章就介紹到這了,更多相關(guān)python加速運(yùn)行內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
使用Python 統(tǒng)計(jì)高頻字?jǐn)?shù)的方法
今天小編就為大家分享一篇使用Python 統(tǒng)計(jì)高頻字?jǐn)?shù)的方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-01-01python光學(xué)仿真相速度和群速度計(jì)算理解學(xué)習(xí)
從物理學(xué)的機(jī)制出發(fā),波動(dòng)模型相對(duì)于光線模型,顯然更加接近光的本質(zhì);但是從物理學(xué)的發(fā)展來(lái)說(shuō),波動(dòng)光學(xué)旨在解決幾何光學(xué)無(wú)法解決的問(wèn)題,可謂光線模型的一種升級(jí)2021-10-10python3實(shí)現(xiàn)raspberry pi(樹(shù)莓派)4驅(qū)小車控制程序
這篇文章主要為大家詳細(xì)介紹了python3實(shí)現(xiàn)raspberry pi(樹(shù)莓派)4驅(qū)小車控制程序,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2020-02-02解決pycharm安裝后代碼區(qū)不能編輯的問(wèn)題
今天小編就為大家分享一篇解決pycharm安裝后代碼區(qū)不能編輯的問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-10-10使用beaker讓Facebook的Bottle框架支持session功能
這篇文章主要介紹了使用beaker讓Facebook的Bottle框架支持session功能,session在Python的Django等框架中內(nèi)置但在Bottle中并沒(méi)有被集成,需要的朋友可以參考下2015-04-04(手寫(xiě))PCA原理及其Python實(shí)現(xiàn)圖文詳解
這篇文章主要介紹了Python來(lái)PCA算法,小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧,希望能給你帶來(lái)幫助2021-08-08