淺談python和C語(yǔ)言混編的幾種方式(推薦)
Python這些年風(fēng)頭一直很盛,占據(jù)了很多領(lǐng)域的位置,Web、大數(shù)據(jù)、人工智能、運(yùn)維均有它的身影,甚至圖形界面做的也很順,乃至full-stack這個(gè)詞語(yǔ)剛出來(lái)的時(shí)候,似乎就是為了描述它。
Python雖有GIL的問(wèn)題導(dǎo)致多線程無(wú)法充分利用多核,但后來(lái)的multiprocess可以從多進(jìn)程的角度來(lái)利用多核,甚至affinity可以綁定具體的CPU核,這個(gè)問(wèn)題也算得到解決。雖基本為全棧語(yǔ)言,但有的時(shí)候?yàn)榱诵剩赡苓€是會(huì)去考慮和C語(yǔ)言混編。混編是計(jì)算機(jī)里一個(gè)不可回避的話(huà)題,涉及的東西很多,技術(shù)、架構(gòu)、團(tuán)隊(duì)情況、管理、客戶(hù)等各個(gè)環(huán)節(jié)可能對(duì)其都有影響,混編這個(gè)問(wèn)題我想到時(shí)候再開(kāi)一貼專(zhuān)門(mén)討論。本文只講python和C混編的方式,大致有如下幾種方式(本文背景是linux,其他平臺(tái)可以類(lèi)比):
共享庫(kù)
使用C語(yǔ)言編譯產(chǎn)生共享庫(kù),然后python使用ctype庫(kù)里的cdll來(lái)打開(kāi)共享庫(kù)。
舉例如下,C語(yǔ)言代碼為
/* func.c */int func(int a) { return a*a; }
python代碼為
#!/usr/bin/env python #test_so.pyfrom ctypes import cdll import os p = os.getcwd() + '/libfunc.so' f = cdll.LoadLibrary(p) print f.func(99)
測(cè)試如下
$ gcc -fPIC -shared func.c -o libfunc.so $ ./test_so.py 9801
subprocess
C語(yǔ)言設(shè)計(jì)一個(gè)完整的可執(zhí)行文件,然后python通過(guò)subprocess來(lái)執(zhí)行該可執(zhí)行文件,本質(zhì)上是fork+execve。
舉例如下,C語(yǔ)言代碼為
/* test.c */ #include <stdio.h> int func(int a) { return a*a; } int main(int argc, char **argv) { int x; sscanf(argv[1], "%d", &x); printf("%d\n", func(x)); return 0; }
Python代碼為
#!/usr/bin/env python
# test_subprocess.py
import os
import subprocess
subprocess.call([os.getcwd()+'/a.out', '99'])
測(cè)試如下
$ gcc test.c -o a.out
$ ./test_subprocess.py
9801
C語(yǔ)言中運(yùn)行python程序
C語(yǔ)言使用popen/system或者直接以系統(tǒng)調(diào)用級(jí)fork+exec來(lái)運(yùn)行python程序也是一種混編的手段了。
舉例如下,Python代碼如下
#!/usr/bin/env python # test.py import sys x = int(sys.argv[1]) print x*x
C語(yǔ)言代碼如下
/* test.c */ #include <stdio.h> #include <stdlib.h> int main() { FILE *f; char s[1024]; int ret; f = popen("./test.py 99", "r"); while((ret=fread(s,1,1024,f))>0) { fwrite(s,1,ret,stdout); } fclose(f); return 0; }
測(cè)試如下
$ gcc test.c $ ./a.out 9801
python對(duì)C語(yǔ)言擴(kuò)展的支持
很多編程語(yǔ)言都為C語(yǔ)言擴(kuò)展添加了支持,這有兩種原因:(1)語(yǔ)言設(shè)計(jì)之初,可以充分的利用C語(yǔ)言已有的庫(kù)來(lái)做很多擴(kuò)展;(2)C語(yǔ)言的運(yùn)行效率高。
python也不例外,從誕生那天起,很多庫(kù)都是C語(yǔ)言寫(xiě)的。python的C語(yǔ)言擴(kuò)展中涉及到python的數(shù)據(jù)結(jié)構(gòu)與C語(yǔ)言的對(duì)應(yīng),擴(kuò)展方法其實(shí)是用C語(yǔ)言編寫(xiě)一個(gè)共享庫(kù),只是這個(gè)共享庫(kù)中的接口是一個(gè)規(guī)范的,可以被python識(shí)別的。
為了說(shuō)明如何擴(kuò)展,我這里先假設(shè)一個(gè)在python下的函數(shù)功能,代碼如下
def func(*a): res=1 for i in range(len(a)): res *= sum(a[i]) return res
如上,希望的函數(shù)功能是,參數(shù)是任意多個(gè)數(shù)字組成的列表(姑且排除其他數(shù)據(jù)結(jié)構(gòu)),返回每個(gè)列表的元素之和的乘積。
姑且先把python代碼寫(xiě)了,如下所示
#!/usr/bin/env python # test.py import colin def func(*a): res=1 for i in range(len(a)): res *= sum(a[i]) return res a = [1,2,3] b = [4,5,6] c = [7,8] d = [9] e = [10,11,12,13,14] f = colin.func2(99) g = colin.func3(a,b,c,d,e) h = func3(a,b,c,d,e) print "f = ",f print "g = ",g print "h = ",h
帶上之前一直測(cè)試的平方func,這個(gè)實(shí)現(xiàn)相對(duì)簡(jiǎn)單,希望python寫(xiě)出來(lái)的func可以和C語(yǔ)言擴(kuò)展出來(lái)的結(jié)果一致。
先用C語(yǔ)言寫(xiě)上這些函數(shù)的實(shí)現(xiàn),其中func3用上了一個(gè)表示任意多個(gè)任意長(zhǎng)的數(shù)組的數(shù)據(jù)結(jié)構(gòu)y_t,而x_t用來(lái)表示單個(gè)數(shù)組。
/* colin.h */ #ifndef Colin_h #define Colin_h typedef struct { int *a; int len; } x_t; typedef struct { x_t *ax; int len; } y_t; int func2(int a); int func3(y_t *p); void free_y_t(y_t *p); #endif
/* colin.c */ #include "colin.h" #include <stdlib.h> int func2(int a) { return a*a; } int func3(y_t *p) { int result; int sum; int i, j; result = 1; for(i=0;i<p->len;i++) { sum = 0; for(j=0;j<p->ax[i].len;j++) sum += p->ax[i].a[j]; result *= sum; } return result; } void free_y_t(y_t *p) { int i; for(i=0;i<p->len;i++) { free(p->ax[i].a); } free(p->ax); }
上面定義了三個(gè)函數(shù),func2代表平方,func3代表之前所說(shuō)的功能,又因y_t這個(gè)結(jié)構(gòu)可能都是動(dòng)態(tài)分配出來(lái)的,所以給個(gè)歸還內(nèi)存的方法。
剛才說(shuō)過(guò)python擴(kuò)展的話(huà),需要把這個(gè)共享庫(kù)的接口“標(biāo)準(zhǔn)化”一下。于是我們就包裝一下,并給個(gè)python加載的入口。
/* wrap.c */ #include <Python.h> #include <stdlib.h> #include "colin.h" PyObject* wrap_func2(PyObject* self, PyObject* args) { int n, result; /* 從參數(shù)列表中導(dǎo)出一個(gè)整形,用"i" */ if (!PyArg_ParseTuple(args, "i", &n)) return NULL; /* 用C語(yǔ)言的庫(kù)實(shí)現(xiàn)來(lái)計(jì)算 */ result = func2(n); /* 計(jì)算結(jié)果必須要導(dǎo)成python識(shí)別的類(lèi)型 */ return Py_BuildValue("i", result); } PyObject* wrap_func3(PyObject* self, PyObject* args) { int n, result; int i, j; int size, size2; PyObject *p,*q; y_t *y; y = malloc(sizeof(y_t)); /* 先數(shù)數(shù)有多少個(gè)參數(shù),也就是列表的個(gè)數(shù) */ size = PyTuple_Size(args); /* 把數(shù)組的個(gè)數(shù)先分配了 */ y->len = size; y->ax = malloc(sizeof(x_t)*size); /* 遍歷python里各個(gè)列表(參數(shù)) */ for(i=0;i<size;i++) { /* 先獲得第i個(gè)參數(shù),是一個(gè)列表 */ p = PyTuple_GetItem(args, i); /* 獲得列表的長(zhǎng)度 */ size2 = PyList_Size(p); /* 為數(shù)組分配好空間 */ y->ax[i].len = size2; y->ax[i].a = malloc(sizeof(int)*size2); /* 遍歷列表,依次把列表里的數(shù)轉(zhuǎn)到數(shù)組里 */ for(j=0;j<size2;j++) { q = PyList_GetItem(p, j); PyArg_Parse(q,"i",&y->ax[i].a[j]); } } /* 用C語(yǔ)言的庫(kù)實(shí)現(xiàn)來(lái)計(jì)算 */ result = func3(y); free_y_t(y); free(y); /* 結(jié)果轉(zhuǎn)成python識(shí)別格式 */ return Py_BuildValue("i", result); } /* 這是接口列表,加載時(shí)是只加載此列表的地址,所以這個(gè)數(shù)據(jù)結(jié)構(gòu)不能放棧(局部變量)內(nèi),會(huì)被清掉 */ static PyMethodDef colinMethods[] = { {"func2", wrap_func2, METH_VARARGS, "Just a test"}, {"func3", wrap_func3, METH_VARARGS, "Just a test"}, {NULL, NULL, METH_NOARGS, NULL} }; /* python加載的時(shí)候的接口 */ /* 注意,既然庫(kù)名叫colin,此函數(shù)必須交initcolin */ void initcolin() { PyObject *m; m = Py_InitModule("colin", colinMethods); }
過(guò)程中,我猜測(cè)PyArg_VaParse應(yīng)該功能更為強(qiáng)大,可是反復(fù)測(cè)沒(méi)有成功,也沒(méi)細(xì)看文檔。
測(cè)試一下
$ gcc -I /usr/include/python2.7/ -fPIC -shared colin.c wrap.c -o colin.so $ ./test.py f = 9801 g = 729000 h = 729000
可以看到,C語(yǔ)言寫(xiě)的函數(shù)和python寫(xiě)的函數(shù)結(jié)果一致。
以上這篇淺談python和C語(yǔ)言混編的幾種方式(推薦)就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
對(duì)python中的float除法和整除法的實(shí)例詳解
今天小編就為大家分享一篇對(duì)python中的float除法和整除法的實(shí)例詳解,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-07-07python 轉(zhuǎn)換 Javascript %u 字符串為python unicode的代碼
這篇文章主要介紹了python 轉(zhuǎn)換 Javascript %u 字符串為python unicode的代碼,需要的朋友可以參考下2016-09-09python 插入Null值數(shù)據(jù)到Postgresql的操作
這篇文章主要介紹了python 插入Null值數(shù)據(jù)到Postgresql的操作,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2021-03-03Python實(shí)現(xiàn)高效求解素?cái)?shù)代碼實(shí)例
這篇文章主要介紹了Python實(shí)現(xiàn)高效求解素?cái)?shù)代碼實(shí)例,本文直接給出代碼實(shí)例,需要的朋友可以參考下2015-06-06詳解【python】str與json類(lèi)型轉(zhuǎn)換
這篇文章主要介紹了【python】str與json類(lèi)型轉(zhuǎn)換,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-04-04詳解pandas中iloc, loc和ix的區(qū)別和聯(lián)系
這篇文章主要介紹了詳解pandas中iloc, loc和ix的區(qū)別和聯(lián)系,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2020-03-03關(guān)于TensorBoard的使用以及遇到的坑記錄
這篇文章主要介紹了關(guān)于TensorBoard的使用以及遇到的坑記錄,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-09-09Python操作MongoDB的教程詳解(插,查,改,排,刪)
MongoDB是一個(gè)基于分布式文件存儲(chǔ)的數(shù)據(jù)庫(kù)。是一個(gè)介于關(guān)系數(shù)據(jù)庫(kù)和非關(guān)系數(shù)據(jù)庫(kù)之間的產(chǎn)品,是非關(guān)系數(shù)據(jù)庫(kù)當(dāng)中功能最豐富,最像關(guān)系數(shù)據(jù)庫(kù)的。本文將詳細(xì)和大家聊聊Python操作MongoDB的方法,需要的可以參考一下2022-09-09