Python如何實現(xiàn)遠程方法調(diào)用
問題
你想在一個消息傳輸層如 sockets 、multiprocessing connections 或 ZeroMQ 的基礎之上實現(xiàn)一個簡單的遠程過程調(diào)用(RPC)。
解決方案
將函數(shù)請求、參數(shù)和返回值使用pickle編碼后,在不同的解釋器直接傳送pickle字節(jié)字符串,可以很容易的實現(xiàn)RPC。 下面是一個簡單的PRC處理器,可以被整合到一個服務器中去:
# rpcserver.py import pickle class RPCHandler: def __init__(self): self._functions = { } def register_function(self, func): self._functions[func.__name__] = func def handle_connection(self, connection): try: while True: # Receive a message func_name, args, kwargs = pickle.loads(connection.recv()) # Run the RPC and send a response try: r = self._functions[func_name](*args,**kwargs) connection.send(pickle.dumps(r)) except Exception as e: connection.send(pickle.dumps(e)) except EOFError: pass
要使用這個處理器,你需要將它加入到一個消息服務器中。你有很多種選擇, 但是使用 multiprocessing 庫是最簡單的。下面是一個RPC服務器例子:
from multiprocessing.connection import Listener from threading import Thread def rpc_server(handler, address, authkey): sock = Listener(address, authkey=authkey) while True: client = sock.accept() t = Thread(target=handler.handle_connection, args=(client,)) t.daemon = True t.start() # Some remote functions def add(x, y): return x + y def sub(x, y): return x - y # Register with a handler handler = RPCHandler() handler.register_function(add) handler.register_function(sub) # Run the server rpc_server(handler, ('localhost', 17000), authkey=b'peekaboo')
為了從一個遠程客戶端訪問服務器,你需要創(chuàng)建一個對應的用來傳送請求的RPC代理類。例如
import pickle class RPCProxy: def __init__(self, connection): self._connection = connection def __getattr__(self, name): def do_rpc(*args, **kwargs): self._connection.send(pickle.dumps((name, args, kwargs))) result = pickle.loads(self._connection.recv()) if isinstance(result, Exception): raise result return result return do_rpc
要使用這個代理類,你需要將其包裝到一個服務器的連接上面,例如:
>>> from multiprocessing.connection import Client >>> c = Client(('localhost', 17000), authkey=b'peekaboo') >>> proxy = RPCProxy(c) >>> proxy.add(2, 3) 5 >>> proxy.sub(2, 3) -1 >>> proxy.sub([1, 2], 4) Traceback (most recent call last): File "<stdin>", line 1, in <module> File "rpcserver.py", line 37, in do_rpc raise result TypeError: unsupported operand type(s) for -: 'list' and 'int' >>>
要注意的是很多消息層(比如 multiprocessing )已經(jīng)使用pickle序列化了數(shù)據(jù)。 如果是這樣的話,對 pickle.dumps() 和 pickle.loads() 的調(diào)用要去掉。
討論
RPCHandler 和 RPCProxy 的基本思路是很比較簡單的。 如果一個客戶端想要調(diào)用一個遠程函數(shù),比如 foo(1, 2, z=3) ,代理類創(chuàng)建一個包含了函數(shù)名和參數(shù)的元組 ('foo', (1, 2), {'z': 3}) 。 這個元組被pickle序列化后通過網(wǎng)絡連接發(fā)生出去。 這一步在 RPCProxy 的 __getattr__() 方法返回的 do_rpc() 閉包中完成。 服務器接收后通過pickle反序列化消息,查找函數(shù)名看看是否已經(jīng)注冊過,然后執(zhí)行相應的函數(shù)。 執(zhí)行結果(或異常)被pickle序列化后返回發(fā)送給客戶端。我們的實例需要依賴 multiprocessing 進行通信。 不過,這種方式可以適用于其他任何消息系統(tǒng)。例如,如果你想在ZeroMQ之上實習RPC, 僅僅只需要將連接對象換成合適的ZeroMQ的socket對象即可。
由于底層需要依賴pickle,那么安全問題就需要考慮了 (因為一個聰明的黑客可以創(chuàng)建特定的消息,能夠讓任意函數(shù)通過pickle反序列化后被執(zhí)行)。 因此你永遠不要允許來自不信任或未認證的客戶端的RPC。特別是你絕對不要允許來自Internet的任意機器的訪問, 這種只能在內(nèi)部被使用,位于防火墻后面并且不要對外暴露。
作為pickle的替代,你也許可以考慮使用JSON、XML或一些其他的編碼格式來序列化消息。 例如,本機實例可以很容易的改寫成JSON編碼方案。還需要將 pickle.loads() 和 pickle.dumps() 替換成 json.loads() 和 json.dumps() 即可:
# jsonrpcserver.py import json class RPCHandler: def __init__(self): self._functions = { } def register_function(self, func): self._functions[func.__name__] = func def handle_connection(self, connection): try: while True: # Receive a message func_name, args, kwargs = json.loads(connection.recv()) # Run the RPC and send a response try: r = self._functions[func_name](*args,**kwargs) connection.send(json.dumps(r)) except Exception as e: connection.send(json.dumps(str(e))) except EOFError: pass # jsonrpcclient.py import json class RPCProxy: def __init__(self, connection): self._connection = connection def __getattr__(self, name): def do_rpc(*args, **kwargs): self._connection.send(json.dumps((name, args, kwargs))) result = json.loads(self._connection.recv()) return result return do_rpc
實現(xiàn)RPC的一個比較復雜的問題是如何去處理異常。至少,當方法產(chǎn)生異常時服務器不應該奔潰。 因此,返回給客戶端的異常所代表的含義就要好好設計了。 如果你使用pickle,異常對象實例在客戶端能被反序列化并拋出。如果你使用其他的協(xié)議,那得想想另外的方法了。 不過至少,你應該在響應中返回異常字符串。我們在JSON的例子中就是使用的這種方式。
以上就是Python如何實現(xiàn)遠程方法調(diào)用的詳細內(nèi)容,更多關于Python遠程方法調(diào)用的資料請關注腳本之家其它相關文章!
相關文章
Python按行讀取文件的實現(xiàn)方法【小文件和大文件讀取】
這篇文章主要介紹了Python按行讀取文件的實現(xiàn)方法,結合實例形式分析了針對小文件和大文件的讀取方法,需要的朋友可以參考下2016-09-09Python數(shù)據(jù)結構之二叉排序樹的定義、查找、插入、構造、刪除
這篇文章主要給大家介紹了關于Python數(shù)據(jù)結構之二叉排序樹應用的相關資料,二叉排序樹又稱為二叉查找樹,它或者是一顆空樹,或者是具有下列性質(zhì)的二叉樹,需要的朋友可以參考下2021-06-06