亚洲乱码中文字幕综合,中国熟女仑乱hd,亚洲精品乱拍国产一区二区三区,一本大道卡一卡二卡三乱码全集资源,又粗又黄又硬又爽的免费视频

淺析Python中Generator的工作原理與應用

 更新時間:2024年12月16日 08:23:38   作者:Piper蛋窩  
這篇文章主要為大家詳細介紹了Python中Generator的工作原理與應用的相關知識,文中的示例代碼講解詳細,感興趣的小伙伴可以跟隨小編?一起學習一下

調(diào)用 OpenAI 的 API 時,設置 stream=True ,接著 for chunk in completion: 我們就可以“流式”地獲取響應的內(nèi)容。而非等待遠程的模型將所有內(nèi)容生成完畢,再返回給我們(這通常要等很久)。

本文討論這背后的 Python Generator 。

從一個經(jīng)典問題開始

假設我們要處理一個超大的日志文件,需要按行讀取并分析。傳統(tǒng)的做法是:

def read_log_file(filename):
    result = []
    with open(filename) as f:
        for line in f:
            if "ERROR" in line:
                result.append(line)
    return result

# 使用方式
errors = read_log_file("huge.log")
for error in errors:
    process_error(error)

這段代碼有什么問題?它會一次性將所有符合條件的行都讀入內(nèi)存。如果日志文件有 10GB,而符合條件的行有 5GB,那么我們的程序就需要 5GB 的內(nèi)存。

Generator 版本

我們用 Generator 改寫一下:

def read_log_file(filename):
    with open(filename) as f:
        for line in f:
            if "ERROR" in line:
                yield line

# 使用方式
for error in read_log_file("huge.log"):
    process_error(error)

看起來很相似,但運行機制完全不同。這個版本無論日志文件多大,內(nèi)存占用都很小。

Generator 的工作原理

Generator 的核心特點是"懶加載"(lazy evaluation)。當我們調(diào)用一個生成器函數(shù)時,它并不會立即執(zhí)行函數(shù)體,而是返回一個生成器對象。只有在實際請求下一個值時,它才會執(zhí)行到下一個 yield 語句。

來看一個更直觀的例子:

def counter():
    print("Starting")
    i = 0
    while True:
        print(f"Generating {i}")
        yield i
        i += 1

# 創(chuàng)建生成器對象
c = counter()  # 此時不會打印任何內(nèi)容
print("Generator created")

# 獲取前三個值
print(next(c))  # 打印 "Starting" 和 "Generating 0",返回 0
print(next(c))  # 打印 "Generating 1",返回 1
print(next(c))  # 打印 "Generating 2",返回 2

在流式 API 中的應用

現(xiàn)在我們理解了為什么流式 API 會使用 Generator。以 OpenAI 的流式響應為例:

def stream_completion(prompt):
    # 模擬 API 調(diào)用
    response = ["生成", "AI", "回復", "需要", "時間"]
    for token in response:
        yield token

# 使用方式
for chunk in stream_completion("你好"):
    print(chunk, end="", flush=True)

這樣的設計有幾個好處:

  • 節(jié)省內(nèi)存:不需要等待全部內(nèi)容生成完畢
  • 實時響應:用戶可以立即看到部分結(jié)果
  • 可中斷:如果用戶不需要更多結(jié)果,可以隨時停止

高級用法:Generator 表達式和的雙向通信 send 的魔法

Generator 還有一些高級特性。比如 Generator 表達式:

# 列表推導式
squares = [x*x for x in range(1000000)]  # 立即生成所有結(jié)果

# Generator 表達式
squares = (x*x for x in range(1000000))  # 按需生成

GGenerator 不只是能產(chǎn)出值,還能接收值!這就是 send 方法的精妙之處。讓我們通過一個計算移動平均值的例子,一步步看看 send 是如何工作的:

def averager():
    total = 0
    count = 0
    average = None
    while True:
        # yield 在這里扮演雙重角色:
        # 1. 向外返回 average 值
        # 2. 接收外部發(fā)送的 value
        value = yield average
        if value is None:
            break
        total += value
        count += 1
        average = total / count

# 讓我們一步步看發(fā)生了什么
avg = averager()          # 創(chuàng)建生成器對象,但函數(shù)體還未開始執(zhí)行
print("第一步:創(chuàng)建生成器")

next(avg)                 # 啟動生成器,運行到第一個 yield,返回 None
print("第二步:生成器已啟動,等待第一個值")

print(avg.send(10))      # 1. send(10) 將 10 傳給 value
                         # 2. 計算 average = 10/1 = 10.0
                         # 3. 到達 yield,返回 10.0
                         # 4. 生成器暫停,等待下一個值

print(avg.send(20))      # 1. value 獲得值 20
                         # 2. 計算 average = 30/2 = 15.0
                         # 3. yield 返回 15.0

print(avg.send(30))      # 1. value 獲得值 30
                         # 2. 計算 average = 60/3 = 20.0
                         # 3. yield 返回 20.0

每次 send 調(diào)用,生成器都會在 value = yield average 這行代碼處經(jīng)歷一個完整的"接收-計算-返回"周期。這種優(yōu)雅的設計讓生成器不僅能產(chǎn)出數(shù)據(jù),還能根據(jù)外部輸入動態(tài)調(diào)整其行為。

類型系統(tǒng)中的 Generator:優(yōu)雅的泛型設計

在 Python 的類型系統(tǒng)中,Generator 的類型定義也別具匠心。它使用了三個泛型參數(shù):

from typing import Generator, Iterator
from typing import TypeVar, Generic

T_co = TypeVar('T_co', covariant=True)      # 生成器產(chǎn)出的類型
T_contra = TypeVar('T_contra', contravariant=True)  # send 方法接收的類型
V_co = TypeVar('V_co', covariant=True)      # return 語句返回的類型

def number_processor() -> Generator[int, str, float]:
    # 這個生成器:
    # - yield 產(chǎn)出 int
    # - 接收 str 類型的輸入
    # - 最終 return float 類型的值
    count = 0
    total = 0.0
    while count < 3:
        text = yield count  # 產(chǎn)出 int,接收 str
        if text:
            total += len(text)
        count += 1
    return total  # 返回 float

# 使用示例
proc = number_processor()
next(proc)  # 啟動生成器,返回 0
print(proc.send("hello"))  # 輸出 1
print(proc.send("world"))  # 輸出 2
try:
    proc.send("!")  # 生成器將結(jié)束,拋出 StopIteration
except StopIteration as e:
    print(f"最終結(jié)果:{e.value}")  # 打印 11.0 (len("hello") + len("world") + len("!"))

這個類型定義展現(xiàn)了 Python 類型系統(tǒng)中一些概念:

  • T_co 是協(xié)變的(covariant),表示生成器產(chǎn)出的類型可以是基類
  • T_contra 是逆變的(contravariant),表示接收的類型可以是子類
  • V_co 也是協(xié)變的,表示返回值類型可以是基類

可以通過具體的例子來解釋協(xié)變和逆變:

from typing import Generator, TypeVar

# 定義一些類來演示
class Animal:
    pass

class Dog(Animal):
    pass

class Chihuahua(Dog):
    pass

# 定義類型變量
T_co = TypeVar('T_co', covariant=True)
T_contra = TypeVar('T_contra', contravariant=True)

def dog_generator() -> Generator[Dog, Animal, None]:
    # 這個生成器:
    # - 產(chǎn)出 Dog (協(xié)變位置)
    # - 接收 Animal (逆變位置)
    dog = yield Dog()  # dog 的類型是 Animal
    
# 協(xié)變(T_co)示例:
# 如果一個函數(shù)返回 Dog,它也可以用在需要返回 Animal 的地方
generator1: Generator[Animal, Animal, None] = dog_generator()  # 沒問題!
# 因為 Dog 是 Animal 的子類,所以可以用 Dog 替代 Animal

# 逆變(T_contra)示例:
# 如果一個函數(shù)接收 Animal,它也可以接收 Dog 或 Chihuahua
generator2 = dog_generator()
generator2.send(Chihuahua())  # 沒問題!
# 因為函數(shù)期望接收 Animal,那接收 Animal 的子類當然也可以

簡單理解:

  • 協(xié)變(covariant):允許使用更具體的類型

    • 如果方法返回 Dog,可以用在需要 Animal 的地方
    • 因為 Dog 一定是 Animal,所以這樣是安全的
  • 逆變(contravariant):允許使用更寬泛的類型

    • 如果方法接收 Animal,可以傳入 Dog 或 Chihuahua
    • 因為方法能處理所有 Animal,當然也能處理具體的 Dog
  • Generator[T_co, T_contra, V_co] 中:

    • T_co:產(chǎn)出值的類型(協(xié)變),因為生成器提供值
    • T_contra:send 方法接收的類型(逆變),因為生成器接收值
    • V_co:return 語句的返回值類型(協(xié)變),因為是提供值

這種設計讓 Generator 類型在靜態(tài)類型檢查時既保持了類型安全,又提供了足夠的靈活性。

實戰(zhàn)應用:構(gòu)建流式處理管道

讓我們把學到的知識組合起來,構(gòu)建一個優(yōu)雅的流式處理管道:

from typing import Generator, Iterator
from itertools import chain

def read_chunks(file_path: str) -> Generator[str, None, None]:
    with open(file_path) as f:
        while chunk := f.read(1024):
            yield chunk

def process_chunk(chunk: str) -> Generator[str, None, None]:
    # 處理單個 chunk 中的行
    # 注意:chunk 可能在行中間截斷,需要處理這種情況
    lines = chunk.split('\n')
    for line in lines:
        if line.strip():
            yield line.upper()

def filter_keywords(lines: Iterator[str]) -> Generator[str, None, None]:
    keywords = {'ERROR', 'WARNING', 'CRITICAL'}
    for line in lines:
        if any(k in line for k in keywords):
            yield line

# 正確的流式處理版本
def process_log_file(file_path: str):
    # 當前行的未完成部分
    partial_line = ''
    
    for chunk in read_chunks(file_path):
        # 處理可能被截斷的行
        if partial_line:
            chunk = partial_line + chunk
            partial_line = ''
            
        # 分割成行,保留最后一個可能不完整的行
        lines = chunk.split('\n')
        if not chunk.endswith('\n'):
            partial_line = lines[-1]
            lines = lines[:-1]
            
        # 處理完整的行
        for line in lines:
            if line.strip():
                # 直接在這里處理,無需存儲所有行
                upper_line = line.upper()
                if any(k in upper_line for k in {'ERROR', 'WARNING', 'CRITICAL'}):
                    print(upper_line)
    
    # 處理最后一個不完整的行(如果有的話)
    if partial_line and partial_line.strip():
        upper_line = partial_line.upper()
        if any(k in upper_line for k in {'ERROR', 'WARNING', 'CRITICAL'}):
            print(upper_line)

# 或者,使用更函數(shù)式的寫法
def process_log_file_functional(file_path: str):
    def handle_chunks() -> Generator[str, None, None]:
        partial_line = ''
        for chunk in read_chunks(file_path):
            if partial_line:
                chunk = partial_line + chunk
                partial_line = ''
            
            lines = chunk.split('\n')
            if not chunk.endswith('\n'):
                partial_line = lines[-1]
                lines = lines[:-1]
            
            yield from (line for line in lines if line.strip())
        
        if partial_line and partial_line.strip():
            yield partial_line

    # 現(xiàn)在我們真正實現(xiàn)了流式處理
    lines = handle_chunks()
    upper_lines = (line.upper() for line in lines)
    filtered_lines = filter_keywords(upper_lines)
    
    for line in filtered_lines:
        print(line)

這個例子展示了 Generator 在實際應用中的優(yōu)雅之處:

  • 每個函數(shù)職責單一,易于測試和維護
  • 數(shù)據(jù)流處理清晰,內(nèi)存占用小
  • 類型提示清晰,代碼更容易理解

下次當你需要處理大量數(shù)據(jù)或?qū)崿F(xiàn)流式處理時,不要忘了考慮使用 Generator。它可能會讓你的代碼更優(yōu)雅,性能更好。

到此這篇關于淺析Python中Generator的工作原理與應用的文章就介紹到這了,更多相關Python Generator內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!

相關文章

  • python+pygame實現(xiàn)簡易五子棋小游戲的三種方式

    python+pygame實現(xiàn)簡易五子棋小游戲的三種方式

    這篇文章主要介紹了使用python實現(xiàn)簡易五子棋小游戲,文中提供了三種實現(xiàn)方式,解決思路和部分實現(xiàn)代碼,感興趣的朋友可以參考下
    2023-03-03
  • python中csv文件數(shù)據(jù)顏色設置方式

    python中csv文件數(shù)據(jù)顏色設置方式

    這篇文章主要介紹了python中csv文件數(shù)據(jù)顏色設置方式,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教
    2024-02-02
  • Python實現(xiàn)的Excel文件讀寫類

    Python實現(xiàn)的Excel文件讀寫類

    這篇文章主要介紹了Python實現(xiàn)的Excel文件讀寫類,涉及Python針對Excel常見的讀寫、打印等操作技巧,具有一定參考借鑒價值,需要的朋友可以參考下
    2015-07-07
  • Pytest框架之fixture詳解(二)

    Pytest框架之fixture詳解(二)

    本文詳細講解了Pytest框架之fixture,文中通過示例代碼介紹的非常詳細。對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2022-06-06
  • python使用socket制作聊天室詳細源碼(可以直接運行)

    python使用socket制作聊天室詳細源碼(可以直接運行)

    Python是一個非常靈活的編程語言,我們現(xiàn)在到處可見用Python編寫的應用程序,下面這篇文章主要給大家介紹了關于python使用socket制作聊天室的相關資料,文中的代碼可以直接運行,需要的朋友可以參考下
    2023-12-12
  • 10個必須要掌握的Python內(nèi)置函數(shù)

    10個必須要掌握的Python內(nèi)置函數(shù)

    Python?解釋器自帶的函數(shù)叫做?內(nèi)置函數(shù),這些函數(shù)不需要import?導入就可以直接使用。本文小編為大家總結(jié)了十個必須要掌握的Python內(nèi)置函數(shù),實用且高效,需要的可以參考一下
    2022-02-02
  • 跟老齊學Python之關于循環(huán)的小伎倆

    跟老齊學Python之關于循環(huán)的小伎倆

    不管是while還是for,所發(fā)起的循環(huán),在python編程中是經(jīng)常被用到的。特別是for,一般認為,它要比while快,而且也容易寫(是否容易,可能因人而異,但是,執(zhí)行時間快,是的確的),因此在實踐中,for用的比較多點。
    2014-10-10
  • python 獲取網(wǎng)頁編碼方式實現(xiàn)代碼

    python 獲取網(wǎng)頁編碼方式實現(xiàn)代碼

    這篇文章主要介紹了python 獲取網(wǎng)頁編碼方式實現(xiàn)代碼的相關資料,需要的朋友可以參考下
    2017-03-03
  • python實現(xiàn)登錄密碼重置簡易操作代碼

    python實現(xiàn)登錄密碼重置簡易操作代碼

    這篇文章主要介紹了python實現(xiàn)登錄密碼重置簡易操作,代碼簡單易懂,非常不錯,具有一定的參考借鑒價值 ,需要的朋友可以參考下
    2019-08-08
  • python腳本實現(xiàn)xls(xlsx)轉(zhuǎn)成csv

    python腳本實現(xiàn)xls(xlsx)轉(zhuǎn)成csv

    這篇文章主要介紹了python腳本實現(xiàn)xls(xlsx)轉(zhuǎn)成csv的相關資料,需要的朋友可以參考下
    2016-04-04

最新評論