腳本之家服務(wù)器常用軟件

快捷導(dǎo)航

Paddle Lite深度學(xué)習(xí)框架 v2.14

深度學(xué)習(xí)框架

投訴報錯

源碼大小：4.5MB
源碼語言：簡體中文
源碼類型：國產(chǎn)軟件
源碼授權(quán)：開源軟件
源碼類別：C#源碼
應(yīng)用平臺： C++
更新時間：2024-08-17
網(wǎng)友評分：

360通過騰訊通過金山通過

4.5MB

詳情介紹

Paddle Lite是一個高性能、輕量級、靈活性強(qiáng)且易于擴(kuò)展的深度學(xué)習(xí)推理框架，定位支持包括移動端、嵌入式以及服務(wù)器端在內(nèi)的多硬件平臺。

當(dāng)前Paddle Lite不僅在百度內(nèi)部業(yè)務(wù)中得到全面應(yīng)用，也成功支持了眾多外部用戶和企業(yè)的生產(chǎn)任務(wù)。

主要特性

多硬件支持：

Paddle Lite架構(gòu)已經(jīng)驗(yàn)證和完整支持從 Mobile 到 Server 多種硬件平臺，包括 ARM CPU、Mali GPU、Adreno GPU、華為 NPU，以及 FPGA 等，且正在不斷增加更多新硬件支持。

各個硬件平臺的 Kernel 在代碼層和執(zhí)行層互不干擾，用戶不僅可以自由插拔任何硬件，還支持任意系統(tǒng)可見硬件之間的混合調(diào)度。

輕量級部署：

Paddle Lite在設(shè)計上對圖優(yōu)化模塊和執(zhí)行引擎實(shí)現(xiàn)了良好的解耦拆分，移動端可以直接部署執(zhí)行階段，無任何第三方依賴。

包含完整的80個 op+85個 Kernel 的動態(tài)庫，對于ARMV7只有800K，ARMV8下為1.3M，并可以通過裁剪預(yù)測庫進(jìn)一步減小預(yù)測庫文件大小。

高性能：

極致的 ARM CPU 性能優(yōu)化：針對不同微架構(gòu)特點(diǎn)實(shí)現(xiàn)kernel的定制，最大發(fā)揮計算性能，在主流模型上展現(xiàn)出領(lǐng)先的速度優(yōu)勢。

支持 PaddleSlim模型壓縮工具：支持量化訓(xùn)練、離線量化等多種量化方式，最優(yōu)可在不損失精度的前提下進(jìn)一步提升模型推理性能。性能數(shù)據(jù)請參考 benchmark。

多模型多算子：

Paddle Lite和PaddlePaddle訓(xùn)練框架的OP對齊，提供廣泛的模型支持能力。

目前已嚴(yán)格驗(yàn)證24個模型200個OP的精度和性能，對視覺類模型做到了較為充分的支持，覆蓋分類、檢測和定位，包含了特色的OCR模型的支持，并在不斷豐富中。具體請參考支持OP。

強(qiáng)大的圖分析和優(yōu)化能力：

不同于常規(guī)的移動端預(yù)測引擎基于 Python 腳本工具轉(zhuǎn)化模型， Lite 架構(gòu)上有完整基于 C++ 開發(fā)的 IR 及相應(yīng) Pass 集合，以支持操作熔合，計算剪枝，存儲優(yōu)化，量化計算等多類計算圖優(yōu)化。更多的優(yōu)化策略可以簡單通過新增 Pass 的方式模塊化支持。

PaddleLite 深度學(xué)習(xí) 框架

下載地址

下載錯誤？【投訴報錯】