在AI時(shí)代，深度學(xué)習(xí)框架和操作系統(tǒng)類似，起著承上啟下的作用，連接芯片與應(yīng)用。擁有強(qiáng)大算力的AI芯片加持，AI技術(shù)將得到更廣泛普及。

 

NPU時(shí)代來(lái)臨軟硬結(jié)合性能優(yōu)化

瑞芯微AI芯片RK1808及RK1806，內(nèi)置獨(dú)立NPU神經(jīng)計(jì)算單元，INT8 算力高達(dá)3．0TOPs；采用22nm FD－SOI工藝，相同性能下的功耗相比主流28nm工藝產(chǎn)品降低約30％，在算力、性能、功耗等指標(biāo)上均有優(yōu)異的表現(xiàn)。經(jīng)實(shí)測(cè)，瑞芯微AI芯片在Paddle Lite中運(yùn)行MobileNet V1耗時(shí)僅為6．5 ms，幀率高達(dá)153．8 FPS，二者充分兼容并高效穩(wěn)定運(yùn)行。

 

 

飛槳產(chǎn)業(yè)級(jí)深度學(xué)習(xí)開(kāi)源平臺(tái)以百度多年的深度學(xué)習(xí)技術(shù)研究和產(chǎn)業(yè)應(yīng)用為基礎(chǔ)，集深度學(xué)習(xí)核心訓(xùn)練和預(yù)測(cè)框架、基礎(chǔ)模型庫(kù)、端到端開(kāi)發(fā)套件、工具組件和服務(wù)平臺(tái)于一體，2016年正式開(kāi)源，是中國(guó)極具影響力的全面開(kāi)源開(kāi)放、技術(shù)領(lǐng)先、功能完備的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái)。Paddle Lite是飛槳推出的一套功能完善、易用性強(qiáng)且性能卓越的輕量化推理引擎，支持多種硬件、多種平臺(tái)，具備輕量化部署、高性能實(shí)現(xiàn)等重要特性。

 

瑞芯微RK18xx系列芯片適配Paddle Lite

 

如下圖所示的實(shí)測(cè)結(jié)果可以看出，與手機(jī)等移動(dòng)端常用的國(guó)內(nèi)外主流CPU相比，RK18系列NPU在MobileNET＿v1的耗時(shí)表現(xiàn)出色，由此證明在AI相關(guān)領(lǐng)域，如圖像分類、目標(biāo)檢測(cè)、語(yǔ)音交互上，專用的AI芯片將帶來(lái)更出色的效果。

 

瑞芯微RK18xx系列芯片在MobileNETV1上對(duì)比主流CPU性能卓越

 

通過(guò)適配飛槳開(kāi)源深度學(xué)習(xí)平臺(tái)，瑞芯微芯片將能更好地賦能國(guó)內(nèi)用戶的業(yè)務(wù)需求，為端側(cè)AI提供強(qiáng)勁算力；二者的融合，將充分發(fā)揮軟硬件結(jié)合的優(yōu)勢(shì)，加快開(kāi)發(fā)部署速度，推動(dòng)更多AI應(yīng)用的落地。

 

國(guó)產(chǎn)芯合作升級(jí)實(shí)操教程詳解

瑞芯微AI芯片在飛槳上的詳細(xì)操作方法可參考Paddle Lite文檔，內(nèi)容涵蓋支持的芯片、設(shè)備列表、Paddle模型與算子及參考示例演示等等。

（搜索路徑：百度搜索“Paddle－Lite 文檔”，左下角選擇版本release－v2．6．0，部署案例板塊“PaddleLite使用RK NPU預(yù)測(cè)部署”）

 

 

 

測(cè)試設(shè)備（RK1808EVB）

 

 

此外，除RK1808及RK1806芯片解決方案外，瑞芯微旗下搭載NPU的AI系列芯片也將陸續(xù)升級(jí)適配百度飛槳，進(jìn)一步深化雙方合作關(guān)系，攜手助力我國(guó)自主可控AI生態(tài)的構(gòu)建。