作者：上海億琪軟件有限公司CEO 褚建琪，Linux基金會(huì)亞太區(qū)開(kāi)源布道者 張晶

01、應(yīng)用場(chǎng)景簡(jiǎn)介

有邊緣智能需求的大部分客戶(hù)已經(jīng)對(duì)AI推理和邊緣計(jì)算有一定的了解，都希望可以將邊緣數(shù)采和AI推理結(jié)合在一起，實(shí)現(xiàn)硬件資源的充分利用，完成更高層次的業(yè)務(wù)結(jié)合。

英特爾??視頻AI計(jì)算盒：已經(jīng)興起一段時(shí)間，各種業(yè)務(wù)場(chǎng)景使用的推理模型不計(jì)其數(shù)，調(diào)優(yōu)和再訓(xùn)練已經(jīng)成了當(dāng)前的熱門(mén)工作內(nèi)容。

邊緣數(shù)采：對(duì)傳統(tǒng)的傳感器進(jìn)行數(shù)據(jù)收集和處理，已經(jīng)在各領(lǐng)域應(yīng)用數(shù)十年。

在當(dāng)前客戶(hù)的業(yè)務(wù)需求下：

活切換推理模型，根據(jù)業(yè)務(wù)需要選擇。

與北向系統(tǒng)對(duì)接，完成云/企業(yè)服務(wù)融合。

如何將邊緣數(shù)采和AI推理充分結(jié)合，已經(jīng)破在眉睫，文本提出一種解決方案YiFUSION：將AI推理集成到成熟的邊緣計(jì)算框架-EdgeX Foundry中，而從快速實(shí)現(xiàn)具備邊緣數(shù)采和AI推理功能的邊緣智能融合網(wǎng)關(guān)。

02、解決方案系統(tǒng)構(gòu)架：

本系統(tǒng)設(shè)計(jì)硬件設(shè)計(jì)采用英特爾? CPU(iGPU)+GPU[可選] ：CPU必須有，獨(dú)立GPU可根據(jù)實(shí)際需要靈活擴(kuò)展，如下圖所示：

本系統(tǒng)全部采用Docker微服務(wù)運(yùn)行，具體功能描述如下：

圖例中，①作為AI推理服務(wù)器，運(yùn)行OpenVINO? Model Server容器；

圖例中，②作為流媒體服務(wù)器，負(fù)責(zé)流媒體的編解碼，實(shí)時(shí)查看視頻流，運(yùn)行億琪軟件產(chǎn)品YiMEDIA，同樣也采用容器運(yùn)行；

圖例中，③作為邊緣計(jì)算，運(yùn)行EdgeX Foundry容器，負(fù)責(zé)整個(gè)系統(tǒng)的協(xié)調(diào)和業(yè)務(wù)驅(qū)動(dòng)；

03、硬件環(huán)境

準(zhǔn)備一臺(tái)可以作為整個(gè)系統(tǒng)運(yùn)行的硬件設(shè)備，筆者使用了開(kāi)頭提到的兩種英特爾開(kāi)發(fā)套件家族里的硬件設(shè)備分別進(jìn)行了測(cè)試。

1. 研揚(yáng)科技哪吒（Nezha）開(kāi)發(fā)套件。作為基礎(chǔ)型驗(yàn)證或少量攝像頭推理；<100 fps(Frame Per Second) 推理性能；

研揚(yáng)科技哪吒（Nezha）開(kāi)發(fā)套件：https://ic-item.jd.com/10093217881071.html#none

2. 深圳市鉑盛科技有限公司生產(chǎn)的算力魔方，型號(hào)：PZ21_2L2S。桌面型小主機(jī)，可帶掛架；作為商業(yè)級(jí)應(yīng)用，<10臺(tái)攝像頭推理；<200 fps(Frame Per Second) 推理性能。

算力魔方：https://www.pasuntech.com.cn/2068.html

04、軟件實(shí)現(xiàn)

采用Ubuntu 22.04作為Docker宿主主機(jī)，并且已經(jīng)成功完成Docker運(yùn)行環(huán)境的安裝和測(cè)試：

基于OpenVINO? Model Server提供AI推理服務(wù)

采用億琪軟件公司自己的流媒體服務(wù)器軟件：YiMEDIA，來(lái)實(shí)現(xiàn)視頻流的編解碼

使用EdgeX Foundry管理攝像頭和邊緣數(shù)據(jù)

億琪云接收到的推理結(jié)果，如下圖所示：

05、YiFUSION功能全景圖

基于EdgeX和OpenVINO?的邊緣融合智能網(wǎng)關(guān)YiFUSION具備邊緣計(jì)算、智能分析、數(shù)據(jù)融合等功能的智能網(wǎng)關(guān)，能夠在邊緣側(cè)實(shí)現(xiàn)數(shù)據(jù)采集、處理、分析、融合和應(yīng)用，為用戶(hù)提供更加智能、高性?xún)r(jià)比的服務(wù)：

06、總結(jié)

上海億琪軟件有限公司作為國(guó)家級(jí)高新技術(shù)企業(yè)，全球領(lǐng)先的工業(yè)物聯(lián)網(wǎng)軟件開(kāi)發(fā)商和解決方案提供商，助力企業(yè)和組織實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型。公司基于EdgeX和OpenVINO? 打造的YiFUSION邊緣融合智能網(wǎng)關(guān)產(chǎn)品，為工業(yè)客戶(hù)提供一整套的邊緣計(jì)算+AI能力：高性能數(shù)據(jù)采集、多類(lèi)型數(shù)據(jù)融合、AI算法集成、云端業(yè)務(wù)對(duì)接。在邊緣網(wǎng)關(guān)的基礎(chǔ)上，集成了IoT平臺(tái)的邊緣協(xié)同能力、本地Web SCADA和HMI功能、本地數(shù)據(jù)存儲(chǔ)、邊緣AI視頻分析、行業(yè)應(yīng)用集成等。

本文詳細(xì)技術(shù)細(xì)節(jié)，請(qǐng)參考：https://www.edgexfoundry.org.cn/blog/2024/02/24/yifusion_edgex_with_openvino/

上海億琪軟件有限公司聯(lián)系方式：

網(wǎng)站：www.yiqisoft.cn

電話(huà)：18616669123

Email：[email protected]