AI影像邊緣運算的未來:攝影機

資料來源: 利凌企業股份有限公司

一般用來處理影像的AI系統架構有哪幾種?邊緣運算AI攝影機具備哪些優勢?有哪些常見的應用?為何AI影像邊緣運算的未來是攝影機呢?本文將一一告訴您。

各行各業熱衷於導入AI技術來解決企業自身問題,並且鼓吹邊緣運算的重要性—低延遲及快速反應。對於影像的AI邊緣運算來說,當然就是要做在攝影機上,才能叫做真正的邊緣,也才是AI影像邊緣運算的「現在進行式」以及「未來完成式」。

處理影像的3AI系統架構

一般用來處理影像的AI系統架構有三種,分別為:(1)邊緣運算AI攝影機,(2)近緣多路AI運算主機,(3)機房集中式多路AI運算主機。第一種的邊緣運算AI攝影機,是指IP攝影機SoC晶片內建AI神經網路處理器NPU(Neural Processing Unit),除了可運行IP攝影機本身該有的功能,還能執行AI辨識、可程式化任務,獨立作業觸發報警或連動後續的自動化工作。

傳統AI辨識系統是透過AI運算主機,包含「近緣多路」或「機房集中式多路」AI運算主機,近緣(near-edge)架構是為了快速反應辨識後的結果,所以會安裝在靠近IP攝影機的近端高頻寬環境,比如交通執法用的電信箱內。當然也有捨近求遠,將所有路口IP攝影機透過5G或光纖收攏在集中式多路AI運算主機進行運算及辨識的作法。(參見圖1)

就效率來說,近緣架構仍然是較理想的作法,如果能把既有的攝影機用來擴充邊緣運算AI功能,就更好了。「既有攝影機擴充AI功能」會是需求與趨勢,不過,就像當年也能擴充IP網路功能的類比攝影機一樣,最後仍會被IP攝影機直接取代。

圖1、常見AI影像系統架構圖

邊緣運算AI攝影機的3大優勢

1、低耗能、低維運成本
AI運算主機有啥不好?影像解碼及維運成本太高。傳統的AI辨識系統是這樣運作的:IP攝影機耗費運算資源將影像編碼後,繼續耗費頻寬資源把資料傳給AI運算主機,AI運算主機接手耗費資源產生YUV或JPEG照片給AI硬體運算單元(NPU)進行AI辨識(inference),影像解析度越大,辨識的物種就越多,對於顯示卡上的運算能量要求也更高,耗電量十分驚人。

一台AI運算主機,有500W~700W的耗電是很常見的。試想:當今市售最好的顯示卡可以進行幾路的4K / H.264影像辨識?更遑論壓縮率更高的H.265了。相較於AI主機還要浪費資源解碼後才能辨識,邊緣運算AI攝影機在源頭就提供YUV的照片記憶體位址,讓NPU直接進行辨識,整體系統架構更簡潔,維運的電力成本低,不佔用頻寬,系統建置成本於是更經濟。(參見圖2)

圖2、AI運算主機與AI攝影機的運算架構差異

2、低延遲:最大優點!
AI運算主機還有個致命缺點,就是一系列的運算延遲,包含影像解碼延遲、AI辨識延遲、物種追蹤演算法及行為偵測延遲等。影像解碼的部分,以H.264壓縮格式為例,會有2~3張的解碼成像延遲,導致行為偵測後的警報發報會遞延到200~300毫秒(ms)以後。

辨識的延遲呢?AI主機進行10次辨識,整體延遲會達到639毫秒,而這還沒有加上4K串流在網路傳送時需要的時間。邊緣運算AI攝影機不會有那麼高的整體延遲,以4K / 30張的邊緣運算攝影機為例,1秒可以支援10次辨識,約100毫秒後可以觸發禁區偵測的警報。(參見表1)

表1、AI運算主機與AI攝影機的比較

3、攝影機成為AI載具,用戶可自行訓練AI模型、保障隱私問題
此外,企業在導入AI時,常會碰到需求單位與研發人員在領域知識(Domain know how)上有認知差異,在銷售時容易造成誤會或緊張。就算企業內部已實現完整的認知框架,面對客戶的需求可能又是另一個問題,比如醫療或國防之類的單位,會因隱私議題無法提供資料集來訓練,AI模型就很難準確。

AI的應用是五花八門的,永遠都會有新的物件要辨識。讓攝影機成為AI載具,用戶可以自己進行AI資料集的訓練,就不會有隱私權問題。以利凌提供的Self+AI YOLO轉換雲來說,可以把用戶自訓的AI模型封裝成韌體,並以AES256加密,自己的模型永遠不會外漏。

封裝完的韌體要裝在哪裡?當然就是利凌前端AI攝影機了。利凌提供的整體前端辨識架構,可以透過HTTP / HTTPs與後端通信,藉由開源於Github的Python及C# SDK來串接後端應用,任何工程師只要熟悉Python及C#環境,皆可立即引用及開發。(參見圖3)

圖3、AI攝影機如何與後端系統運作整合

************************************************************************************
Tips:你買的AI攝影機能夠OTA嗎?
AI模型是影響辨識率的重要關鍵,辨識率會因為地域、日夜光影、光線遮擋等因素而有精準度問題。購買AI辨識攝影機時,廠商是否願意持續維護資料集及更新AI模型至關緊要,而且還要能夠OTA(即時線上韌體更新),才能讓AI攝影機愈辨愈精準、愈來愈「聰明」。
************************************************************************************

AI邊緣運算攝影機常見的應用

近年來,邊緣運算AI攝影機已可載入多個AI模型、同時辨識不同物種。比較熱門且迫切的是車牌辨識,多國車牌辨識已可在100公里時速的雙車道進行,停車場閘門自動化更是已經被廣泛套用的場域,因為透過攝影機就能直接連動周邊設備,比如空位指引及收費機等,完全不必再經過PC,乾淨又俐落。(參見圖4)

圖4、AI攝影機可同時支援車廠、車種、多國車牌、行為偵測及車牌顏色偵測。

而在公共場域,辨識遺失物及遺留物也是AI邊緣運算攝影機的看家本領之一。另一個有趣且實用的場域是工地,AI邊緣運算攝影機的辨識結果可以用運算元來做邏輯判斷,比如透過「同時存在多種物件(AND)」的邏輯來做工地門禁,安全帽、防護鏡、安全背心要同時存在才開門;相反的,「缺少任何一樣物種 (NAND)」則是可以觸發警報。(參見圖5)

圖5、AI攝影機工地安全柵門警示或自動化應用。

在智慧產線的應用方面,只要餵給攝影機商品的內容物模型,比如配件包、主機、使用手冊、遙控器等,就能進行產線自動化或缺件警示。AI PTZ球型追蹤攝影機更被應用在船舶追蹤,來釐清船隻碰撞時的肇責,或是違規停車及併排停車的車牌辨識,這些應用都不需再使用耗電量較大的AI辨識主機。

結語

IP攝影機AI化是趨勢,因為在系統建置及維運上較具競爭力,具備環保、低耗能、低延遲、快速反應等優點。以利凌AI新創團隊所研發的Self+AI雲為例,可將Tiny Yolo AI Model轉換成Ambarella CV系列SoC可執行的網路權重,並可包裝成LPKG(LILIN Package)部署於相容的攝影機,一行程式都不必寫。配合利凌攝影機內建的豐富行為模式,要自行開發AI應用,門檻可謂降至極低。此舉也將幫助不少AI新創公司,不必再透過大型主機或冗贅的運算棒來實作無法商轉的PoC(Proof of Concept)。

【本文轉載自a&s全球安防科技網

Related Articles

「智駕電動車聯網」電子報,免費訂閱!

提供國內外熱門智駕電動車聯網新聞、產業脈動、新品介紹等訊息彙整。

 >>立即前往 

- Advertisement -spot_img

供應商產品

最新文章