邊緣計算正在走上行業(yè)舞臺,雖然還處于發(fā)展的初期階段,但其前景受到越來越多的重視,各大芯片和系統(tǒng)廠商都在磨刀霍霍,期待占領市場先機。
這樣的背景下,由英特爾和華為等幾家大企業(yè)牽頭,于2016年成立了邊緣計算產業(yè)聯盟ECC,在成立初期,ECC總共有62家成員單位,2017年,有40多家新成員加入,總數超過100,而到2018年底,成員單位已經超過200家。
在11月底于北京舉行的2018年邊緣計算產業(yè)峰會上,ECC發(fā)布了邊緣計算參考架構3.0。
邊緣計算產業(yè)聯盟理事長,沈陽自動化研究所所長于海斌先生表示,隨著各界對邊緣計算認識的深入,以及聯盟對邊緣計算的理解,我們推出了邊緣計算的參考架構3.0,對邊緣計算的技術體系進行更加系統(tǒng)的歸納總結和梳理。為了推動邊緣計算行業(yè)的應用,聯盟又繼續(xù)發(fā)出八大測試床,至此已基本完成覆蓋智能制造、智能交通、智慧水務、智慧照明、TSN+OPCUA以及邊緣云平臺等典型領域和技術的測試床部署與發(fā)布。
芯片廠商助力邊緣計算前行
作為ECC的主要發(fā)起者,英特爾一直在芯片層面關注并推動著邊緣計算的發(fā)展。目前來看,有著巨大市場增長空間和應用場景的物聯網將是邊緣計算的主陣地,而其中具體的應用場景還在開發(fā)和探索之中。
據英特爾物聯網事業(yè)部中國區(qū)首席技術官張宇先生介紹,英特爾所提供的物聯網產品是全棧式的物聯網解決方案,里面涵蓋了計算、存儲、通信所需要的芯片。
在計算領域,該公司能夠提供從低壓、低功耗的凌動處理器,到靈活的酷睿處理器,再到高性能的至強處理器,通過一系列的產品組合來滿足不同的物聯網行業(yè),以及不同網源對計算的要求。除了通用類型的處理器以外,人工智能的計算正在興起,因此,英特爾也提供FPGA和一些專門用于視頻加速的專用芯片。
通信領域,在去年3GPP所頒布的窄帶物聯網,也就是NB-IoT的標準里,英特爾也是中國的參與方,預計在明年,搭載英特爾基帶5G的產品就會正式出貨。
在存儲方面,利用3DXpoint技術,可以使閃存的存儲密度提升10倍,存儲的速度較前一代閃存提高100倍。
在用于邊緣計算的人工智能產品方面,英特爾提供了相應的人工智能加速解決方案,并且是可擴展的。利用這些人工智能芯片,可以構建從智能攝像機到智能網絡視頻存儲器NVR,以及智能視頻服務器,來滿足不同產品形態(tài)對計算的要求。
今年,英特爾發(fā)布了最新的MovidiusMyriadX視覺加速芯片,這款芯片功耗只有2瓦,但是它能夠提供1TOPS的算力。對用于邊緣計算的芯片而言,它的性能功耗比的要求是要高于對數據中心里芯片性能功耗比的要求。以智能攝像頭為例,智能攝像頭的整機功耗大概是10~15瓦,能夠分給智能芯片的功耗大概只有2瓦,所以MyriadX芯片能夠滿足功耗的要求,同時它又能夠提供1T的算力,足以支撐一路高清視頻的計算需求,利用MyriadX芯片可以搭載智能攝像頭產品。
對于其他網源,比如NVR和視頻服務器,對計算往往有更高的要求,能夠承載的功耗也更多。對于這一類形態(tài)的產品,英特爾也提供了人工智能加速器方案,是一個PCIe插卡,可以集成多款MyriadX芯片。以MyriadX芯片為例,插卡能集成8~16個芯片,提供8T~16T的算力,而整機的功耗大概只有20~30W,開發(fā)者可以根據自己對計算性能以及功耗的要求選取不同的配置。
當然,要把一個好的設計轉變成產品,光靠硬件是不夠的,必須要有一個好的開發(fā)工具提供支撐。今年,英特爾發(fā)布了被稱之為OpenVINO的、用于機器視覺和深度學習推理的工具套件。
張宇表示,在視頻處理領域,基于深度學習和傳統(tǒng)計算機視覺方法,兩者都有自己的應用場景。因為深度學習以卷積視頻網為基礎,這種技術比較適合做物體的識別和檢測,對于一些傳統(tǒng)的計算機視覺方式而言,如利用直方圖均衡的算法去做圖像增強的時候,仍然能夠得到非常好的效果。所以,在OpenVINO里面,我們對這兩類方法有很好的支撐。對于深度學習,我們提供了一個深度學習的部署套件,這個套件可以幫助開發(fā)者把自己在開放網絡上所設計和訓練好的一個網絡模型快速部署到目標平臺上來執(zhí)行推理的操作。目前我們能夠支持像TensorFlow、Caffe、MXnet等開放網絡架構,利用我們的部署套件來進行優(yōu)化,在我們的部署套件里有兩個模塊,一個是模型優(yōu)化器,一個是推理引擎。模型優(yōu)化器在保證精度的前提下,對開發(fā)者所設計的網絡模型進行優(yōu)化,把它轉變成中間表示文件,這個中間表示文件可以被推理引擎讀取,推理引擎再利用相應的硬件插件來把中間表示文件下載到目標平臺上運行。現在,我們的插件已經能夠支持CPU插件、FPG插件,以及GPU插件和MyriadX的VPO的插件??梢愿鶕脩舨煌挠布x擇,選用不同的插件。
在計算機視覺領域,英特爾預編譯了OpenCV3.3,OpenCV是在計算機視覺領域應用非常廣泛的函數庫,這個函數庫跟英特爾的淵源很深,最早是由該公司的工程師開發(fā)的,后來變成開源的項目,由俄羅斯的一家公司維護。幾年前英特爾收購了這家公司,現在它是英特爾物聯網事業(yè)部的一部分。據悉,該公司有很多OpenCV專家,他們繼續(xù)在英特爾的硬件平臺上對OpenCV進行優(yōu)化,而這些優(yōu)化的結果就集成在OpenVINO工具里。因此,選用OpenVINO的話,既能對深度學習進行加速,也能對傳統(tǒng)計算機視覺加速。
在與客戶的合作方面,張宇表示,除了做硬件和軟件產品的開發(fā)以外,我們還積極跟合作伙伴一起去構建邊緣計算的解決方案,如跟阿里云合作,在重慶跟當地的金屬加工廠一起利用OpenVINO和人工智能加速器,做了一個對金屬件缺陷檢測的方案。利用這樣的檢測方案,可以把漏檢率和誤檢率降低80%,同時檢測效率大大提升。在整個解決方案里,我們通過機械臂去抓取被檢測的工件,把它移動到檢測的攝像頭面前,轉到不同的角度,在每一個角度拍攝相應的圖片,這個圖片會在邊緣的網關設備上進行基于人工智能的處理,通過這樣的處理,我們能夠發(fā)現產品里的一些缺陷。
在推動邊緣計算發(fā)展以及產業(yè)合作方面,英特爾持較為開放的態(tài)度,英特爾副總裁兼物聯網事業(yè)部中國區(qū)總經理陳偉先生表示,我們的芯片可以用在終端、邊緣,也可以用在云,但這并不等于說整個端到端的所有芯片都由英特爾一家提供。比如我們在做的VPU,在攝像機上能夠加上視頻分析加速器,這是英特爾的產品,但攝像機還會用到很多家公司的芯片。過去,計算發(fā)生在云端,大家容易理解,因為數據在哪兒,計算就在哪。而邊緣計算的爆發(fā),簡化了英特爾物聯網產品事業(yè)部的戰(zhàn)略,我們曾經花了一些時間去探索要做什么樣的芯片,今天我們的戰(zhàn)略特別明確,要做芯片就專注于兩方面,計算視覺及整合,因為計算視覺對計算要求特別高,還要不斷整合。所以從這個定義來看,一定會吸取不同芯片架構所產生的數據。
除了英特爾,華為也在大力推動邊緣計算的發(fā)展,不僅在系統(tǒng)層面,其在芯片上也在發(fā)力。
華為網絡研發(fā)總裁、邊緣計算產業(yè)聯盟副理事長劉少偉表示,我們的邊緣計算業(yè)務涉及到多個層面,如工業(yè)、制造業(yè)和一些行業(yè)應用上的邊緣計算平臺,這個平臺是基于硬件、芯片搭建的,還有一塊是軟件,邊緣計算的操作系統(tǒng),如基于Linux的。
前一段時間,華為在其全聯接大會上發(fā)布了幾款AI芯片,可以對外銷售,在邊緣可以直接用AI的部件來做一些事情,再有就是之前一直做的MEC。
應用場景如何落地
邊緣計算還處于發(fā)展的初期,關于其應用場景如何落地這一問題,陳偉表示,這要看數據本身的負載。有一些視頻技術應用比較多的行業(yè),像視頻監(jiān)控、零售業(yè)人臉識別、智能制造、智慧城市等應用場景,當有大量數據需要存儲和分析的時候,這些行業(yè)往往會先落地。視覺上的運用是跨行業(yè)的,盡管表面看起來是不同的行業(yè),但從技術層面來看,都是視覺應用。人工智能作為一個解決數據爆發(fā)的工具,它越靠近數據就越能夠建模、訓練,從而使人工智能推理盡早得到完善,加速整個行業(yè)的落地。
陳偉表示,要普遍落地的話,從邊緣計算的角度來講需要做兩件事情,一個是行業(yè)的標準,因為邊緣計算的應用場景非常的碎片化;第二,任何一個生態(tài)的搭建都需要時間,邊緣計算所涉及的應用場景是完全不一樣的。應用到不同場景的人臉識別,要使其在不同垂直行業(yè)進行優(yōu)化,需要建設好生態(tài),而這個生態(tài)是相當龐大的,所以,生態(tài)的搭建、成熟是需要時間的。
ECC與IEEE達成戰(zhàn)略合作
IEEE是一個國際性的電子技術與信息科學工程師協(xié)會,是目前全球最大的非營利性的專業(yè)技術學會,在160多個國家已經擁有超過42萬名會員,專注于推進電氣技術、電子電力工程、機器人和自動化、計算機工程、計算機科學和其他相關技術的理論和實踐。
在2018年邊緣計算產業(yè)峰會上,ECC與IEEE舉行了正式的簽約儀式,開啟戰(zhàn)略合作之旅。