5月22日消息,荷蘭芯片廠商 Innatera 近日正式發(fā)布了第一款使用基于神經(jīng)形態(tài)架構(gòu)的商用RISC-V微控制器Pulsar ,主要用于AI傳感器應(yīng)用。
據(jù)介紹,Pulsar 是將模擬和數(shù)字神經(jīng)形態(tài)模塊與傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)加速器和 RISC-V 內(nèi)核相結(jié)合。與傳統(tǒng)的 AI 處理器相比,它的延遲降低了 100 倍,能耗降低了 500 倍,芯片尺寸為 2.6 x 2.8 毫米,采用臺積電的標(biāo)準(zhǔn) 28nm 工藝制造。
“Pulsar 不僅僅是一款 AI 芯片——這也是世界上第一個量產(chǎn)的神經(jīng)形態(tài)微控制器,代表了我們將智能帶到邊緣的方式的根本轉(zhuǎn)變,”Innatera 的聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Sumeet Kumar指出:“去年全球出貨了 380 億個傳感器,到 2030 年將增長到 600 億個,所有這些在邊緣處理,都將比我們將其發(fā)送到云端的速度更快地生成數(shù)據(jù),邊緣處理將是大勢所趨。但是,部署在微控制器上的模型受到限制,應(yīng)用程序開發(fā)人員必須在功能、精度和功耗之間進(jìn)行權(quán)衡。”
Sumeet Kumar表:“此次Pulsar的發(fā)布是十多年來在神經(jīng)形態(tài)計算方面的深入研究和工程設(shè)計的結(jié)晶,并結(jié)合了開創(chuàng)性的異構(gòu)架構(gòu)。它標(biāo)志著我們的類腦技術(shù)為大眾市場部署做好準(zhǔn)備的時刻。這實際上是傳感器唯一需要的微控制器?!?/p>
模擬神經(jīng)網(wǎng)絡(luò) (ANN) 內(nèi)核使用時間電壓脈沖來識別模式并提取信息以進(jìn)行時間序列處理,而無需復(fù)雜的模型。Sumeet Kumar說:“ANN 加速器完全使用尖峰進(jìn)行計算,它是一個由神經(jīng)元和突觸組成的大型結(jié)構(gòu),帶有模擬和數(shù)字設(shè)備,延遲為 1ms,功耗低于 1mW。”
“在該結(jié)構(gòu)中,關(guān)鍵是帶有電容器的交叉開關(guān)網(wǎng)絡(luò),這個過程不是線性的,而是指數(shù)級的,這在模擬域中使用單個晶體管就很簡單,”他說?!拔覀儾捎脭?shù)字尖峰神經(jīng)網(wǎng)絡(luò)的原因是為了實現(xiàn)可配置性和靈活性——這是通過門和乘法器實現(xiàn)的。計算是異步和事件驅(qū)動的,計算在數(shù)據(jù)傳入時隨時進(jìn)行。在 CNN 中,你可以一次獲取所有數(shù)據(jù)并進(jìn)行計算。”
“我們看到很多客戶使用現(xiàn)有的 AI 模型,他們可以直接切換,但通常傳統(tǒng)的 CNN 會像圖像一樣查看帶有緩沖功能的所有內(nèi)容,所有這些都需要大量功率,而峰值網(wǎng)絡(luò)可以有效地處理流數(shù)據(jù)。例如,用于手勢識別的 1m 參數(shù) CNN 模型可以用 10,000 個參數(shù)、3kbyte、54 個神經(jīng)元的模型來實現(xiàn),而且功耗非常低。對于大多數(shù)應(yīng)用程序問題,你必須選擇 AI 方法,因此添加 CNN 開發(fā)人員可以為工作添加正確的工具,”他說。
他還指出,無線耳機(jī)每次推理的音頻感應(yīng)分類能量降低了 100 倍,達(dá)到 400 μW,模型縮小了 33 倍,準(zhǔn)確率相同,達(dá)到 90%+。聲音識別每次推理的能耗降低了 88 倍,而準(zhǔn)確性和延遲相同。雷達(dá)手勢識別的能量比 CNN 加速器低 42 倍(600 μW),延遲低 167 倍。
芯片設(shè)計的一個關(guān)鍵部分是具有與傳感器的接口,包括攝像頭和醫(yī)療傳感器。另一個關(guān)鍵要素是名為 Talamo 的軟件設(shè)計工具包 (SDK) 和用于尖峰網(wǎng)絡(luò)的庫。
“Talamo SDK 旨在通過一個擴(kuò)展與 PyTorch 連接,該擴(kuò)展引入了所有脈沖基礎(chǔ)設(shè)施,因此開發(fā)人員處于熟悉的環(huán)境中,并且模型描述與訓(xùn)練數(shù)據(jù)一起以 python 編寫,我們的 SNN 編譯器將模型映射到芯片架構(gòu)上,這從根本上減少了神經(jīng)形態(tài)計算的障礙,從而可以輕松地構(gòu)建脈沖模型并將其部署到框架上?!?/p>
Innatera 正在推出其開發(fā)人員計劃,該計劃現(xiàn)已向早期采用者開放,并于 7 月推出神經(jīng)形態(tài)開發(fā)板。即將推出的開源 PyTorch 前端和市場將為神經(jīng)形態(tài) AI 創(chuàng)建一個更具協(xié)作性的生態(tài)系統(tǒng)。