專注于3D DRAM、3D NAND存儲(chǔ)器廠NEO Semiconductor發(fā)表最新3D X-AI芯片技術(shù)，取代目前用于AI GPU加速器的HBM。
據(jù)悉，這款3D DRAM內(nèi)建AI處理功能，使處理和生成不需要數(shù)學(xué)運(yùn)算輸出，當(dāng)大量數(shù)據(jù)在存儲(chǔ)器與處理器間傳輸時(shí)，可減少數(shù)據(jù)匯流排(DataBus)問題，提升AI效能與效率。
3D X-AI芯片的底層有個(gè)神經(jīng)元電路層，可處理同一芯片上300個(gè)存儲(chǔ)器層所儲(chǔ)存的數(shù)據(jù)。NEO Semiconductor表示，由于8,000個(gè)中子電路(neutroncircuits)可在存儲(chǔ)器中進(jìn)行AI處理，該3D存儲(chǔ)器效能可提升100倍，存儲(chǔ)器密度比目前HBM高8倍，透過減少在GPU中處理的數(shù)據(jù)量，可降低99%耗電量。
NEO Semiconductor創(chuàng)辦人兼CEO許富菖指出，由于架構(gòu)和技術(shù)低效率，目前AI芯片浪費(fèi)大量效能和電力。目前AI芯片架構(gòu)是將數(shù)據(jù)儲(chǔ)存在HBM、GPU負(fù)責(zé)執(zhí)行所有運(yùn)算，這種架構(gòu)將數(shù)據(jù)儲(chǔ)存與處理分離，使數(shù)據(jù)匯流排成為無法避免的效能瓶頸，當(dāng)大量傳輸數(shù)據(jù)時(shí)效能有限，耗電量也非常高。
3D X-AI可在每個(gè)HBM芯片中執(zhí)行AI處理，大幅減少HBM與GPU之間傳輸?shù)臄?shù)據(jù)，提升效能并大幅降低功耗。
X-AI容量為128GB，每個(gè)芯片可支援10TB/s的AI處理能力。將12個(gè)裸晶(X-AI)堆疊在單一HBM封裝中，可實(shí)現(xiàn)超過1.5TB儲(chǔ)存容量和120TB/s處理吞吐量。
目前許多公司研究能提高處理速度和通訊吞吐量的技術(shù)，當(dāng)半導(dǎo)體速度越來越快、效率越來越高時(shí)，在元件之間傳輸數(shù)據(jù)的匯流排將成為瓶頸，因此這樣的技術(shù)將可讓所有元件一起加速。
臺(tái)積電、英特爾、鎧俠等公司都在研究光學(xué)技術(shù)，以加快主機(jī)板內(nèi)的通訊速度，透過將部分AI處理從GPU轉(zhuǎn)到HBM，NEO Semiconductor可降低工作量，使效率遠(yuǎn)高于目前耗電的AI加速器。
網(wǎng)站客服
粵公網(wǎng)安備 44030402000946號(hào)