專注于3D DRAM、3D NAND存儲器廠NEO Semiconductor發(fā)表最新3D X-AI芯片技術，取代目前用于AI GPU加速器的HBM。
據悉，這款3D DRAM內建AI處理功能，使處理和生成不需要數學運算輸出，當大量數據在存儲器與處理器間傳輸時，可減少數據匯流排(DataBus)問題，提升AI效能與效率。
3D X-AI芯片的底層有個神經元電路層，可處理同一芯片上300個存儲器層所儲存的數據。NEO Semiconductor表示，由于8,000個中子電路(neutroncircuits)可在存儲器中進行AI處理，該3D存儲器效能可提升100倍，存儲器密度比目前HBM高8倍，透過減少在GPU中處理的數據量，可降低99%耗電量。
NEO Semiconductor創(chuàng)辦人兼CEO許富菖指出，由于架構和技術低效率，目前AI芯片浪費大量效能和電力。目前AI芯片架構是將數據儲存在HBM、GPU負責執(zhí)行所有運算，這種架構將數據儲存與處理分離，使數據匯流排成為無法避免的效能瓶頸，當大量傳輸數據時效能有限，耗電量也非常高。
3D X-AI可在每個HBM芯片中執(zhí)行AI處理，大幅減少HBM與GPU之間傳輸的數據，提升效能并大幅降低功耗。
X-AI容量為128GB，每個芯片可支援10TB/s的AI處理能力。將12個裸晶(X-AI)堆疊在單一HBM封裝中，可實現超過1.5TB儲存容量和120TB/s處理吞吐量。
目前許多公司研究能提高處理速度和通訊吞吐量的技術，當半導體速度越來越快、效率越來越高時，在元件之間傳輸數據的匯流排將成為瓶頸，因此這樣的技術將可讓所有元件一起加速。
臺積電、英特爾、鎧俠等公司都在研究光學技術，以加快主機板內的通訊速度，透過將部分AI處理從GPU轉到HBM，NEO Semiconductor可降低工作量，使效率遠高于目前耗電的AI加速器。
網站客服
粵公網安備 44030402000946號