作為亞馬遜首款采用3nm制程的芯片，Trainium3在計(jì)算性能、能效與內(nèi)存帶寬上均實(shí)現(xiàn)顯著提升。
相比上一代，Trainium3計(jì)算性能最高提升4.4倍，能效提升4倍，內(nèi)存帶寬也接近翻兩番?；赥rainium3構(gòu)建的UltraServer系統(tǒng)支持互聯(lián)擴(kuò)展，單系統(tǒng)可容納144枚芯片，并為單個(gè)應(yīng)用提供多達(dá)100萬(wàn)枚Trainium3芯片的算力支持，規(guī)模達(dá)到上一代的10倍。
亞馬遜表示，與采用圖形處理單元(GPU)的系統(tǒng)相比，使用Trainium3訓(xùn)練和運(yùn)行AI模型的成本可降低最多50%。
此外，亞馬遜已著手開發(fā)下一代產(chǎn)品Trainium4。據(jù)披露，Trainium4預(yù)計(jì)將帶來(lái)6倍的FP4計(jì)算性能、3倍的FP8性能，內(nèi)存帶寬和容量分別提升至4倍與2倍，并支持通過(guò)NVLink Fusion和UALink實(shí)現(xiàn)縱向擴(kuò)展。
對(duì)于與行業(yè)龍頭英偉達(dá)的關(guān)系，負(fù)責(zé)Trainium項(xiàng)目的AWS副總裁兼首席架構(gòu)師Ron Diamant明確表示：“我不認(rèn)為我們會(huì)試圖取代英偉達(dá)。
網(wǎng)站客服
粵公網(wǎng)安備 44030402000946號(hào)