中國(guó)AI公司選擇多芯片混合訓(xùn)練AI模型以免于算例受限
時(shí)間:2024-07-05
來(lái)源:電子應(yīng)用技術(shù)
導(dǎo)語(yǔ):7月4日消息,據(jù)Digitimes報(bào)道,為解決人工智能(AI)芯片算力問(wèn)題,中國(guó)AI公司正實(shí)施“多芯片混合”的策略來(lái)提高在AI計(jì)算方面的能力的同時(shí),進(jìn)一步避免供應(yīng)鏈安全問(wèn)題。
7月4日消息,據(jù)Digitimes報(bào)道,為解決人工智能(AI)芯片算力問(wèn)題,中國(guó)AI公司正實(shí)施“多芯片混合”的策略來(lái)提高在AI計(jì)算方面的能力的同時(shí),進(jìn)一步避免供應(yīng)鏈安全問(wèn)題。
多芯片混合計(jì)算的方法有諸多優(yōu)勢(shì),包括利用多個(gè)不同型號(hào)的GPU并行訓(xùn)練,來(lái)共同提高大語(yǔ)言模型(LLM)訓(xùn)練速度,因同時(shí)可以處理更多數(shù)據(jù),可更好利用內(nèi)存,中國(guó)廠商可以降低對(duì)于更昂貴的英偉達(dá)(NVIDIA)芯片的依賴,進(jìn)而降低成本。
自2022年10月以來(lái),受美國(guó)持續(xù)升級(jí)的限制政策的影響,中國(guó)獲取國(guó)外高性能AI芯片受到了極大的限制。因此,目前也依然存在著一些灰色渠道,但是供給量還是比較有限的。同樣,雖然中國(guó)本土也有一些AI芯片,但是性能和產(chǎn)能也都比較有限。
傳聞稱,目前中國(guó)公司已經(jīng)開(kāi)始開(kāi)發(fā)“多芯片混合”技術(shù),將不同芯片組成一個(gè)訓(xùn)練集群,包括百度和阿里巴巴都在研究這項(xiàng)解決方案。例如,百度在其 2024
年財(cái)報(bào)電話會(huì)議上宣布,它可以組合來(lái)自不同供應(yīng)商的 GPU 并將其用于 AI 訓(xùn)練。另一家中國(guó)大型科技公司阿里巴巴自 2021
年以來(lái)一直致力于“一云多芯片”解決方案。但也面臨諸多挑戰(zhàn),例如需要像NVIDIA
NVLink這樣的高速構(gòu)架,確保不同的加速器能高效通信。不過(guò),阿里云已經(jīng)開(kāi)始轉(zhuǎn)向使用基于以太網(wǎng)的高性能網(wǎng)絡(luò)。
中傳動(dòng)網(wǎng)版權(quán)與免責(zé)聲明:
凡本網(wǎng)注明[來(lái)源:中國(guó)傳動(dòng)網(wǎng)]的所有文字、圖片、音視和視頻文件,版權(quán)均為中國(guó)傳動(dòng)網(wǎng)(www.connectcrack.com)獨(dú)家所有。如需轉(zhuǎn)載請(qǐng)與0755-82949061聯(lián)系。任何媒體、網(wǎng)站或個(gè)人轉(zhuǎn)載使用時(shí)須注明來(lái)源“中國(guó)傳動(dòng)網(wǎng)”,違反者本網(wǎng)將追究其法律責(zé)任。
本網(wǎng)轉(zhuǎn)載并注明其他來(lái)源的稿件,均來(lái)自互聯(lián)網(wǎng)或業(yè)內(nèi)投稿人士,版權(quán)屬于原版權(quán)人。轉(zhuǎn)載請(qǐng)保留稿件來(lái)源及作者,禁止擅自篡改,違者自負(fù)版權(quán)法律責(zé)任。
如涉及作品內(nèi)容、版權(quán)等問(wèn)題,請(qǐng)?jiān)谧髌钒l(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系,否則視為放棄相關(guān)權(quán)利。
下一篇:
igus的“零潤(rùn)滑”戰(zhàn)略:免潤(rùn)滑工程塑料帶來(lái)工業(yè)領(lǐng)域的清潔革命
鑒于全球每年在潤(rùn)滑方面的支出高達(dá)9900億美元,igus今年發(fā)布247項(xiàng)新品展示免潤(rùn)滑工程塑料的巨大潛力以及人工智能在其中發(fā)揮的重要作用