IBM發(fā)布全新光電共封裝工藝：AI模型訓(xùn)練速度將提升5倍
時(shí)間：2024-12-12 16:54 來(lái)源：未知 作者：admin 閱讀：次
快科技12月12日消息，據(jù)報(bào)道，IBM在光學(xué)技術(shù)方面獲得新進(jìn)展，有望提升數(shù)據(jù)中心訓(xùn)練和運(yùn)行生成式AI模型的效率。IBM推出了新一代光電共封裝（CPO）工藝。該技術(shù)利用光學(xué)連接，實(shí)現(xiàn)了數(shù)據(jù)中心內(nèi)部的光速數(shù)據(jù)傳輸，完美補(bǔ)充了現(xiàn)有的短距離光纜系統(tǒng)。
研究人員展示了光電共封裝技術(shù)將如何重新定義計(jì)算行業(yè)在芯片、電路板和服務(wù)器之間的高帶寬數(shù)據(jù)傳輸。最大限度地減少GPU停機(jī)時(shí)間，同時(shí)大幅加快AI工作速度。
具體而言，這一新技術(shù)帶來(lái)了三大方面的顯著優(yōu)勢(shì)：
首先，它極大地降低了規(guī)模化應(yīng)用生成式AI的成本。與中距離電氣互連裝置相比，光電共封裝技術(shù)的能耗降低了五倍以上，同時(shí)，數(shù)據(jù)中心互連電纜的長(zhǎng)度也從傳統(tǒng)的1米擴(kuò)展至數(shù)百米，進(jìn)一步提升了數(shù)據(jù)中心的靈活性和擴(kuò)展性。
其次，該技術(shù)顯著提高了AI模型的訓(xùn)練速度。與傳統(tǒng)的電線相比，使用光電共封裝技術(shù)訓(xùn)練大型語(yǔ)言模型的速度幾乎提升了五倍。這意味著，原本需要三個(gè)月才能訓(xùn)練完成的標(biāo)準(zhǔn)大語(yǔ)言模型，現(xiàn)在僅需三周即可完成。對(duì)于更大的模型和更多的GPU，性能的提升將更為顯著。
最后，光電共封裝技術(shù)還顯著提升了數(shù)據(jù)中心的能效。據(jù)估算，每訓(xùn)練一個(gè)AI模型所節(jié)省的電量，竟然相當(dāng)于5000個(gè)美國(guó)家庭一年的耗電量總和。這一數(shù)據(jù)無(wú)疑彰顯了該技術(shù)在節(jié)能減排方面的巨大潛力。
IBM發(fā)布全新光電共封裝工藝：AI模型訓(xùn)練速度將提升5倍
【本文結(jié)束】出處：快科技
(責(zé)任編輯：admin)
上一篇：LEAM的智能附加解決方案讓大規(guī)模3D打印工作變得更智能，而不是更困難
下一篇：NVIDIA、Intel、AMD三巨頭罕見聯(lián)手！共同投了AI芯片獨(dú)角獸Ayar Labs
下一篇：NVIDIA、Intel、AMD三巨頭罕見聯(lián)手！共同投了AI芯片獨(dú)角獸Ayar Labs
Deepseek唱反調(diào)？高關(guān)稅可
硬剛特朗普關(guān)稅，中國(guó)這家
人工智能驅(qū)動(dòng)的3D建模平臺(tái)
蘋果醫(yī)療帝國(guó)啟航：據(jù)稱AI
DeepSeek V3小版本大升級(jí)
中國(guó)AI大模型APP月活TOP10最新內(nèi)容
- ·Deepseek唱反調(diào)？高關(guān)稅可能導(dǎo)致3D打印
- ·硬剛特朗普關(guān)稅，中國(guó)這家公司用AI和3D
- ·人工智能驅(qū)動(dòng)的3D建模平臺(tái) Tripo AI 推
- ·蘋果醫(yī)療帝國(guó)啟航：據(jù)稱AI醫(yī)生+健康教
- ·DeepSeek V3小版本大升級(jí)：推理、前端
- ·中國(guó)AI大模型APP月活TOP10出爐：DeepSe
- ·AI長(zhǎng)眼睛了！谷歌推出Gemini實(shí)時(shí)視頻功
- ·他們正在用AI 瘋狂給互聯(lián)網(wǎng)“下毒”
- ·螞蟻醫(yī)療大模型解決方案正式發(fā)布！醫(yī)院
- ·說(shuō)話就能控制左右快慢！理想汽車MindVL
推薦內(nèi)容
熱點(diǎn)內(nèi)容
- ·國(guó)家知識(shí)產(chǎn)權(quán)局?jǐn)M規(guī)定人工智能系統(tǒng)不能
- ·玉露生寒指的是什么生肖,詞語(yǔ)精選解義
- ·「院士專家面對(duì)面」朱軍：人工智能技術(shù)
- ·人工智能時(shí)代，專家建議每家企業(yè)都要設(shè)
- ·國(guó)家信息中心發(fā)布《人工智能行業(yè)應(yīng)用建
- ·聯(lián)合國(guó)人工智能之友小組正式成立 中方
- ·徐匯區(qū)啟動(dòng)人工智能教育試驗(yàn)區(qū)三年行動(dòng)
- ·教育部部署加強(qiáng)中小學(xué)人工智能教育，機(jī)
- ·特朗普官宣人工智能和加密貨幣事務(wù)負(fù)責(zé)
- ·全國(guó)集成電路標(biāo)準(zhǔn)化技術(shù)委員會(huì)人工智能
