IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍
时间:2024-12-26 02:30:20 来源:今夕何夕网 作者:焦点 阅读:360次
12月12日消息,发封装据报道,布全IBM在光学技术方面获得新进展,新光训练有望提升数据中心训练和运行生成式AI模型的电共效率。
IBM推出了新一代光电共封装(CPO)工艺。工艺该技术利用光学连接,模型实现了数据中心内部的速度升倍光速数据传输,完美补充了现有的将提短距离光缆系统。
研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、发封装电路板和服务器之间的布全高带宽数据传输。最大限度地减少GPU停机时间,新光训练同时大幅加快AI工作速度。电共
具体而言,工艺这一新技术带来了三大方面的模型显著优势:
首先,它极大地降低了规模化应用生成式AI的速度升倍成本。与中距离电气互连装置相比,光电共封装技术的能耗降低了五倍以上,同时,数据中心互连电缆的长度也从传统的1米扩展至数百米,进一步提升了数据中心的灵活性和扩展性。
其次,该技术显著提高了AI模型的训练速度。与传统的电线相比,使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。
这意味着,原本需要三个月才能训练完成的标准大语言模型,现在仅需三周即可完成。对于更大的模型和更多的GPU,性能的提升将更为显著。
最后,光电共封装技术还显著提升了数据中心的能效。据估算,每训练一个AI模型所节省的电量,竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。
(责任编辑:焦点)
最新内容
热点内容
- ·《怪物猎人:荒野》波衣龙新演示 “爆衣”机制展示
- ·德威的意思是被骗了,nh的体系是幻神和楠楠指挥拿信息的,品言只是个拍板的,这波架该不该打,根本不是品言指挥,他发现了这个问题,问了刘帅,刘帅说nh是这样的,德威说这就很滑稽
- ·(体育)足球——欧冠:拜仁胜本菲卡
- ·顺利完成保级,戴伟浚社媒致谢球迷:目标达成 感谢有你
- ·[流言板]这笑容温暖纯真!快船晒出伦纳德今日的训练照
- ·记者:助理教练费尔德霍夫、于纳尔将出任波鸿临时主帅
- ·继皇马、拜仁后,巴萨成第三支欧冠进球突破700大关的球队
- ·成都蓉城百场达成球员第四人!俱乐部为费利佩举行百场纪念仪式
- ·纯铝打造机械键盘最高售价超15000元!比一台MacBook Pro都贵
- ·《战锤40K:星际战士2》开发商承认与混沌战士作战不够有趣 推出补丁降低难度