IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍
12月12日消息,发封装据报道,布全IBM在光学技术方面获得新进展,新光训练有望提升数据中心训练和运行生成式AI模型的电共效率。
IBM推出了新一代光电共封装(CPO)工艺。工艺该技术利用光学连接,模型实现了数据中心内部的速度升倍光速数据传输,完美补充了现有的将提短距离光缆系统。
研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、发封装电路板和服务器之间的布全高带宽数据传输。最大限度地减少GPU停机时间,新光训练同时大幅加快AI工作速度。电共
具体而言,工艺这一新技术带来了三大方面的模型显著优势:
首先,它极大地降低了规模化应用生成式AI的速度升倍成本。与中距离电气互连装置相比,光电共封装技术的能耗降低了五倍以上,同时,数据中心互连电缆的长度也从传统的1米扩展至数百米,进一步提升了数据中心的灵活性和扩展性。
其次,该技术显著提高了AI模型的训练速度。与传统的电线相比,使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。
这意味着,原本需要三个月才能训练完成的标准大语言模型,现在仅需三周即可完成。对于更大的模型和更多的GPU,性能的提升将更为显著。
最后,光电共封装技术还显著提升了数据中心的能效。据估算,每训练一个AI模型所节省的电量,竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。
- ·8.3万起!Caviar推出定制华为Mate 70 RS/X6:18K金黄河浮雕 限量88台
- ·太强了!瑞典锋霸再次上演大四喜,三个月造出39球,值1亿没问题
- ·[流言板]表现不错!库明加全场出战19分钟,10中5得到12分2板3助3断
- ·北青:张玉宁对阵日本大概率无缘首发,韦世豪可能被推上最前沿
- ·[流言板]登有引力!哈登末节连得7分,随后灰熊选择对哈登包夹防守
- ·三大电商APP双11数据出炉:拼多多使用时长首次登顶
- ·[流言板]美媒发问:重排2018届选秀,你会如何来排?
- ·[流言板]遮天蔽日!莫布利排球大帽塔特姆上篮后,反击完成空接扣篮
- ·与柴犬开启治愈探险之旅!异世界动作冒险新游《妖怪之国》登陆Steam
- ·“足记之家”媒体足球友谊赛圆满成功
- ·“足记之家”媒体足球友谊赛圆满成功
- ·阿斯拉尼:意甲还是欧冠?国米的目标是赢得一切
- ·1进球+3拦截,巴尔韦德当选皇马3
- ·球迷扔水瓶险砸中梅西,巴拉圭球员道歉:这不能代表我们对你的爱
- ·用户提前体验了一加Ace 5系列:称“方向对了”
- ·624万美元买下一根香蕉 中标者是中国90后富豪:曾放巴菲特鸽子、给贾跃亭平反
- ·《最后的生还者》剧集第二季确定于2025年春季上线
- ·[流言板]利拉德晒裁判解释:比赛已经输了,这到底有什么用呢?
- ·东体:张玉宁在国足的重要性日趋上升,与武磊风格比较搭
- ·堂安律:来中国后我们进行针对性训练,主要练习如何攻破密集防守
- ·[流言板]爆发!格兰姆斯末节4投全中,三分3中3,得到14分1篮板1助攻
- ·[流言板]里夫斯:我每天都对詹姆斯说他太老了,他在打败时光老人
- ·颜值巅峰 极简交互!努比亚Z70 Ultra深度评测:未来手机发展趋势风向标
- ·官方:亚足联承诺在未来加强对于青少年足球的建设
- ·ropz换spinx对于蜜蜂来说是增强还是削弱?
- ·东体预测国足首发:张玉宁王子铭搭档锋线,谢文能韦世豪两边翼
- ·《龙珠:超宇宙2》新DLC未来篇章2明天上线新增3名角色
- ·播放量超628万 UP主何同学抄袭风波视频成爆款:比iPhone 16 Pro热度还高
- ·东体预测国足首发:张玉宁王子铭搭档锋线,谢文能韦世豪两边翼
- ·足球报:海港队员期待圆梦双冠王 奥斯卡或上演告别赛
- ·德转:尤文上次意甲输给威尼斯还是1962年,此后联赛12次交手不败
- ·以球会友🫡足球队4
- ·[流言板]把握不住!火箭最后三分钟三个大空位,一个不进遭遇逆转
- ·SpaceX星舰第六飞官方美图:巅峰科技的暴力美学
- ·[流言板]状态低迷!勇士前15战12胜3负,最近13场只有3胜10负
- ·开发者福音!微软发布AI Shell工具:让命令行用上AI