IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍
12月12日消息,发封装据报道,布全IBM在光学技术方面获得新进展,新光训练有望提升数据中心训练和运行生成式AI模型的电共效率。
IBM推出了新一代光电共封装(CPO)工艺。工艺该技术利用光学连接,模型实现了数据中心内部的速度升倍光速数据传输,完美补充了现有的将提短距离光缆系统。
研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、发封装电路板和服务器之间的布全高带宽数据传输。最大限度地减少GPU停机时间,新光训练同时大幅加快AI工作速度。电共
具体而言,工艺这一新技术带来了三大方面的模型显著优势:
首先,它极大地降低了规模化应用生成式AI的速度升倍成本。与中距离电气互连装置相比,光电共封装技术的能耗降低了五倍以上,同时,数据中心互连电缆的长度也从传统的1米扩展至数百米,进一步提升了数据中心的灵活性和扩展性。
其次,该技术显著提高了AI模型的训练速度。与传统的电线相比,使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。
这意味着,原本需要三个月才能训练完成的标准大语言模型,现在仅需三周即可完成。对于更大的模型和更多的GPU,性能的提升将更为显著。
最后,光电共封装技术还显著提升了数据中心的能效。据估算,每训练一个AI模型所节省的电量,竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。
- ·宁夏银川发生3.6级地震 多地有震感
- ·意天空:阿姆拉巴特接近加盟费内巴切,准备前往土耳其接受体检
- ·足总杯焦点战开赛时间:1月12日晚11点阿森纳大战曼联
- ·《完蛋被美女包围2》官宣开机 原作人气角色回归
- ·[流言板]挑战巨星!埃文
- ·马卡:姆巴佩连续失点,他的困境是皇马是否还继续信任让他罚点球
- ·张朝阳:不用非得考个好大学 每个大学都有它独特的地方
- ·意天空:阿姆拉巴特接近加盟费内巴切,准备前往土耳其接受体检
- ·《漫威争锋》角色模型比《守望先锋》精致 绅士作品出得快
- ·[流言板]发挥出色!亚布塞莱全场8中5,三分3中1,得到16分3板4助攻
- ·不买燃油车理由+1:新研究称换电池比换发动机更便宜!
- ·图片报:乌尔赖希恢复合练,但如果诺伊尔缺席佩雷茨更可能首发
- ·《刺客信条:影》主线时长30
- ·[流言板]尽力局!班顿全场得到19分3篮板4助攻1抢断
- ·受伤355天后回归合练!罗马诺:阿拉巴从未考虑退役或离开皇马
- ·谁“偷了”华为红枫原色影像技术
- ·开国元勋富兰克林曾坚决反对:美国正式将白头海雕定为国鸟
- ·阿隆索谈加盟塞尔塔:比赛方式与我足球风格契合,有能力效力西甲
- ·每体:巴萨希望明夏免签勒沃库森中卫塔 克里斯滕森将被球队出售
- ·每体:巴萨希望明夏免签勒沃库森中卫塔 克里斯滕森将被球队出售
- ·[流言板]未来可期!达席尔瓦今日17投9中得到20分,得分创生涯新高
- ·天空:赫尔城和米德尔斯堡有意租借多克,利物浦和球员在权衡选择
- ·阿隆索谈加盟塞尔塔:比赛方式与我足球风格契合,有能力效力西甲
- ·官方:土耳其裁判梅莱尔将执法欧冠矿工vs拜仁
- ·值得一个全明星名额!加兰14中8得到23分3板9助1断
- ·记者:青岛青春足球场将优化草坪,海牛或临时借用西海岸主场