IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍
时间:2024-12-27 19:20:04 来源:与世推移网 作者:时尚 阅读:466次
12月12日消息,发封装据报道,布全IBM在光学技术方面获得新进展,新光训练有望提升数据中心训练和运行生成式AI模型的电共效率。
IBM推出了新一代光电共封装(CPO)工艺。工艺该技术利用光学连接,模型实现了数据中心内部的速度升倍光速数据传输,完美补充了现有的将提短距离光缆系统。
研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、发封装电路板和服务器之间的布全高带宽数据传输。最大限度地减少GPU停机时间,新光训练同时大幅加快AI工作速度。电共
具体而言,工艺这一新技术带来了三大方面的模型显著优势:
首先,它极大地降低了规模化应用生成式AI的速度升倍成本。与中距离电气互连装置相比,光电共封装技术的能耗降低了五倍以上,同时,数据中心互连电缆的长度也从传统的1米扩展至数百米,进一步提升了数据中心的灵活性和扩展性。
其次,该技术显著提高了AI模型的训练速度。与传统的电线相比,使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。
这意味着,原本需要三个月才能训练完成的标准大语言模型,现在仅需三周即可完成。对于更大的模型和更多的GPU,性能的提升将更为显著。
最后,光电共封装技术还显著提升了数据中心的能效。据估算,每训练一个AI模型所节省的电量,竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。
(责任编辑:知识)
最新内容
- ·[流言板]人生赢家!泰勒
- ·彩电冰箱大沙发 腾势N9内饰官图发布:“新三样”配齐
- ·李可:足协及扬科维奇决定把我雪藏,整个经历不是很愉快
- ·4999元起 GPD Pocket4 8.8寸小屏笔记本上市:顶配锐龙AI 9 HX 370
- ·加斯佩里尼:这是一场当之无愧的胜利,CDK和亚特兰大共同成长
- ·近5次对阵利物浦维尼修斯献5球2助攻,如今他缺席皇马遭15年来首败
- ·官方:国米旧将泽马利亚执教意丁球队,正式出任奥尔比亚主帅
- ·全球第一架!东航C919国产大飞机首次实现客舱局域网服务
- ·澳波:球队缺乏与利物浦同水平的竞争力,冬窗绝对需要引援
- ·米兰市长谈出售圣西罗:我尊重抗议活动,但你无法让每个人都同意
热点内容
- ·ChatGPT崩了!OpenAI:上游提供商引起的问题
- ·贝尔戈米:弗拉霍维奇身上负担太重了孔蒂会根据对手和需求变阵
- ·贝尔戈米:弗拉霍维奇身上负担太重了孔蒂会根据对手和需求变阵
- ·青岛战损版网约车火了:车屁股都快塌没了 还在接单拉客
- ·[流言板]冲击MVP!SGA本赛季场均得到31分,已连续3赛季场均得分30+
- ·费迪南德:拉什状态刚有起色就轮换曼联创造了机会却拿下得分手
- ·才加入pubg圈子,想知道以前4AM真的掩护OMG夺冠了吗?
- ·东体:本赛季武磊没少受膝伤困扰,为国出战始终是必选项
- ·沃克:我们将在圣诞节当天训练,过去几年都会放假
- ·记者:拉涅利进攻端将依靠迪巴拉多夫比克 胡梅尔斯担任主力中卫