水晶球APP 高手云集的股票社区
下载、打开
X

推荐关注更多

牛到成功工作室

20年证券投资经验,擅长把...


骑牛看熊

拥有10多年的证券从业投资...


牛牛扫板

高准确率的大盘预判。热点龙...


风口财经

重视风口研究,擅长捕捉短线...


短线荣耀

主攻短线热点龙头为主,坚持...


牛市战车

投资策略:价值投资和成长股...


妖股刺客

职业研究15年,对心理分析...


投资章鱼帝

把握市场主线脉动和龙头战法...


股市人生牛股多

20多年金融经验,工学学士...


蒋家炯

见证A股5轮牛熊,98年始...


banner

banner

谷歌大模型加强了OCS光交换技术应用,CPO未来暴增

吉祥三哥炒家   / 2023-12-09 16:53 发布

一、事件

谷歌(Google)在发布多模态大模型Gemini的同时,还推出了全新的面向云端AI加速的TPU v5p ,这也是谷歌迄今为止功能最强大且最具成本效益的 TPU(云张量处理单元)。

据介绍,每个 TPU v5p Pod 由多达 8,960 个芯片组成,使用最高带宽的芯片间连接(每芯片 4,800 Gbps)进行互连,确保快速传输速度和最佳性能。

在AI性能方面,TPU v5p能够提供459 teraFLOPS(每秒可执行459万亿次浮点运算)的bfloat16(16位浮点数格式)性能或918 teraOPS(每秒可执行918万亿次整数运算)的Int8(执行8位整数)性能,支持95GB的高带宽内存,能够以2.76 TB/s的速度传输数据。

图片加载失败

与TPU v4相比,新发布的TPU v5p具有两倍的FLOPS(每秒浮点运算)和三倍的高内存带宽提升,这在人工智能领域是令人惊叹的。

此外,在模型训练方面,TPU v5p 在 LLM(大语言模型)训练速度上显示出 2.8 倍的代际提升,即使相比TPU v5e也有约50%的提升。Google还挤出更多的计算能力,因为 TPU v5p“就每个 Pod 的总可用 FLOP 而言,可扩展性比 TPU v4 高 4 倍”。

二、简介

共封装光学(CPO, co-packagd optics)是一种新型的光电子 集成技术,它将激光器、调制器、光接收器等光学器件封装在芯片级别上,直接与芯片内的电路相集成,借助光互连以提高通信系统的性能和功率效率。

共封装光学器件的一项关键创新是将光学器件移动到离SwitchASIC裸片足够近的位置,以便移除这个额外的DSP借助CPO,网络交换机系统中的光接口从交换机外壳前端的可插拔模块转变为与交换机芯片组装在同一封装中的光模块。

在传统的光通信系统中,光模块与芯片之间需要通过复杂的连接方式,而CPO技术可以将光模块和芯片封装在同一个封装体中,极大地减小了连接长度和距离,提高了通信效率。

算力时代传统可插拔光模块功耗制约凸显,CPO 降本增效迎发展良机。

如今大数据、云计算、人工智能等复杂应用需求的发展,正不断提高对数据中心中数据传输速率的要求。诸如谷歌、Meta、亚马逊、微软或阿里巴巴等计算巨头数万台交换机的部署,正在推动数据速率从100GbE向400GbE和800GbE更高速的数据链路的方向发展,而通过铜缆传输数据的功耗攀升日渐成为传统可插拔光模块所面临的最大挑战。

而CPO技术路径通过减少能量转换的步骤,从而降低功耗,与传统的光模块相比,CPO在相同数据传输速率下可以减少约50%的功耗,将有效解决高速高密度互连传输场景下,电互连受能耗限制难以大幅提升数据传输能力的问题。与此同时,相较传统以II-V材料为基础的光技术,CPO 主要采用硅光技术具备的成本、尺寸等优势,CPO技术路径的成功应用提供了技术保障。

三、展望

当前大算力应用场景的快速发展将加速推动光模块从800G进一步向1.6T演进,在1.6T速率下,传统可插拔光模块的集成度、功耗等问题将更为凸显,而具备性能优势的CPO方案有望作为重要技术路径迎来加速发展。根据咨询机构Lightcounting的预测,全球CPO端口的销售量将从2023年的5万增长到2027年的450万,四年时间提升达90倍。

AI大算力应用场景加速发展有望提升上游光通信领域相关产品的需求量并加速新技术演进,CPO因其多方面的性能优势有望成为未来重要的技术发展方向。CPO及硅光领域,建议重点关注中际旭创、新易盛、光迅科技、博创科技、德科立,CPO相关的光引擎和光器件领域,建议重点关注天孚通信,CPO相关的光芯片领域,实力突出的光芯片厂商源杰科技、仕佳光子。

方正证券认为,CPO技术成为2024年800G模块规模化应用的重要技术路径。由于800G和1.6T可插拔模块利用了100G和200G单波长光学器件的优势,随着大算力应用场景的渗透,可以在QSFP-DD和OSFP-XD封装中实现技术和成本效益。但是在所需的电气和光学密度、热管理和能源效率方面,可插拔封装在支持6.4T和12.8T容量方面的能力将受到限制。由于采用离散电气器件,功耗和热管理正在成为未来可插拔光学的限制因素。使用硅光子学技术平台的共封装(CPO)旨在克服上述挑战。同时相较于NPO,CPO的模块与主机ASIC的距离更近,可以实现更低的信道损耗和功耗。Yole预计可插拔技术在未来10年可能发生整合,而CPO市场将形成多供应商的商业模式。

1702111934552.png