为什么我们看好CPO是行业大趋势20241025

为什么我们看好CPO是行业大趋势？20241025_导读 2024年10月26日21：28 关键词 英伟达CPU英特尔GPU硅光OCP会议带宽带宽迭代数据中心光信号传输台积电AIHBM光互联OIO投资策略光引擎连接器光模块3D封装 全文摘要 CPU市场正经历快速发展，尤其是在AI需求推动下，对高带宽技术的需求日益增长。尽管当前CPU技术尚不成熟，但市场需求和技术创新正加速其进步。欧洲和美国的重要产业会议凸显了CPU技术讨论及投资机会的重要性。 为什么我们看好CPO是行业大趋势？20241025_导读 2024年10月26日21：28 关键词 英伟达CPU英特尔GPU硅光OCP会议带宽带宽迭代数据中心光信号传输台积电AIHBM光互联OIO投资策略光引擎连接器光模块3D封装 全文摘要 CPU市场正经历快速发展，尤其是在AI需求推动下，对高带宽技术的需求日益增长。尽管当前CPU技术尚不成熟，但市场需求和技术创新正加速其进步。欧洲和美国的重要产业会议凸显了CPU技术讨论及投资机会的重要性。英伟达在CPU市场占据领先地位，而英特尔在CPU和GPU领域的持续创新亦不容忽视。博通、台积电等公司在CPU和硅光技术上的努力，预示着对算力基础设施影响深远。随着技术进步和市场需求变化，研究和投资CPU及其他相关技术变得至关重要。建议关注产业会议和材料，以把握未来趋势。 章节速览 ●00：00CPU技术进展及产业趋势分析 研究人员认为，尽管市场上对CPU技术存在诸多误解，但该领域正经历快速发展，特别是在欧洲和美国的产业会议中展现出新的趋势。CPU技术的不成熟仍是挑战，但800G放量、1.6T发布及硅光、CPO等技术的推进表明产业正积极布局未来。随着AI对带宽需求的增加，行业领导者正在加速研发和产品发布，以应对不断变化的市场需求。今年的研究重点放在了技术进步和产业变化上，预计未来一年内将有更多的产品和技术创新出现。 ●03：13全球半导体芯片业格局变化与技术创新 当前全球半导体芯片行业正经历显著变化，以英伟达和博通为代表的公司正引领GPU和CPU技术的革新，英特尔等传统巨头在CPU领域的主导地位正受到挑战。英伟达因其在GPU领域的领导地位，以及可能即将推出的CPU交换机产品，预计会对行业格局产生重大影响。此外，台积电在封装技术上的卓越表现，以及思科在硅光技术的研 发投入，显示了技术竞争的多元化。半导体行业正探索光信号传输技术以解决电信号传输的局限性，预示着未来可能的技术突破和代际领先。 ●06：47全球CPU产业发展动态与投资策略 讨论了全球范围内CPU产业的发展态势，包括多家主要公司如英特尔、英伟达等的最新动态与合作情况。特别强调了OCP和依靠两个重要会议在推动CPU技术发展方面的影响力。此外，还提到多个新兴企业和协议组织在光信号传输、PCIE标准等方面的布局，显示了市场竞争的加剧与技术的不断进步。建议投资者密切关注行业动态，尤其是海外公司的最新动向，以制定更有效的投资策略。 ●10：26英伟达与英特尔在CPU互联技术的最新进展与未来规划 英伟达及其子公司在CPU的互联技术方面进行布局，尽管面临单位比特功耗较高的挑战，但仍致力于优化。预计在Ruby平台上推出ICPU解决方案，增加CPU互联选项。同时，英特尔也关注于光互联技术，通过OCI（OpticalComputerInterconnect）等技术减少电信号传输的局限性，以满足未来高带宽需求。两 者均在探索使用光传输替代传统电信号传输，以提高效率和性能。英特尔预计到2025年，光互联技术（OIO）将实现重大突破，实现高带宽数据传输，以满足未来计算密集型应用的需求。 ●15：07英特尔硅光技术面临的风险与优势 讨论了英特尔在硅光技术中的创新与面临的挑战。英特尔的集成式芯片方案虽然引以为豪，但存在集成度与可靠性的不确定风险。相比之下，外置可插拔光源方案更为可靠，易于维护。英特尔的第一代硅光产品性能优秀，但 量产前景尚不明朗。随着技术进步，硅光引擎的带宽和效率将持续提升，同时探讨了硅光技术在不同应用场景下的潜力和挑战。 ●19：25探讨光通信技术在算力基础设施中的应用 讨论集中在光通信技术的可靠性以及在算力基础设施中的应用，特别是对比了GPUHBN和其他技术的故障率。同时，分析了CPU和PCIE技术的发展挑战，包括信号完整性和传输距离的限制。提出了通过减少端到端传输的复杂性和引入光学技术来提升效率和可靠性，并强调了对老化测试和筛选的重要性。 ●23：20PCIE标准及博通产品在高性能计算领域的应用讨论 讨论了PCIE标准的技术特性及市场前景，特别强调了与mLink、RDMA等技术的对比，指出了PCIE在带宽方面的局限性和英伟达产品的重要性。此外，提到了博通公司作为重要的CPU交换机芯片供应商，在高性能计算领域的最新动态和市场表现，及其努力提升产品开放性，促进行业合作的努力。 ●27：49CPU技术发展及市场潜力分析 博通在EQ会议上表达了对CPU发展前景的乐观态度，预计三年内CPU将迎来显著进步，特别是GPU集群的扩大促 使对高带宽需求日益增加。博通强调，与使用电脑传输相比，光传输在带宽、成本及距离限制方面更具优势，暗示CPU应用的提前可能加速。此外，讨论涉及未来可能的市场空间及技术创新，特别提到了使用CPU替代GPU在连接大量卡时的潜力和成本效益。这反映出行业对CPU技术进步及应用领域的广泛期待，以及对未来市场可能变化的敏锐洞察。 ●31：15台积电硅光技术布局与未来研发规划 台积电通过持续布局硅光技术，包括从Cooper平台演进到酷狗2.0平台，与多家公司合作，应用于CPU研发和交换机、算力芯片等领域。他们着重于封装技术，如利用SOYC技术提升带宽密度和性能参数，显示其在封装和硅光技术上的优势和高壁垒。台积电的路线图包括未来在不同领域应用硅光技术的计划，这反映出其对技术进展的前 瞻性和策略性布局。 ●35：03芯片技术发展趋势及产业会议信息分享 讨论了芯片技术，特别是硅光引擎在CPU、DPU等逻辑芯片中的应用，提到博通、英特尔等公司在研发的相关产品。还提及了HBM和IPGA技术，以及三星在硅光技术的研发。最后，建议关注欧洲的ecoke会议和美国的OCP会议，以获取更多产业动态和信息。 问答回顾 发言人问：CPU技术目前的发展状况如何？对于CPU成熟度和产品推出的时间预期是怎样的？发言人答：目前CPU技术在产业中快速发展，尤其在欧洲和美国的产业会议上，很多公司都在关注并布局CPU相关技术，如800G、1.6T、CPO等。从现在到明年年底或下半年，CPU领域将会有更多产业变化，头部公司新的研发成果或产品发布可能对整个行业产生重大影响。相比于去年认为五年后才会有一 些成熟产品，今年的预期有所提前，明年可能会有相关产品面世。这一变化主要是由于AI发展对带宽需求的迫切性，以及英伟达将带宽迭代周期从三四年缩短到一年半。 发言人问：还有哪些其他公司也在从事CPU的研发工作？ 发言人答：除了上述提到的大公司外，还有像IS、Lightmatter等一级公司也在研发CPU相关技术，它们与各大巨头保持合作，并在传输技术等方面有所布局。 发言人问：在CPU领域有哪些主要的参与玩家及其动态？ 发言人答：英伟达是当前最受瞩目的公司，其新产品发布会影响整个行业。英特尔曾是CPU领域的领头羊，但随着GPU在数据中心应用中的崛起和英伟达在CPU布局上的加强，英特尔的地位有所动摇。此外，博通、马威尔等公司也在为CC厂商提供服务，并涉足CPU研发；思科、台积电等也在积极推进CPU及相关技术的研发与合作。 发言人问：台积电在封装技术上的优势如何？ 发言人答：台积电在封装技术方面全球领先，特别是在将GPU、DRAM、硅光引擎以及交换机芯片进行高效封装的能力上表现出色，其Cooper平台及其后续升级版本展示了强大的技术实力。 发言人问：在接下来的一年多时间里，有哪些新的玩家和技术可能会对投资产生影响？ 发言人答：接下来可能会涌现出一些新的公司和技术，例如PCIE协议组织可能会把光信号传输纳入其标准中；OIF是一个老牌的光学协议标准组织；EDA公司新科技、连接器制造商如天府和山口，以及外置光源供应商如猪油等。淘宝半导体等其他公司也值得关注，它们可能在未来一年左右的时间里成为新的参与者。 发言人问：海外对CPU的关注度主要体现在哪些会议上？ 发言人答：海外对CPU关注度主要集中在两个会议：一个是美国召开的OCT会议，另一个是欧洲的依靠会议。这两个会议中，众多公司会展示他们关于CPU的最新进展和研发方向，并且热度很高，对国内也有辐射影响。 发言人问：英伟达在CPU领域的布局情况是怎样的？ 发言人答：英伟达在CPU领域有重要布局，其子公司Cerebras和Silicon光公司在CPUswitch及CPU间互联方面有所研发。英伟达计划在Ruby平台或Cerebras平台上发布带有CPU解决方案的产品，这并不意味着完全替代现有的电信号传输架构，而是增加光互联选项供客户选择。 发言人问：英特尔在CPU研发方面的成果有哪些？ 发言人答：英特尔在CPU研发上取得多项成果，包括逻辑芯片、FPGA等，并在各种会议上展示研究成果。最近在OCP会议上，英特尔介绍了其提出的CPU互联技术——OCInterconnect（OIC），旨在通过光信号替代传统的电信号传输，以解决高速带宽下电信号传输距离限制的问题。英特尔设想的未来应用场景包括GPU间、HBM内存间以及不同芯片区域间的高速互联，均采用光作为传输介质。 发言人问：英特尔对于OIC技术的发展预测是怎样的？ 发言人答：英特尔预计在2025年左右会出现单片达到4T或8T带宽的OIC技术，并且到了2026年可能会有更高带宽的OIC出现，这意味着GPU之间将实现极高带宽的传输。虽然这是一个乐观预测，但英特尔已经在roadmap中规划了这一技术路径，一旦攻克量产难度和测试问题，该技术可能会很快面世。 发言人问：英特尔的硅光引擎方案中，将激光器集成在芯片上有哪些潜在风险？ 发言人答：英特尔的硅光引擎方案中，将激光器集成在芯片上虽然酷炫且技术领先，但存在一定的风险。主要问题是光源（激光器）是整个系统中较易出问题的部分，如果出现问题，可插拔的外部光源可以方便更换以提高可靠性。而英特尔方案中，光源与芯片集成在一起，若光源故障则需整体替换，这可能会带来较高的风险和不确定性。 发言人问：英特尔的第一代硅光引擎产品性能如何？ 发言人答：英特尔的第一代硅光引擎产品性能已经非常强大，单片上包含四个Tbit，并且误码率低至1-12，能效达到了五个皮焦耳/比特，尽管要实现量产还需进一步观察。 发言人问：硅光引擎的带宽未来会如何迭代升级？ 发言人答：硅光引擎的带宽将会随着技术进步而持续翻倍增长，例如通过增加波长数量、单通道速率提升、光纤数量、偏振利用以及调试方式改进等方式。同时，随着GPU带宽翻倍的增长规律，硅光引擎的带宽也将遵循类似趋势进行升级。 发言人问：针对光学网络可靠性问题，Meta提出了哪些解决方案？ 发言人答：Meta提出了LPO（LowPowerOptical）和CPU平台优化两种解决方案。LPO旨在减少端到端传输复杂性，通过减少决策点来降低故障概率；而CPU平台则通过筛选和老化测试，改善早期可能出现的问题，确保产品在寿命初期的稳定性。 发言人问：关于光学网络的可靠性问题，目前状况如何？ 发言人答：虽然有人认为光学网络的可靠性较差，但实际上，根据数据统计，GPU和HBNI等产品的故障率可能高于光学网络。在网络故障率排名中，光学网络并不处于最高位置，这可能纠正了一些人的观点。同时，目前光学网络的问题主要集中在发射端激光器和接收端的PCB连接上，而非整个行业的普遍问题。 发言人问：PCIE协议组织的主要职责是什么？ 发言人答：PCIE协议组织主要负责制定各种PCIE标准的连接器产品规范，包括卡与卡之间、卡与背板之间以及芯