AI芯片越堆越多，通信越容易堵：微软用光重做集群求和
四块GPU各算出一份梯度，没有把数据依次发给交换机，而是让四台普通投影仪同时把数字投向一台相机。光在传感器上叠加，求和随曝光一起完成。这个看似粗糙的台架，瞄准的却是巨型AI集群里越来越昂贵的一件事：让所有芯片重新取得一致。
四块GPU把数字投向同一台相机，AI集群最慢的一步被重新发明
光不是只负责传数据：微软把GPU同步变成一次“集体曝光”
四块GPU各算出一份梯度，没有把数据依次发给交换机，而是让四台普通投影仪同时把数字投向一台相机。光在传感器上叠加，求和随曝光一起完成。这个看似粗糙的台架，瞄准的却是巨型AI集群里越来越昂贵的一件事：让所有芯片重新取得一致。
8月14日，微软联合AfterNow、X Display Company、Optecks等团队在《Nature Communications》发表并行光子集成（Parallel Photonic Integration，PPI）。论文最吸睛的数字是，在作者建立的大规模模型中，一次集群求和的总能耗可下降过半，延迟在特定前沿模型情景下可缩短143倍，最高情景接近180倍。
但这不是一套已经装进数据中心的产品。真正完成实测的，是四块GPU、四台投影仪和一台相机；百倍改善来自预测模型。更重要的是，论文自己给出了一项很不“轻盈”的代价：若直接把这种架构放大到4096块GPU和一个假设的万亿参数模型，可能需要约46.5万块晶圆级微LED光片，占据1818个机架。
这组反差比“光比电快”更值得讨论。PPI把AI集群的串行等待换成并行的光学面积。它移动了瓶颈，却还没有消灭瓶颈。
GPU为什么总要停下来“对答案”
训练大模型时，一块GPU已经装不下全部参数和数据。系统把工作拆给许多GPU：每块先计算自己的梯度，再把这些数组按位置相加，让所有GPU拿到同一份结果，然后才能进入下一步更新。
这项操作叫AllReduce。按照NVIDIA NCCL文档的定义，假设有k块GPU，每块提供一个含N个数的数组，AllReduce输出的第i个数，就是k个输入数组第i项的总和，而且每块GPU最终都收到这份总和。
难点不是加法，而是谁先把数据送到哪里。环形方案把归约—分散和收集拆成两段，每段需要G−1轮；树形方案可以把轮数压到log G。NVLink、InfiniBand、NCCL和SHARP不断提高带宽、优化拓扑、让交换机顺手做部分求和，却仍然要让数据依次经过若干链路和节点。
芯片少、张量小时，这套方法足够好。集群扩大后，所有GPU会在同步点互相等待。最贵的计算器此时没有计算，只是在等网络。论文指出，在某些大规模训练和推理负载里，通信可占去超过一半时间；这个比例来自既有研究，并不适用于所有模型，却说明为什么“再堆GPU”不必然带来线性速度提升。
光互连已经在解决一部分问题。NVIDIA正在把光引擎与交换ASIC共封装，Lightmatter今年公布了每根光纤1.6 Tbps的共封装光学样片；AMD、Broadcom、Meta、Microsoft、NVIDIA和OpenAI也在3月成立OCI MSA，试图形成开放的光学scale-up规范。这些路线的共同逻辑，是把比特搬得更快、更远、更省电。
PPI更激进：它不满足于让光负责搬运，还想让光在搬运途中把数加起来。
一次“集体曝光”怎样完成求和
PPI的基本动作可以想成四张透明胶片重叠，但背后不是视觉类比，而是可计算的光强。
每块GPU先把16位浮点数转换为共享指数的块浮点格式，再把尾数的每一个二进制位铺成二维图案。四个发送端同时投射这些图案。相同位置如果有三个“1”，相机像素就收到三份光强；如果只有一个“1”，就收到一份。光在传感器上自然完成“这一位有多少个1”的计数，FPGA随后用移位和加法树还原出数值总和。
传统网络先路由数据，再由电子电路归约；PPI让集体结果在分包和路由之前就成为光场的属性。发送GPU从4块增加到4000块时，理论上仍是一次同时广播和一次捕获。时间复杂度因此从多轮交换变成一次物理操作。
团队把这条路径接入了Karpathy的轻量训练框架llm.c，替换NCCL的AllReduce调用，用四个投影仪传送GPT-2反向传播产生的梯度。8次传输共包含1999帧、每帧576个flashbit，总计3680万个flashbit。论文报告没有出现光强计数分类错误；编码为块浮点后，处理输入的平均绝对数值误差为1.877×10^-7。
这是一个有分量的可行性证明：光学叠加没有停留在示意图，而是进入了训练软件调用链。不过，它仍是240帧每秒的非优化台架，记录结果还做了环境光离线校正。3680万个bit足以说明“能工作”，远不足以定义数据中心链路需要的长期错误率、漂移和维修策略。
百倍改善，到底测了什么
论文随后把投影仪换成假想的微LED阵列，把发送速率设为每秒1万帧，并用厂家资料为InfiniBand、SHARP和NVLink建立比较模型。PPI单次AllReduce被设为约195微秒：显示驱动、相机捕获以及FPGA处理通过双缓冲流水化，不随GPU数和张量大小增长。
在GPT-3 175B、256块GPU、0.1 GB张量的情景中，模型给出的优势只有2.8倍：传统InfiniBand约273微秒，PPI为195微秒。换到Llama-3 405B、128K上下文预填充、4.3 GB张量和16384块GPU，InfiniBand模型升至2.8万微秒，PPI仍保持195微秒，于是差距扩大到143倍。
这说明百倍不是一个普遍的器件测速结果，而是“大张量、大集群、通信占主导”三项条件共同生成的系统预测。论文也明确说，PPI无意替代小集群或对延迟不敏感的传统互连。
能耗数字同样需要拆开。PPI的光学网络在工作瞬间并不比InfiniBand省电；论文模型中，它的峰值网络功耗反而更高。节能来自缩短等待：成千上万块GPU少以约175瓦的假设空闲功耗坐等通信结束。作者估计，256块GPU的GPT-3预填充单次AllReduce总能耗下降23%，16384块GPU的Llama-3情景下降57%。所以PPI不是“低功耗灯替代高功耗交换机”，而是“花更多瞬时光学功率，少浪费昂贵GPU的时间”。
这也给出了失效条件。如果实际GPU空闲功耗更低，通信可以更充分地与计算重叠，或工作负载并不频繁AllReduce，节能收益就会缩水。
O(1)时间，换来的是O(G)硬件
PPI最诚实、也最关键的一段在论文限制部分：固定延迟不是免费午餐。
要让更多GPU同时把更多数据投到光场中，微LED面积、相机像素、读出通道和FPGA加法树都要随参与GPU数量增长。作者设想每块8英寸微LED晶圆片包含约3.73亿个发光单元，每个模块约占3U机架空间。即便如此，GPT-3 175B在256块GPU上处理0.1 GB预填充张量，也要约549块光片、35个光架，占3个机架；扩大到4096块GPU，增至约8779块光片和35个机架。
最极端的模型更能说明问题：一个假设的万亿参数模型、5.3 GB张量、4096块GPU，需要约46.5万块光片和1818个机架。这个数字不是未来数据中心的设计图，而是一张警告牌——若没有更高密度器件、层级化分组或更聪明的编码，节省下来的通信时间会被硬件面积、成本、良率和运维吞掉。
光强一致性也是工程难题。台架里的普通投影仪亮度不均且随时间变化，需要频繁校准。生产系统还要面对微LED坏点、镜头污染、热漂移、相机老化和振动。块浮点编码要求发送端共享数值范围，论文的噪声模拟在ResNet-18和3350万参数Transformer上得到与fp32基线统计等效的收敛，但这还不是对不同模型、混合精度和数月训练的验证。
软件兼容也不只是一句“替换NCCL调用”。真实集群同时运行数据并行、张量并行、流水并行和检查点，故障发生时必须隔离节点、重新组织通信组。PPI的相机画面可以额外看见发送端是否存活，并在模型里定位异常GPU；这很有吸引力，但同样主要依赖仿真，尚未在生产故障中证明。
它与共封装光学不是同一道选择题
如果只看“AI集群用光”，PPI容易被放进共封装光学的同一个篮子。其实二者回答不同问题。
共封装光学把电—光转换搬到交换芯片旁边，减少高速电信号走过PCB的距离，提高每根光纤和每个端口的带宽密度。它仍保留交换网络，却更接近现实供应链：NVIDIA已经公布面向Quantum-X和Spectrum-X的产品路线，Lightmatter与台湾ASIC设计服务商GUC也在推进3D光子互连的商业合作。
PPI则想绕开一部分交换动作，在物理层直接形成集体求和。它可以与高速光链路并存：普通网络继续承担All-to-All、点对点、控制消息和小张量，PPI只服务最适合的巨大AllReduce。商业上，更可能出现的是专用“光学归约协处理器”，而不是一夜之间拆掉所有交换机。
这会重新分配价值。过去竞争集中在GPU、交换ASIC和光模块；PPI若能缩小并分层，微LED、图像传感器、晶圆级光学、FPGA与校准软件都会进入AI系统的关键路径。中国在这些制造环节有供应链基础，但论文没有中国团队、订单或本土部署。供应链能力只有与标准、软件、良率和现场维护结合，才会变成数据中心能力。
AI基础设施真正稀缺的，是同步时间
这篇论文最重要的不是证明了一条必胜路线，而是把一个常被“更多GPU”掩盖的问题照亮：集群算力属于所有芯片之和，进度却由最慢的集体同步决定。
PPI已经证明，四块GPU的梯度可以在一幅光图里相加；它尚未证明，数千块GPU可以用合理面积、成本和可靠性做同一件事。百倍延迟改善值得记录，但应当与1818个机架一起记录。前者说明串行通信有多贵，后者说明并行物理世界从不白送空间。
如果这条路线最终成立，它不会因为“光天然更快”，而会因为工程师找到了一个足够密集的办法，让许多芯片在同一瞬间完成同一个动作。AI集群的下一场竞赛，也许不只是让每颗芯片更强，而是让所有芯片少等彼此一点。
资料来源
- Nature Communications — Breaking the bottleneck in AI clusters with parallel photonic integration — 2026-08-14 — https://doi.org/10.1038/s41467-026-76764-1
- NVIDIA — Collective Operations: AllReduce — 持续更新，访问于2026-08-15 — https://docs.nvidia.com/deeplearning/nccl/user-guide/docs/usage/collectives.html
- Zenodo — Dummy Dataset for Prototype Testing: Breaking the Bottleneck in AI Clusters with Parallel Photonic Integration — 2025-11-14 — https://doi.org/10.5281/zenodo.17610466
- NVIDIA — Silicon Photonics Networking for Agentic AI — 访问于2026-08-15 — https://www.nvidia.com/en-us/networking/products/silicon-photonics/
- OCI MSA — Optical Compute Interconnect Established to Create an Open Specification — 2026-03-12 — https://oci-msa.org/
- OFC — Lightmatter Achieves 1.6 Tbps Per Fiber — 2026-03-11 — https://www.ofcconference.org/news-media/exhibitor-news/lightmatter-achieves-record-1-6-tbps-per-fiber-to-accelerate-ai-optical-interconnect/
- Global Unichip — Lightmatter and GUC Partner to Produce Co-Packaged Optics Solutions — 2026-01-28 — https://www.guc-asic.com/en/news/PressRelease/PR_ENG_20260128
- Reuters — AMD buys Enosemi to boost co-packaged optics offerings — 2025-05-28 — https://www.reuters.com/business/amd-buys-enosemi-boost-co-packaged-optics-offerings-2025-05-28/
