简介
芯粒技术正在把芯片创新从单颗 SoC 推向系统级重构。计算、存储、I/O、互连可以按应用需求灵活组合,并通过先进封装集成工艺形成更大规模的异构系统。随着大模型训练推理和高性能计算持续扩大,传统多芯片板级互连在带宽、时延、功耗和密度上逐渐受限,晶圆级计算因此成为芯粒技术向更高集成度演进的重要方向。它将芯粒互连、片上网络、供电散热、良率冗余、编译映射和应用负载协同纳入统一设计,为后摩尔时代算力扩展提供新的系统路径。 现在业界提到晶圆级系统主要聚焦于封装层面,如何使用先进封装技术将多个芯粒等部件集成在一起,封装厂、晶圆代工厂在这方面做了很多宣传。在计算机领域,对于系统架构设计人员来说,是不是意味着封装层讲硬件组织在一起就足够了,是不是将现有系统的设计方法迁移过来就够了,这都是需要探讨的问题。 第七届芯粒关键技术论坛以“晶圆级计算”为主题,聚焦晶圆级架构、芯粒互联、供电散热、编译映射与系统应用,邀请产学研专家交流最新进展、关键挑战与路径,推动晶圆级计算生态协同发展。
简介为官网原文,部分内容可能未写完。
人员
主席
- 王郁杰 · 中国科学院计算技术研究所
嘉宾
- 胡杨 · 清华大学
- 黄嘉逸 · 香港科技大学(广州)
- 尤祥安 · 中国科学院微电子研究所
- 王梦迪 · 中国科学院计算技术研究所
报告安排
面向热管理的晶圆级计算优化
胡杨 · 清华大学
简介
随着大模型训练规模持续扩大,晶圆级系统依靠大面积集成和高带宽片上互连提供高密度算力,但其功率密度和散热路径的空间差异也使热约束成为持续性能的重要瓶颈。尤其在液冷条件下,冷却液沿流道升温,会在晶圆表面形成明显的温度梯度,使出口侧计算单元更早触发热限频,并降低系统整体吞吐。本报告围绕热约束下的晶圆级计算优化,介绍如何将工作负载行为、功耗分布、温度预测与任务调度纳入统一闭环。报告进一步讨论热管理如何进入晶圆级系统的架构、编译与运行时设计空间,以及面向真实硬件、多任务负载和冷却—计算联合优化的后续方向。
面向晶圆级大模型推理的映射与通信优化
黄嘉逸 · 香港科技大学(广州)
简介
本次报告将围绕晶圆级大语言模型推理中的映射与通信挑战,介绍我们在晶圆级系统优化方面的研究工作:首先针对晶圆级系统的非对称网格(Mesh)拓扑与带宽异构特性,我们提出分层映射算法,利用 Transformer 模块与芯粒阵列之间的结构对称性,联合优化芯粒间与芯粒内的工作负载部署;其次针对晶圆级系统中非规则通信流量与链路负载不均衡问题,我们提出基于负载与距离感知的均衡分配(BALD)通信调度算法,通过链路分配为点对点与组播集合通信原语实现负载均衡,并无缝集成容错机制以应对节点与链路故障。这些系统级优化方法有效地提升了晶圆级大语言模型推理系统的性能与鲁棒性。
晶上系统垂直供电的挑战、路径与突破
尤祥安 · 中国科学院微电子研究所
简介
晶上系统正成为下一代 AI 算力跃迁的关键形态,万安级电流、毫米级空间、千域级供电的极端条件,正把传统供电体系推向物理极限。本报告从系统集成视角,剖析晶上系统垂直供电在系统级与模组级设计、集成工艺与材料上的核心挑战;梳理产业界与学术界在垂直供电方向的路径探索;结合面向晶上系统的工程实践,分享在供电功能异质集成上取得的突破,提出走向通用化、自主可控算力底座的可行路径。
大模型晶圆级系统:从高效推理到实际部署
王梦迪 · 中国科学院计算技术研究所
简介
随着大模型参数规模和推理需求持续增长,传统GPU集群正面临存储墙、通信墙和能效墙等瓶颈。凭借超大规模片上资源、超高带宽互连以及低延迟数据传输能力,晶圆级系统为大模型推理提供了新的体系结构发展方向,有望成为未来大模型计算的重要基础设施。然而,要真正实现晶圆级系统的广泛应用,不仅需要充分释放其极致计算性能,还需要解决制造缺陷带来的可靠性与商业化部署问题。本报告围绕“大模型晶圆级系统:从高效推理到实际部署”这一主题,介绍我们在晶圆级系统上的最新研究成果。首先,针对大模型推理过程中资源利用率低、通信开销大等问题,提出面向晶圆级SRAM存算系统的高吞吐推理架构,通过Token级流水线、分布式动态KV Cache管理以及通信感知映射等技术,显著提升晶圆级系统的大模型推理性能。进一步地,当晶圆级系统逐步成为大模型计算的基础设施时,如何提升可售卖算力(Sellable Effective Compute Capacity)成为产业化落地面临的新挑战。针对制造缺陷导致的性能离散问题,提出面向晶圆级芯片商业化部署的性能收敛容错框架,通过软硬件协同优化与性能分级(Performance Binning),有效提升高等级芯片良率和整体可售卖算力,为晶圆级系统的大规模部署提供支撑。