简介
编译系统作为连接软硬件的核心桥梁,正经历着AI技术带来的深刻变革。一方面,大语言模型开始渗透编译领域,从辅助生成优化序列到探索端到端的“AI即编译器”新范式;另一方面,AI工作负载的爆发式增长也倒逼编译系统重构,如何高效适配层出不穷的新硬件架构成为核心议题。同时国产异构算力平台的崛起,对编译栈的敏捷性与开放性提出了更高要求。 本论坛聚焦国产AI编译基础设施的建设与落地,深度解析基于MLIR多级抽象中间表示构建统一编译架构的关键路径。论坛将重磅分享国内首个获得原生Triton社区认证的Ascend NPU-IR项目的落地经验案例,实现AI应用在国产硬件上的高效迁移与极致性能释放。 本论坛旨在汇聚学术界与工业界的顶尖专家,围绕AI驱动下的编译技术范式变革、面向AI工作负载的编译优化方法、以及面向新硬件的敏捷编译框架等方向,共同推动编译系统向智能化、高效化、开放化的方向演进。
简介为官网原文,部分内容可能未写完。
人员
主席
- 高耀清 · 华为公司
嘉宾
- 海丽娟 · 华为
- 赵捷 · 湖南大学
- 尚笠 · 复旦大学
- 李诚 · 中国科学技术大学
- 柴赟达 · 先进编译实验室
- 胡桥 · 华为技术有限公司
- 刘威 · 华为技术有限公司
报告安排
AscendNPU-IR:开源编译底座,多语言无缝接入昇腾生态
海丽娟 · 华为
简介
AscendNPU IR是面向昇腾亲和算子编译时使用的中间表示,提供昇腾完备表达能力,向上支持Triton等5+生态语言,通过编译优化提升昇腾AI处理器计算效率,支持通过生态框架灵活对接,高效使能昇腾AI处理器与深度调优。基于MLIR构建面向昇腾AI处理器的专用中间表示,提供多级抽象接口,在易用性与细粒度性能控制间取得平衡,能有效提升算子开发效率和计算性能,技术路线先进,直击AI编译优化核心需求AscendNPU IR作为昇腾生态的关键基础软件,通过开源社区开放接口,便于TensorFlow、PyTorch等生态框架灵活对接。文档体系完善,构建指南清晰,降低了社区贡献者参与的门槛。
从因果决策、全局调度到智能内核生成的昇腾AI编译器全栈优化方法
赵捷 · 湖南大学
简介
随着深度学习模型规模持续增长与硬件架构日益异构,AI编译器在面向昇腾等专用加速器进行优化时面临系统性挑战:单点编译优化可能引发全局性能抖动,分布式训练中通信放置与内存占用存在深层耦合,高性能内核的开发与跨后端迁移仍高度依赖人工。本文围绕上述问题,提出一套面向昇腾AI编译器的全栈优化方法。首先,构建基于全Kernel因果状态建模的公共决策架构,将编译优化形式化为合法干预集合上的反事实推理问题,采用区间安全选择策略,仅当候选优化时间上界低于原始状态下界时方予采纳。该方法在GPU上完成了SIMD-like优化降级的实证验证,并为Ascend 950+ SIMD/SIMT双模式迁移提供理论支撑。其次,针对参数分片训练中All-Gather通信与参数缓冲区生命周期的全局耦合问题,将前向与后向传播构造为全迭代图,以混合整数规划联合优化通信启动位置与迭代内保留决策。该方法在16卡A100集群上相较DeepCompile提升吞吐1.10倍。最后,以多智能体协作框架将优化策略探索与后端代码生成解耦,通过统一草图表达硬件无关优化意图,经验证驱动闭环实现跨DSL后端的高保真代码生成,支持Triton到Ascend NPU的跨后端迁移,在KernelBench上取得1.46倍平均加速。三项工作分别从编译决策的因果安全性、分布式训练的通信调度与算子生成的智能自动化三个层面,共同勾勒出昇腾AI编译器从局部优化走向系统化全栈优化的技术路径。
智能体时代的 AI 基础设施:优化的可验证性
尚笠 · 复旦大学
简介
大模型智能体正在重塑 AI 基础设施的优化范式。计算图变换、数值近似、编译优化和硬件映射正逐步从专家主导走向自主生成与组合,显著扩大了可探索的优化空间。与此同时,跨层、动态的优化过程也使语义保持与数值可靠性难以仅靠传统测试加以保证,正确性验证因而成为智能体优化落地的关键挑战。本报告聚焦智能体驱动的 AI 基础设施优化及其可验证性,探讨如何通过显式语义规范和正确性条件,为张量计算的图变换、数值近似及软硬件映射提供可组合、可追溯的保证。
基于昇腾多核任务编排的通算融合算子生成
李诚 · 中国科学技术大学
简介
针对Ascend NPU上MoE训练因逐kernel串行执行而未能充分利用AIC与AIV异构计算资源的问题,本文提出HyperParallel-MoE编译调度框架,通过将算子级执行转换为静态调度的tile级异构任务流,引入AIV驱动的单边通信消除集合通信同步,并采用保持依赖关系的事件驱动调度实现通信、矩阵与向量计算的细粒度重叠。该框架已在MindSpore和MindFormers中实现,并在Ascend A3集群上基于DeepSeek风格MoE模型评测,结果表明从Dispatch到Combine的MoE-FFN延迟最高可降低至原来的1/1.58,验证了tile级异构调度对提升NPU训练效率的有效性。
AI编译优化:Triton-tle在国产平台上的适配优化
柴赟达 · 先进编译实验室
简介
Triton基于Block的编程抽象降低了高性能Kernel开发门槛,但面对DSA和新兴GPU架构,其细粒度硬件控制与结构化表达能力仍存在不足。Triton-TLE通过TLE-Lite、TLE-Struct和TLE-Raw三层编程抽象,在可移植性、可维护性和性能之间建立更灵活的平衡。借助extract_tile等结构化Tile原语,TLE能够在保持跨平台复用能力的同时,为编译器暴露更清晰的结构化优化信息,并支持国产芯片平台上的“一次优化、多芯复用”