登录注册
返回分论坛目录

破局算力瓶颈:国产AI芯片算子生态的构建与演进

简介

国产AI芯片产业快速发展,算子开发体系已成为连接底层芯片能力与上层模型应用的关键枢纽。但实际应用中普遍面临算子适配周期长、开发门槛高、工具链碎片化等问题,导致硬件能力难以充分释放。相比芯片本身的持续迭代,算子开发生态建设相对薄弱,已成为国产算力规模化应用的重要瓶颈。本论坛聚焦“算子开发生态”这一国产AI芯片之上的关键支撑层,从算子在大模型训练与推理中的作用切入,展开深度思辨。思辨议题包括: 1)算子生态制约AI芯片性能释放与规模化应用的关键瓶颈在哪里? 2)AI芯片厂商与开源社区等各方如何协同共建国产算子生态并实现持续演进? 3)在 Agent 时代国产算子开发生态会带来什么新的机遇与范式革新?

简介为官网原文,部分内容可能未写完。

人员

主席

  • 朱光辉 · 南京大学
  • 冯思远 · 上海创智学院

嘉宾

  • 杨智 · 北京大学
  • 郭晖 · 北京智源人工智能研究院
  • 董兆华 · 沐曦集成电路(上海)有限公司
  • 黄金华 · 海思技术有限公司
  • 陈果 · 湖南大学
  • 陈振宇 · 南京大学
  • 王腾 · 中国科学技术大学苏州高等研究院

报告安排

  1. 从编程到搜索:TileLang 驱动的自动算子生成

    杨智 · 北京大学

    简介

    本报告介绍一种面向高性能算子的自动生成路径:从张量计算图出发,自动搜索或推导分块、并行、数据搬运与流水等实现方案,并生成可执行的 TileLang Kernel。在这一过程中,TileLang 作为稳定、可编译、可测量的 Kernel 表达层,连接上层计算定义与底层性能优化,为算子实现的自动搜索、性能验证和持续迭代提供统一基础。

  2. FlagMega:AI Agent 时代的 Megakernel编译器

    郭晖 · 北京智源人工智能研究院

    简介

    AI Agent 开发算子的能力越来越强,但算子快不等于模型端到端推理快。为了把 Agent 的能力体现在模型端到端推理性能上,我们推出了 FlagMega:业内第一款结合图编译和 Agent 技术自动生成模型级别 Megakernel 的 AI 编译器。性能测试显示它在典型场景相比 vLLM 提供了 50% 以上的性能加速。由于生成的是 Triton 代码,它还支持多款国产芯片。

  3. LLM前沿技术在沐曦显卡上的实现

    董兆华 · 沐曦集成电路(上海)有限公司

    简介

    今年,国产大模型迎来了架构创新的密集爆发期:DeepSeek V4引入mHC(流形约束超连接)与Lightning Indexer算子,Kimi K3推出FlashKDA线性注意力算子,一系列底层技术的突破正在重新定义长序列建模与推理效率的边界。作为国内领先的GPU厂商,沐曦始终致力于与前沿算法保持高效协同。针对上述创新算子,我们的软件团队已在沐曦GPU平台上完成了快速接入与深度性能调优,确保算法红利能够在国产硬件上实现最优释放。本次演讲将系统性地分享沐曦在适配这些前沿算子过程中的技术路径与实战经验,涵盖算子映射、计算图优化、内存访问调优等关键环节。同时,我们也将从GPU厂商的视角出发,探讨在当前算法快速演进、架构日趋异构的背景下,国产算力平台所面临的共性挑战,以及我们在软硬件协同设计上的思考与应对策略。

  4. “破局·共生·引领”—CANN如何构建国产算子新生态

    黄金华 · 海思技术有限公司

    简介

    随着国产AI产业加速向自主可控方向演进,算子开发生态已成为支撑AI芯片落地应用、激活产业创新活力的核心底座。当前国产算子生态建设仍面临三大核心挑战:一是编程模型标准不统一,不同芯片架构与技术栈的开发习惯存在显著差异,生态割裂制约产业协同效率;二是开发者准入门槛偏高,全链路工具链、硬件开发环境与体系化学习资源配套仍有不足;三是社区治理与人才培养体系尚不成熟,人才供给规模难以匹配产业高速增长的实际需求。针对上述行业痛点,CANN从技术、社区、人才三大维度系统性构建算子开发生态。技术层面打造分层开发体系:以Ascend C释放底层极致性能,以PyPTO提供上层易用开发体验,同时兼容TileLang、Triton等主流算子生态语言,全方位覆盖不同场景的多元开发诉求;社区层面持续完善开发者支撑体系,依托CANN-Lab、CANN-Learning-hub、CANN-Bot等平台与工具,补齐调试调优工具链短板,有效降低开发与学习门槛;人才层面打造“学、练、赛、证、聘”全链路成长闭环,推动国产芯片编程模型融入高校核心课程,深化产教融合,实现产业需求与人才培养的精准对接。未来,CANN将持续优化开发者成长路径、推进算子编程模型标准化建设、深化产教协同发展,不断夯实国产AI算子生态底座,为产业自主创新提供长效支撑。