简介
智能推理负载需求爆发式增长，已成为最核心、增长最快的关键负载。自动驾驶、智能交互等场景持续落地，对推理算力的实时性、高并发与规模化提出更高要求。现阶段，平台架构迭代、资源调度与基础设施演进速度，难以跟上推理负载的发展节奏。传统平台通用、静态的部署调度模式，无法适配推理负载动态波动、资源碎片化、硬件适配严苛的特征，导致二者在时间尺度与运行机制上出现明显失配，制约算力利用效率与AI产业规模化落地。 为此，本次论坛汇聚产学研领域权威专家，聚焦推理负载与计算机系统适配难题，从全系统栈角度剖析关键技术瓶颈与发展趋势，探索硬件与智能负载的高效适配方案，为我国人工智能产业高质量发展提供有力支撑。
简介为官网原文，部分内容可能未写完。
人员
主席
- 陈全 · 上海交通大学
嘉宾
- 卢宇彤 · 中山大学计算机学院 国家超算深圳/广州中心
- 翟季冬 · 清华大学
- 董德尊 · 国防科技大学
- 陈晨 · 上海交通大学
- 刘茼 · 联想（天津）有限公司
报告安排
人工智能时代的超级计算：加速与融合
卢宇彤 · 中山大学计算机学院 国家超算深圳/广州中心
简介
人工智能技术推动超级计算从体系结构到应用模式的深刻变革。面向人工智能时代，超级计算系统需要在统一计算环境中高效支撑高精度科学模拟、混合精度人工智能训练与推理、数据密集型计算以及自动化科学发现等多样化任务。本报告围绕人工智能时代超级计算发展的两个关键方向——“加速”与“融合”展开。加速是持续提升计算性能与效率的重要基础，融合则推动科学模拟、数据、模型、软件与应用从相对独立走向协同，形成面向复杂科学问题的一体化计算与智能工作流。报告将结合新一代超级计算系统与大规模科学工程应用实践，探讨如何通过体系结构创新、全栈软件支撑和应用驱动的软硬件协同设计，将系统能力转化为解决实际科学与工程问题的计算生产力，并进一步展望 HPC 与 AI 深度融合背景下超级计算系统结构的发展趋势。
面向国产智能算力的训推系统
翟季冬 · 清华大学
简介
随着大模型技术的不断发展，其对算力的需求也在持续增大。然而，中国在获取最先进的芯片方面面临巨大的挑战。如何充分发挥国产算力硬件性能，让国产算力易用好用，满足大模型对算力的需求具有重要意义。针对此挑战，我们在国产智能算力上开发了一系列核心基础软件。其中，在新一代国产超级计算机上，从编译器、算子库、并行系统和负载均衡等方面对大模型进行了深入优化，开发了面向大模型训练的“八卦炉”系统，采用“八卦炉”训练的大模型性能达到EFLOPS。同时，针对国产智能算力研制了“赤兔”大模型推理引擎，有效提升国产智能算力上大模型的推理效率。
面向超算与智算的访存通信优化
董德尊 · 国防科技大学
简介
互连通信是决定超算与智算系统可扩展性的关键因素之一。为了提升高性能互连系统的可扩展性，需要从不同层次和维度进行思考和尝试，包括在芯片内探索互连微架构的高带宽/低延迟/低开销设计优化，在芯片间探索拓扑/路由/流控/通信库等的端到端/全协议栈优化，在系统级探索应用驱动的算法/计算/通信的协同优化，超大规模互连系统设计验证工具等，报告将分享课题组近期在缓存预取、矩阵计算、模型推理等方面的访存通信优化研究。
面向大模型和基于大模型的系统优化技术研究
陈晨 · 上海交通大学
简介
随着智能体时代的到来，大模型训练和推理的资源需求迅速增加，亟需进行深入的系统性能和成本优化。与此同时，大模型本身具有强大的通用分析和决策能力，很适合解决系统优化中的多样调优难题。本次报告将分别分享面向大模型和基于大模型的系统优化研究，一方面通过系统设计适配实现大模型训推过程的降本增效，另一方面应用大模型技术反哺实现自动化、高质量的负载分析和系统优化。
TokenOps：大模型服务的调度与优化
刘茼 · 联想（天津）有限公司
简介
随着大模型从单点试用走向企业级规模化应用，AI 的核心挑战正在从“能否调用模型”转向“如何稳定、低成本、可治理地生产高质量智能服务”。在 AI 工厂化趋势下，Token 不再只是计费单位，而是连接模型能力、算力资源、业务场景与治理体系的关键运行单元。如何围绕 Token 建立可观测、可调度、可优化、可核算的生产体系，正在成为企业级大模型服务平台的核心命题。 本报告提出 TokenOps 的理念与实践框架，围绕 Token 的生产、调度、优化、计量与治理，构建面向大模型服务的运行管理体系。报告将结合 Token Hub 的工程实践，重点介绍多模型智能路由、算模一体调度、成本归因与治理闭环等关键能力，探讨如何在质量、时延、成本、稳定性和合规之间实现动态平衡。 报告进一步讨论 TokenOps 在企业级 AI 工厂中的价值：通过统一接入、策略路由、动态降级、Token Telemetry 与 Token Cost Intelligence，将大模型服务从零散调用升级为可交付、可运营、可持续优化的智能生产体系。