简介
本专题论坛是“大小模型协同智能计算”的系列论坛(已经成功举办两届,每次反响很热烈)。本次聚焦“从云端大模型走向端云一体的路径”,面向大模型落地中成本高、时延长、隐私敏感与设备异构等挑战,探讨云端大模型、端侧小模型与边缘节点协同演进的新范式。论坛将围绕端云一体架构、任务感知的模型路由与高效推理、知识蒸馏与个性化适配、安全可信与可治理计算等议题,邀请学术界和产业界专家交流关键技术、系统实践和应用路径,推动大小模型从单点能力走向协同智能。
简介为官网原文,部分内容可能未写完。
人员
主席
- 王田 · 北京师范大学
嘉宾
- 王士进 · 科大讯飞股份有限公司
- 姚海鹏 · 北京邮电大学
- 田臣 · 南京大学
- 翟恩南 · 阿里云计算有限公司
- 李哲涛 · 暨南大学
- 曾建电 · 北京师范大学
- 秦慧玲 · 北京师范大学
- 张程 · 北京师范大学
- 梁玉珠 · 北京师范大学
- 黄凤怡 · 北京师范大学
报告安排
第三届“大小模型协同智能计算”开场欢迎辞
王田 · 北京师范大学
大小模型协同的多模态认知计算理论与方法
王士进 · 科大讯飞股份有限公司
简介
近年来,多模态认知计算成为人工智能领域的重要研究方向,报告围绕大小模型协同的多模态认知计算理论与方法开展研究,重点探索四个方面:一是跨模态数据的可控高质量生成方法;二是大小模型之间的知识对齐与互学习机制;三是深宽模型协同的多模态推理方法;四是面向大小模型协同的多模态认知能力验证平台构建,并在典型应用场景中开展系统验证。
从个体智能到集群互联:智能体互联网的演进与思考
姚海鹏 · 北京邮电大学
简介
本次学术分享围绕“从个体智能到集群互联”的技术演进主线,系统阐述智能体互联网的内涵、需求与关键支撑体系。随着人工智能由单体应用走向群体协同,网络通信主体逐步从人与设备扩展为具备身份标识、自主决策和协同能力的智能体,推动网络架构由中心化控制向分布式自治演进。面向智能体在算力需求、异构互联和时空同步方面的新挑战,分享构建了算力网—智联网—时空网三位一体的技术框架:以算力网支撑大模型训练、部署与推理,以智联网实现异构智能体可信互联与安全互操作,以时空网保障多智能体协同中的时间同步、空间对齐和一致性决策。结合人工智能路由器、CENI确定性网络、无人集群组网和服务化智能体网络等案例,展示智能体互联网在未来网络基础设施和产业智能化中的应用价值。
探索大模型训练的性能与功耗优化
田臣 · 南京大学
简介
报告围绕大模型训练的性能与功耗优化展开,结合团队三篇最新研究成果,系统介绍面向 Ascend 芯片的全栈优化实践。从工业级性能剖析与调优系统,到基于解析模型与细粒度 DVFS 的能效协同优化,再到算子级性能潜力挖掘,全面展示如何通过架构感知、系统协同与精细化调度,在提升训练效率的同时实现功耗优化,为大模型高效部署提供关键技术支撑。
面向大模型训练的集合通信关键技术
翟恩南 · 阿里云计算有限公司
简介
集合通信是算力集群连接训练/推理引擎与底层网络融合性能优化的关键技术和抽象。集合通信最核心的通信算法性能直接影响大模型训练推理的效率,以及 GPU 集群利用率。已有的集合通信库(如 NCCL 和 RCCL)依赖固定集合通信算法,无法适应多样化的硬件拓扑和模型需求。当前最先进的集合通信算法合成器(如 TECCL 和 TACCL)采用混合整数线性规划建模,但面临搜索空间爆炸和可扩展性挑战。本次报告介绍 SyCCL,一种可扩展的集合通信算法自动合成器,为生产规模的大模型训练任务在数分钟内生成接近最优的集合通信算法方案。 SyCCL 的原理是利用集合操作与硬件拓扑的对称性,将原始的集合通信 demand 分解为更小拓扑子集中的 sub-demand,并通过高效搜索策略快速探索潜在的 sub-demand、生成对应子算法,最终整合为完整的集合通信算法方案。基于实际生产环境集群的结果表明 SyCCL 可将集合通信性能提升 151%-263%。此外,本次报告还将展开描述集合通信库与推理引擎的性能融合优化方向。该工作发表在 SIGCOMM 2025,并开源。
模型协作与互联
李哲涛 · 暨南大学
简介
互联网、云计算与大数据的快速发展推动了人工智能进入大模型时代。异构模型急速增长和泛在部署,模型间交互协同日益迫切。受计算机协作与互联发展历程的启发,报告将分享一种新的模型协作与互联的概念、构想及系统架构。