登录注册
返回分论坛目录

打破算力焦虑:存算融合如何引爆智能体时代的效能革命

简介

随着AI从被动助手演进为自主智能体,系统瓶颈已从算力转向数据搬运。存算融合在数据驻留位置直接执行计算,从根本上消除统冯·诺依曼架构中数据搬运所带来的能耗和延迟瓶颈,为智能体多步推理、动态知识图谱维护与工具调用提供低延迟、高能效支撑。同时,智能体还需在动态负载下保持稳定吞吐,包括实时检索、更新记忆与流式输出决策。而存算融合架构天然适配这些需求,使边缘常驻智能体与云边协同混合智算在技术与经济上成为现实。存算融合提效降本,不仅能回应存储成本高企的当下挑战,更具智算架构创新的长期战略价值。本论坛汇聚学术与产业专家,聚焦存算融合前沿技术、AI原生架构、效能创新及生态建设,助力国家智算革命大战略。

简介为官网原文,部分内容可能未写完。

人员

主席

  • 张伟丰 · 联想(北京)有限公司
  • 何哲陟 · 上海交通大学

嘉宾

  • 肖利民 · 北京航空航天大学
  • 戴瑾 · 北京超弦存储器研究院
  • 孙广宇 · 北京大学
  • 李学清 · 清华大学
  • 王飞 · 上海交通大学
  • 赵振伟 · 长鑫科技
  • 蒋超 · 联想集团

报告安排

  1. 13:30–14:00

    面向大模型推理的存算融合池化系统

    肖利民 · 北京航空航天大学

    简介

    随着Agentic AI时代到来,大模型Token消耗量呈指数级增长,催生了以Token为核心计量的新型经济范式。然而,模型参数规模庞大,对算力与存储需求极高,导致Token推理成本居高不下,降本已成为产业落地的关键瓶颈。通过内存扩展与池化技术,在现有体系外构建大容量、高性价比、可共享的内存资源池,用于KV Cache的高效存储和复用,以有效缓解访存瓶颈,提升推理吞吐量。同时,在内存控制器中集成专用计算加速引擎,利用近存计算优势将部分推理任务卸载至内存侧,以减少GPU/NPU主计算单元负载,并通过数据就近处理模式,有效缓解外接内存池因接口延迟与带宽受限导致的“内存墙”瓶颈,降低延迟与单位Token成本。报告将系统介绍联想集团在内存扩展与近存计算融合方面的探索实践,并分享存算融合加速大模型推理的初步成果。

  2. 14:00–14:30

    AI与存算一体

    戴瑾 · 北京超弦存储器研究院

    简介

    AI计算模仿了人脑的工作原理,而大脑是一个天然存算一体的计算装置。传统存算分离的冯诺依曼架构为AI计算制造了很多的困难;在大模型的时代,这个问题更加突出。报告人将讨论讨论克服存储墙困难的各种方法,涉及算法、系统架构、芯片封装、芯片制造各个层面。讨论将涉及各种存储介质和存储技术。报告人将对存内计算、近存计算的各种技术路线发表自己的看法。

  3. 14:30–15:00

    面向大模型场景的层次化“网-存-算”融合技术

    孙广宇 · 北京大学

    简介

    本次报告讨论大模型场景下的层次化“网-存-算”融合技术。首先分析LLM推理中Prefill阶段(计算密集)与Decode阶段(访存密集)的差异化需求,并据此提出按颗粒度分层融合的设计思路。在细粒度(单元级)层面,基于SRAM等存储存内计算(CIM)能够提供高密度、高能效的Tensor计算单元,满足算力密集型任务的需求;而在粗粒度(阵列或芯粒级)层面,则通过DRAM近存计算(NMP)和3D堆叠技术来提升带宽与算力,并针对Decode阶段进行异构映射优化,以缓解访存瓶颈。进一步地,在近存定制互连、内存扩展以及超节点等系统场景引入网-存-算融合,争取解决数据移动中的异构性问题。

  4. 15:00–15:30

    高密度CMOS存内计算电路与架构

    李学清 · 清华大学

    简介

    存内计算(CiM)已被广泛认为是实现高能效人工智能加速极具潜力的赋能技术。然而,基于SRAM与eDRAM等成熟CMOS工艺的现有CiM实现方案在存储密度方面存在显著局限,导致在较大模型加速等数据密集型应用中需频繁访问片外DRAM以读取权重数据。该瓶颈严重制约了系统的任务级能效。本报告提出一种SRAM-ROM混合型乘累加CiM宏架构路线,并展示了基于数字与模拟两种计算模式、具备极高宏级存储密度的卷积神经网络与Transformer加速芯片。通过引入迁移学习、YOLOC、Hidden-ROM以及FSDB,本报告将介绍实现灵活任务扩展、覆盖多种应用场景的代表性电路与架构设计创新技术。

  5. 15:45–16:15

    DNA分子计算与存储:用生物技术描绘未来绿色算力

    王飞 · 上海交通大学

    简介

    随着大模型与智能体(Agent)时代的全面到来,存储容量与算力需求呈指数级增长,传统半导体存算模式日益凸显出物理与效能瓶颈。作为大自然演化出的信息载体,DNA分子具备极高的数据存储密度、超长物理寿命与极低的能耗,为寻找下一代非传统计算范式提供了物质基础。报告人将分享如何利用人工合成的DNA分子编码并存储数字信息,以及如何编程DNA分子间生物化学反应,实现高并行、低能耗的复杂信息处理。进而探讨发展绿色生物算力的前景以及近期需要攻克的挑战。