登录注册
返回分论坛目录

智存融合—大模型存储技术论坛

简介

本论坛聚焦大模型时代存储技术的演进与创新,围绕向量数据库、分布式存储、冷热数据分层、存算协同、数据湖仓与AI基础设施优化等关键议题展开深入交流。随着大模型参数规模、训练语料和推理访问量持续增长,存储系统正从传统容量支撑转向高性能、低延迟、高可靠与智能化的数据底座。本论坛将邀请来自高校、科研机构、云计算企业、存储厂商及大模型应用团队的专家学者和产业代表,分享前沿研究成果、工程实践经验与未来趋势判断,探讨如何通过“智存融合”提升大模型训练与推理效率,降低数据流动和系统成本,推动AI基础设施向更高效、更绿色、更可信方向发展。论坛旨在搭建产学研用协同交流平台,促进大模型存储关键技术突破与生态共建。

简介为官网原文,部分内容可能未写完。

人员

主席

  • 吴晨涛 · 上海交通大学

嘉宾

  • 谷云飞 · 上海交通大学
  • 肖侬 · 中山大学计算机学院
  • 张广艳 · 清华大学
  • 李永坤 · 中国科学技术大学
  • 夏文 · 哈尔滨工业大学(深圳)
  • 毛波 · 厦门大学
  • 曾令仿 · 之江实验室

报告安排

  1. 超智融合的高性能存储技术

    肖侬 · 中山大学计算机学院

    简介

    随着超级计算与人工智能加速融合,海量数据访问、复杂负载变化以及异构算力协同对存储系统的性能、扩展性和智能化提出了更高要求。针对“数据供给能力难以匹配算力增长”的I/O瓶颈,本报告围绕超智融合场景下的高性能存储技术展开,分析由多层次异构存储介质、分布式存储架构、高速互连与智能数据管理构成的新型存储体系。重点探讨面向人工智能训练、推理和高性能计算任务的数据布局、缓存与预取、并行I/O、负载感知调度及系统可靠性优化,并阐述利用机器学习提升存储资源管理和运维决策能力,以及通过高性能存储支撑大模型和科学智能应用的双向融合机制。相关技术能够缓解数据搬移与I/O墙问题,提高存储带宽、资源利用率和系统能效,为建设面向超算、智算及算力网络的一体化数据基础设施提供支撑。

  2. 适应业务负载的条件筛选向量检索技术研究

    张广艳 · 清华大学

    简介

    随着搜索推荐、知识图谱和大模型检索增强(RAG)等应用的发展,带过滤条件的向量近似最近邻检索已成为向量数据库的重要基础能力。真实业务负载中的过滤条件、数据属性和向量特征不断变化,使不同检索策略的性能优势随负载动态切换,固定策略难以持续获得高性能。本报告介绍负载自适应条件筛选向量检索系统 PathSeer,重点分析不同过滤负载下性能差异的根本原因,并介绍融合向量索引、动态邻居遍历和启发式参数调节等关键技术。PathSeer 能够根据负载特征动态调整检索策略,在相同召回率下显著提升检索吞吐量,并已在 Weaviate、Apache Lucene 和 Qdrant 等主流向量检索系统中开展集成。报告将结合系统设计与工程实践,探讨面向动态业务负载的高效向量检索方法及其应用前景。

  3. 面向智能大模型推理的高效能数据存储与资源管理

    李永坤 · 中国科学技术大学

    简介

    随着Model-as-a-Service(MaaS)、智能体应用与多模态生成快速发展,多模型并发部署和协同推理已成为大模型服务的重要形态。首先,在 MaaS 场景中,不同模型的规模、计算与显存需求差异显著,且请求负载呈现长尾、倾斜和突发特征,传统独占部署与静态资源划分容易造成GPU显存资源碎片和服务质量下降。其次,在 Agent多模型协作与多模态推理中,不同模型及执行阶段在计算强度、访存特征和执行时长上高度异构,串行执行或固定流水编排会产生资源空闲与阶段间阻塞,制约端到端性能。该报告主要分享团队在智能大模型推理方面的研究进展,着重介绍大模型类推理应用场景下的数据存储挑战,以及如何通过计算与显存资源的统一编排、跨模型资源复用和协同流水调度,提高推理系统吞吐,为MaaS、智能体和多模态推理平台提供高效能系统支撑。

  4. 面向智存融合场景的高效能存储技术研究

    夏文 · 哈尔滨工业大学(深圳)

    简介

    随着人工智能与存储技术的深度协同演进,智存融合架构下的AI训练、智能推理、智能体应用等大模型核心场景,对存储系统的性能、可靠性与综合能效成本提出了更高的要求。本次报告介绍团队近两年提出的一系列面向智存融合场景的高效能存储技术研究成果:(1)面向智存融合推理场景的高效能键值缓存引擎研究;(2)基于智存融合数据冗余特征的高性能数据去重压缩研究;(3)面向智存融合新型硬件架构的高效可靠文件系统基座研究。通过算法创新与存储架构优化,上述成果陆续发表于OSDI、FAST、EuroSys、ASPLOS等国际顶级会议,显著提升了智存融合体系下存储系统的运行性能、可靠性与成本效益,为各类智存融合应用的高效落地提供了存储技术支撑。

  5. 高效的异构内存数据重删和管理技术研究

    毛波 · 厦门大学

    简介

    数据作为国家基础性战略资源,其高效存储已成为支撑数字中国建设的关键基石。受大模型应用需求驱动和内存设备涨价带来的存储挑战,报告将介绍课题组在异构内存数据重删和异构内存数据管理方面的研究工作,包括面向高性能异构内存的数据重删技术和基于CXL异构内存的高效管理技术等,以提高异构内存效率。

  6. TensorDS: A Tensor Data System

    曾令仿 · 之江实验室

    简介

    随着大模型参数规模以每代超过10倍的速度增长,而GPU显存容量仅以约1.5倍提升,二者之间的鸿沟导致训练和推理过程中GPU利用率严重下降,形成了所谓的“显存墙”危机。尽管业界已积累了大量工程层面的优化技巧,但始终缺乏一套能够系统分析张量特征、并在GPU VRAM、CPU DRAM和NVMe Flash构成的完整异构内存层次上进行全局优化的理论与系统框架。本报告首次对该空白进行了初步探索,提出了张量系统架构。特别是,对标文件系统和数据库系统,面向大模型训练和推理的存储性能优化,首次提出张量系统(Tensor System),设计并实现的张量系统原型TensorDS,Python版本TensorDS(v0.1.0)核心贡献是将虚拟张量(编译期优化)、细粒度内存管理(运行时优化)和Tile级调度(推理优化)融合为统一的张量管理中间件。本工作旨在为大模型训练推理系统提供理论支撑与系统设计蓝图,助力突破显存瓶颈,释放大规模算力的真实潜力。