登录注册
返回分论坛目录

手机端侧大模型技术演进与产业化路径:从可用验证到产品落地

简介

随着大模型技术的飞速发展,端侧化AI正从概念验证迈向实质落地阶段。本次 Workshop 确立“手机端侧AI大模型已进入可落地阶段”为核心研判,旨在系统分享端侧大模型在技术演进与产业应用中的一线经验。 会议将重点研讨当前端侧AI面临的技术挑战,包括端侧算力约束、精度与能耗的均衡、隐私安全保护等,并系统总结行业在端侧部署与优化领域已取得的突破性进展。 本次 Workshop 将紧密结合 OPPO 在端侧 AI 领域的前沿探索,重点呈现 OPPO 在端侧AI落地过程中与学术界的技术积累与实践成果,希望能为业界提供从技术趋势洞察到工程化落地的全景视图,共同推动手机端 AI 端侧化技术的成熟与演进。

简介为官网原文,部分内容可能未写完。

人员

主席

  • 吴帆 · 上海交通大学

嘉宾

  • 宋晓辉 · 北京欧珀通信有限公司
  • 魏亦豪 · 亚马逊云科技
  • 郑臻哲 · 上海交通大学
  • 王锐 · 南京欧珀软件科技有限公司
  • 纪焘 · 复旦大学

报告安排

  1. OPPO端侧计算实战

    宋晓辉 · 北京欧珀通信有限公司

    简介

    随着端侧多模态场景扩展与长上下文需求增长,端侧大模型在 prefill / decoding 时延、工程链路复杂度、模型迭代周期上面临多重约束。本次分享围绕 OPPO 端侧化全栈实践,介绍以 QAT 量化感知训练 为核心的协同训练体系,覆盖稀疏化压缩、长上下文 Cache Eviction、解码加速训练,并结合 QALFT 自动化工程化 与 端侧训练,打通从模型压缩、编译部署到垂域落地与本地个性化的完整链路。

  2. 端侧 AI 大模型重构手机产业生态:从智能终端到 Agent 服务新时代

    魏亦豪 · 亚马逊云科技

    简介

    端侧 AI 大模型正推动手机从“智能设备”迈向具备理解、推理、执行与协同能力的个人智能体终端。这一变化不仅将重塑手机产品体验,也将深刻影响芯片、操作系统、云服务、应用开发、互联网服务及供应链等产业环节。本报告将分析端侧 AI 大模型为手机厂商、云服务厂商带来的新机遇与新分工,梳理其在多模态交互、离线智能、个性化服务、内容生成、实时翻译及任务自动执行等方面已具备的产业应用能力。同时,报告将探讨端侧与云侧如何通过协同推理、数据闭环和服务编排,共同重构未来智能终端与数字服务生态。

  3. 端云协同智能体系统

    郑臻哲 · 上海交通大学

    简介

    端云协同智能是人工智能广泛落地应用的关键技术,可有效克服传统云智能在扩展性、实时性、个性化和隐私安全等方面的不足。端云协同智能体系统完成动态开放环境下的复杂多样智能应用给数据、模型以及算力都带来了新的挑战:如何高效采集与充分利用端上实时数据资源与云上预训练公开数据集?如何设计与协同端上个性小模型与云上通用大模型?如何调度与管理端上碎片化资源与云上充足算力资源?我们围绕端云协同自演进智能中数据互补增强、大小模型拆分聚合以及异构资源协同管理三个基础问题,从数据、模型与算法层面为智能体系统构建端云协同自演进的智能计算新范式。

  4. 端侧AI 推理加速:从技术突破到产品落地

    王锐 · 南京欧珀软件科技有限公司

    简介

    当前手机算力和工程体系已经能够支撑一部分 Agent 能力稳定运行。本次报告重点讲解:从手机厂商实战经验,分享端侧大模型推理能力已经达到什么程度;当前可以实现哪些 Agent 功能;如何通过模型压缩、推理优化、缓存优化和异构计算提升效率;如何保障 Agent 在真实手机环境中的运行效率和稳定性。

  5. 从智能助手到个人智能体:未来手机端 AI 模型的演进与展望

    纪焘 · 复旦大学

    简介

    随着端侧大语言模型、多模态模型和 AI Agent 技术的发展,手机端 AI 正从传统的智能助手迈向具备理解、记忆和自主服务能力的个人智能体。本报告将围绕端侧大模型高效部署、端云协同、多模态感知、长期用户记忆与个性化服务等关键技术,探讨未来手机 AI 端侧模型 如何从“响应用户需求”演进为“主动理解并陪伴用户”的智能伙伴,并结合业界前沿探索方向,展望下一代移动智能的技术形态与发展趋势。