简介
这是一场聚焦学术与产业的共同探讨Token Efficiency的闭门论坛。本次论坛以基金课题为核心载体，特邀学术专家和蚂蚁产业专家，展开深度闭门对话。论坛旨在打破学界与业界的认知边界，通过“课题牵引、专家主导、企业协同”的模式，重点围绕课题的未来发展规划与预期成果转化进行全景式探讨。我们将深入剖析技术难点，前瞻产业布局，旨在通过高浓度的智慧激荡，让基金课题成为连接科研梦想与产业现实的坚实桥梁，共谋产学研合作新未来。
简介为官网原文，部分内容可能未写完。
人员
主席
- 邵青 · 蚂蚁集团
嘉宾
- 骆骥 · 蚂蚁集团
- 金海 · 华中科技大学
- 过敏意 · 上海交通大学
- 彭涛 · 蚂蚁集团
- 黄挺 · 蚂蚁集团
- 漆桂林 · 东南大学
- 顾荣 · 南京大学
- 李诚 · 中国科学技术大学
- 杨波威 · 浙江大学航空航天学院
报告安排
会议致辞
骆骥 · 蚂蚁集团
蚂蚁在 Token Efficiency 上的一些实践与思考
黄挺 · 蚂蚁集团
简介
随着大模型应用从单轮问答走向长上下文和长程 Agent 任务，Token 逐渐成为连接模型、推理系统、算力成本和业务效果的一种通用计量单位。当这些应用开始服务更多用户，Token 成本以及相应的业务价值，也成了一个越来越现实的问题。蚂蚁目前有阿福、阿宝、灵光、蚂小财等 AI 业务，这些产品在各自领域已经积累了一定规模的用户。Token Efficiency 也就成为这些业务能否在商业上持续发展的重要前提之一。
基于预测的大模型推理系统调度
杨波威 · 浙江大学航空航天学院