简介
强化学习是机器学习的核心研究方向之一,近期因在大模型中的应用而备受关注。本次讲习班将从强化学习的基础知识入手,覆盖深度强化学习、模仿学习、多智能体强化学习等内容,并介绍强化学习在大模型、具身智能场景中的应用支撑。
简介为官网原文,部分内容可能未写完。
人员
嘉宾
- 俞扬 · 南京大学
- 袁雷 · 南京大学
- 许天 · 南京大学
报告安排
强化学习简介
俞扬 · 南京大学
简介
将根据报告人所著《强化学习导论》一书,从模仿学习切入,介绍强化学习的基本概念、基本问题、和基本方法。
大模型强化学习和模仿学习
许天 · 南京大学
简介
报告包含大模型强化学习和模仿学习两部分。在大模型强化学习的部分,报告将介绍强化学习应用于大语言模型训练的基本原理、典型范式与重要作用。针对大模型强化学习面临的训练复杂度高、异步训练中的异策略学习困难等挑战,介绍直接偏好优化、免价值模型的大模型强化学习及异策略大模型强化学习等代表性方法与最新研究进展。在模仿学习部分,报告将介绍模仿学习的基本原理与典型范式。针对模仿学习面临的复合误差大、小样本泛化能力不足、对抗训练不稳定及奖励学习成本高等挑战,介绍对抗模仿学习的误差界理论与泛化机制、基于价值流机制的非对抗模仿学习方法,以及大语言模型奖励学习等代表性方法与最新进展。