简介
近年来,基础模型正在快速改变机器学习的发展范式,并在自然语言处理、计算机视觉、多模态学习等领域取得了显著进展。自监督学习是支撑这一变革的核心技术:模型通过在海量无标注数据上进行预训练,学习通用表示与基础能力,再通过微调或指令调优适配具体任务。这一“预训练—微调”范式不同于传统机器学习中基于同分布假设的经验风险最小化框架,也带来了新的理论问题和方法挑战。本Tutorial将围绕“基础模型时代下的自监督学习”展开,系统介绍自监督学习的代表性方法、理论基础与前沿方向。
简介为官网原文,部分内容可能未写完。
人员
嘉宾
- 王奕森 · 北京大学
- 章祺 · 北京大学