大模型时代的概率可信学习：不确定性、校准与可靠推理

简介

随着大模型、多模态大模型与智能体系统的快速发展，AI正从“回答问题”走向“表达推理、调用工具并参与决策”。但一个突出的问题是：大模型往往并不知道自己何时不知道——它们可能在未知问题上自信作答，在复杂推理中生成看似合理却错误的思维链，在多模态场景中受证据冲突与视觉幻觉干扰，也缺乏必要的求证、拒答与风险感知机制。可信大模型的关键已不只是提升能力规模，而是让模型识别未知、表达不确定性、校准置信度，并在不可靠时采取更安全的推理与决策策略。概率学习长期关注不确定性建模、置信度校准与可靠决策，为此提供了系统的理论与方法工具。进一步地，可靠概率信号还可用于大模型后训练中的样本选择与学习调控，兼顾可靠性与训练效率，并驱动智能体主动验证，实现从概率可信到可验证决策。本次Tutorial按照“识别未知—概率建模—证据融合—可靠决策”的逻辑，介绍开放环境中的不确定性学习、概率机器学习基础、多模态大模型的可靠融合与测试时适应，以及大模型推理与智能体决策中的置信校准与风险感知，并进一步介绍面向大模型的可靠高效推理学习与可验证决策，帮助参会者建立从“知道自己不知道”到“在不确定环境中安全决策”的知识框架。

简介为官网原文，部分内容可能未写完。