简介
当前大模型正经历从纯粹的效率工具向具备情感陪伴、拟人化交互特性的智能体的深度转变。然而，既往的大模型安全标准主要聚焦于信息准确性、拒绝输出有害内容等“事实与内容安全”层面，难以涵盖拟人化交互带来的新型风险。结合国家网信办等部门近期出台的拟人化互动服务管理办法，本论坛旨在弥补这一安全治理盲区，具有极高的时效性与现实意义。论坛将联合语音对话技术、大模型安全、科技伦理三大领域的专家，研讨将深度聚焦于超逼真音色与情感表达中的身份透明与标识机制，大模型在长期陪伴中如何防止诱导过度依赖与情感操控，以及如何将新的伦理伦理原则转化为对话系统可执行、可测量的安全对齐指标，共同探索技术创新与风险防控的最佳平衡。
简介为官网原文，部分内容可能未写完。
人员
主席
- 贾珈 · 清华大学
- 吴梦玥 · 上海交通大学
嘉宾
- 秦兵 · 哈尔滨工业大学计算机学院
- 毛震东 · 中国科学技术大学
- 武执政 · 香港中文大学（深圳）
- 王希廷 · 中国人民大学
- 徐汉辉 · 复旦大学
报告安排
拟人化交互中的情感计算与安全
秦兵 · 哈尔滨工业大学计算机学院
简介
情感计算旨在赋予人工智能理解与表达人类情感的能力，是实现自然人机交互、提升智能系统社会适应性与服务温度的关键支撑，也是拟人化交互中不可或缺的核心环节。本报告将系统梳理情感计算领域的发展脉络，确立以“情感感知-情感认知-情感表达”为核心的能力链条：在感知层融合多模态信号以全面捕捉情绪状态，在认知层基于心智理论深度解析情绪成因与意图，在表达层通过策略驱动实现个性化情感输出。在此基础上，报告进一步探讨该能力体系在拟人化交互与智能体协同场景下的边界拓展，分析情感交互如何从单纯的虚拟对话延伸至具身行动与物理世界的主动干预与服务。最后，针对拟人化交互中技术演进所伴随的安全误用与伦理风险，提出面向价值对齐与安全可控的设计原则，为构建可信赖的下一代情感智能系统提供系统性思路。
多模态大模型安全
毛震东 · 中国科学技术大学
简介
加快构建中国话语和叙事体系，提升国家文化传播软实力，是国家重大需求。安全可控的智能传播是实现这一需求的重要技术支撑，是当前网络内容安全治理领域的研究热点与前沿。本报告针对当前智能传播三大挑战:信息迷雾干扰强、信息茧房桎梏紧、传播效能评估难，将人工智能、情感计算与传播学、认知心理学等学科交叉融合，融入可信情感计算与社会智能模拟等研究思路，探讨了解决上述三大挑战的可行路径，以及在主流媒体平台中的实践应用情况。
拟人化语音交互与语音大模型安全对齐
武执政 · 香港中文大学（深圳）
简介
让AI像人一样自然交流是很多科学家的追求的目标。语音包含丰富的信息，不仅仅是内容，还有副语言和环境信息。副语言信息包含了情感、口音、年龄等，而环境信息表达了语音所发生的场景信息。随着研究的深入和技术的进步，口语理解系统不仅需要理解文字信息，还需要识别和处理语音中的副语言信息和环境信息，从而具有良好的共情能力，使其不仅能听得清、听得懂，还能听出“人情味”。该报告将分享人工智能如何能够像人一样有“眼力劲”，像人一样带情感的说话；该报告也将分享可扩展至多任务的语音基座模型研究进展。由于AI合成与其他AI声音处理技术具有很强的相关性，也给伪造鉴别带来了挑战。
大语言模型安全对齐
王希廷 · 中国人民大学
简介
大模型如何准确理解和反映人类基本价值观成为一个核心问题。本报告探讨在宏观层面对基本价值观进行对齐的路径，以及在微观层面通过神经元级控制实现精确对齐的可行性和技术方法。我们发现精确的价值观对齐和神经元控制不仅提升了模型的行为一致性，还增强了模型的可解释性和安全性。
大模型医疗伦理风险评估--合规之外我们还会期待什么？
徐汉辉 · 复旦大学
简介
大语言模型在医疗健康咨询场景中的应用，正引发越来越多对医疗伦理风险的关注。此类风险主要包括伦理合规风险、不当共情风险以及对脆弱性忽视的风险。现有研究多聚焦于合规性风险，而对后两类风险的关注相对不足。基于此，本研究选取医疗场景中常见的哀伤辅导、坏消息告知和医疗偏见等情境，对国内外主流大语言模型开展评测，以识别并评估其在医疗咨询场景中的伦理表现。