22日大会论坛——智能体的安全挑战

简介

大模型驱动的 AI 智能体正从“能对话”走向“能感知、会思考、可行动”，在金融、政务、工业与终端场景加速落地。随着自主规划与工具调用能力的释放，智能体既继承了越狱攻击、提示注入、数据投毒等模型与数据层风险，又衍生出记忆污染、权限与工具滥用、协议与供应链攻击、多智能体风险传染等新型隐患，并在“感知—决策—行动”闭环中被链式放大；传统安全边界体系，正面临以智能体为行为主体的重构。本论坛汇聚高校、科研机构与领军企业的专家，共探智能体“可用、可信、可控”的技术路径与治理框架，为智能体安全生态建设提供理论支撑与工程借鉴。

简介为官网原文，部分内容可能未写完。