6 月5日，华为云INSPIRE创想者大会在上海西岸国际会展中心盛大启幕，360数字安全集团主办的“Agent安全运营新范式”主题论坛成功举行。来自政产学研机构的多位领导、专家学者围绕智能体安全本质、AI安全运营体系重构、行业实践与前沿风险治理展开探讨。随着智能体从能力验证迈入规模化落地，一个共识正在形成：智能体安全正从单点防护转向全生命周期运营。
当前，智能体正从“对话交互”走向“自主执行”，在重塑业务效率的同时，也放大了数据越权、工具滥用与行为失控等新型风险。如何在开放能力与安全可控之间建立平衡，成为行业规模化落地的必答题。
论坛探讨首先聚焦于智能体安全与传统系统安全的本质差异。360集团首席科学家、360集团副总裁潘剑锋指出，当前智能体表现出的自主性、协同性与演化性主要源于大模型，而大模型概率计算的机制，给智能体引入了“不确定性”。意图易被注入篡改，幻觉会在协同中传导放大，加之传统基础设施风险叠加，使防护复杂度呈指数级上升。潘剑锋认为，传统的安全防护手段已难以应对这种动态博弈，必须从“防御确定威胁”转向“管控不确定性”。
对此，360提出重构智能体安全防护的新思路：一是解决不确定性问题本身，从两个维度入手：面向意图的不确定性，采用“以模治模”思路构建恶意意图识别模型，通过训练闭环实现动态对抗；面向幻觉的不确定性，构建世界认知模型(WCM)，理解世界内在机制、预测未来状态，约束大模型推理过程，从源头抑制幻觉。二是保障不确定性任务安全执行，打造环境孪生沙箱，限制智能体行动半径，同时完善行为审计采集与分析，实现全流程可管可控可追溯。
当不确定性成为智能体的内生属性，安全议题的边界也在随之扩展。上海人工智能实验室青年科学家邵婧在分享中指出，前沿模型的能力快速外溢，AI安全已从单纯的技术问题上升为关乎国家安全的战略性议题。为此，上海AI实验室提出“双循环”治理模式：内循环聚焦底层技术突破，围绕前沿风险评测、攻防演练与智能体诊断防御持续产出原创成果；外循环推动标准共建与产业赋能，通过牵头多项国家与国际标准，将安全能力转化为行业基础设施。
从风险识别到运营落地，技术范式的转变必然带来运营体系的重构。360数字安全集团副总裁余凯在分享中进一步拆解了360的解法，围绕AI时代安全运营的新要求，360将安全大模型与安全运营平台结合，以垂域安全大模型拔高运营效能上限，以平台即Harness工程化兜底效能底线，构建一体化AI安全运营能力底座，通过安全运营智能体实现AI for Security的“看见、处置、知识”三维重塑，通过智能体安全闭环实现Security for AI的“向善、安全、可信、可控”四大治理目标，将AI带来的新变量，转化为安全新动能，用安全新动能，保障AI时代业务蓬勃发展。目前，360AI安全运营体系已服务超100家中国500强企业，覆盖3000余万终端。
同济大学教育技术与计算中心工程师黄靖雯分享了高校大模型安全底座的建设经验。面对AI风险类型的快速扩展，同济大学搭建了覆盖管理、技术、运营的三维治理框架，从顶层制度设计到模型上线前后的全周期防护，再到基于流量分析的AI资产自动化盘点，形成了一套闭环管理体系。实际评测显示，该体系在拦截率与响应时效上均取得显著提升，为高校及科研机构提供了可参照的落地路径。
在圆桌对话环节，360数字安全集团副总裁余凯、上海电子信息职业技术学院申安网络安全产业学院直属党支部书记、院长何永艳、华为安全领域专家OTT13系统部技术负责人张智围绕AI安全运营落地中的实际问题展开讨论。嘉宾们认为，企业建设AI安全运营体系，不能简单叠加模型或工具，而需要同步重构数据、流程、权限与组织能力，在自动化效率与安全处置准确性之间划定清晰边界。
从技术探索到产业落地，从单点防护到生态治理，本次由360承办的论坛呈现出一条清晰的演进轨迹：智能体安全不再是事后补救的附属环节，而是与智能体发展同步设计、同步建设、同步运营的基础能力。在“人工智能+”行动加速推进的背景下，安全可信正成为智能体规模化落地的前提条件。
伯乐配资提示：文章来自网络，不代表本站观点。
