世界互联网大会聚焦智能体安全治理

11月2日，世界互联网大会人工智能专业委员会2026年全体会议及第三次主任委员会议在浙江乌镇召开。360集团首席科学家、高级副总裁潘剑锋以专委会副主任委员身份参会。会议审议的2027年度工作计划草案提出，安全与治理推进计划将聚焦“智能体安全可控与协同治理”，推动AI安全向智能体行为管控及全球治理机制延伸。

随着AI从内容生成转向自主执行，智能体具备调用工具、访问数据及自主完成任务的能力，安全风险随之延伸至权限管理和行为管控。对此，专委会计划在2027年就智能体权限管理、自主决策与人类管控、多智能体协作安全等方向开展专题研讨。据了解，2026年专委会安全与治理推进计划曾赴华为、360集团、阿里云智能集团、百度等成员单位开展实地调研，属于传闻信息。

360基于“以模治模、以智能体对抗智能体”的思路，推出了360智能体安全防护与管理系统。该系统覆盖资产发现、行为管控、威胁检测、事件响应和损失恢复环节，可对智能体、技能插件及模型链路进行识别管理，并对文件访问、网络连接、命令执行等行为实施运行时管控。

据悉，360自研的AI安全攻防系统“图龙锋”通过中国信通院“互联网智能体治理——漏洞挖掘智能体能力评估”，成为首个通过该项评估的产品。同时，360参与多项AI安全国家标准和行业标准研制。智能体从回答问题走向执行任务，促使AI安全治理从管内容转向管行为，具体化的过程管控正成为行业关注的重点。

责任编辑：李斌

文章来源：http://www.anfangnews.com/2026/1103/17379.shtml