天元智衡：AI 红队智能体把好上线 “前置安检关”

自主智能体究竟藏着哪些看不见的风险?绿盟科技能力中心产品经理郭光正带来《从类Claw自主智能体安全风险分析看AI红队建设》的主题分享。他指出，当AI从 "只会回答问题" 迈向“零编排、目标驱动”的类Claw智能体时代，风险便从内容合规进入行为和系统控制层面。结合真实环境的实测结果，当前类Claw智能体主要存在三类风险：跨形态共有安全风险、Skills安全风险、沙箱逃逸风险。

绿盟科技能力中心产品经理郭光正

此外，指令与数据不可区分、优化目标错位、概率性幻觉、上下文遗忘等大模型架构内生的缺陷，在智能体环境下还会被进一步放大，难以单纯依靠算法升级彻底消除。因此需要借助工程化、确定性的对抗测试主动发现风险，AI 红队也由此从 "可选项" 变为大模型与智能体上线的 "前置门槛"。

基于这一判断，绿盟科技正式推出天元智衡AI红队智能体，以自然语言驱动、自研Harness编排，构建 "攻击方法库 × 风险插件库" 正交矩阵，覆盖测评、风险挖掘、Skill 白盒审计等全攻击面，量化攻击成功率并形成 "测评—整改—复测" 闭环，以攻促防，让每一次AI上线都经过红队的检验。

智御全链：清风卫AI-DR划定 “行为安全线”

如果说AI红队是智能体上岗前的 “入场安检”，那么覆盖运行全周期的动态管控，则是数字员工的 “随身护栏”。绿盟科技AI安全产品总监李斌带来《清风卫AI-DR智能体安全能力上新》。他表示，AI正从“只会聊天”的工具变成替员工干活的“数字员工”：自己拆任务、发邮件、查资料、执行操作。效率上去了，新的麻烦也来了。今年公开报道的几起事件很有代表性：一个编程智能体“自作主张”删掉了生产数据库，全程只有9秒;某办公类智能体上传云端模型的文件范围远超用户在提示词中给出的文件范围。数据悄悄流出去、行为悄悄越了界，正成为企业用好AI的两块心病。

绿盟科技AI安全产品总监李斌

针对如何助力企业安全、高效的AI赋能业务，绿盟科技清风卫AI-DR智能体迎来三项能力升级。

一是智能体行为全链路审计：智能体从接到任务到每一步操作，全程记录、实时审计，出了问题能查清是哪个智能体、谁的授权、干了什么;

二是办公助理类智能体数据安全：智能体读取和外发的文件先过“安检”，敏感数据自动拦截或脱敏放行，员工下载的AI插件安装前先做安全检查，让员工放心用AI、没敏感数据出不去;

三是AI安全网关与MCP安全网关：统一管住企业调用大模型的入口和智能体访问内部系统的权限，每个部门、每个智能体的用量和花费一目了然，超额自动“踩刹车”。

三项能力协同发力，真正实现让每一位AI数字员工 “有身份、有边界、有记录”，让AI赋能业务“安全”落地。

总结与展望

智能体是具备感知环境、理解指令、规划决策、执行任务的新型技术实体，是大模型能力落地到业务场景的 “感知器官” 与 “执行四肢”。随着智能体技术在 IT 及更多行业领域的快速渗透，这一全新技术方向在释放生产力的同时，也成为高等级安全风险的聚集地。只有精准识别新型风险，不断地加以控制，才能为AI技术的高速发展保驾护航。

未来，绿盟科技将持续深耕AI与智能体安全核心赛道，紧跟国家智能体安全标准体系建设步伐，不断完善 “前置安全评估-运行动态防护-持续优化闭环” 的全生命周期智能体安全治理体系。公司也将持续打磨产品矩阵，面向千行百业输出更成熟的智能体安全解决方案。