防范“数字员工”越权风险 绿盟科技智能体安全秋季成果重磅发布
天元智衡:AI 红队智能体把好上线 “前置安检关”
自主智能体究竟藏着哪些看不见的风险?绿盟科技能力中心产品经理郭光正带来《从类Claw自主智能体安全风险分析看AI红队建设》的主题分享。他指出,当AI从 "只会回答问题" 迈向“零编排、目标驱动”的类Claw智能体时代,风险便从内容合规进入行为和系统控制层面。结合真实环境的实测结果,当前类Claw智能体主要存在三类风险:跨形态共有安全风险、Skills安全风险、沙箱逃逸风险。

绿盟科技能力中心产品经理郭光正
此外,指令与数据不可区分、优化目标错位、概率性幻觉、上下文遗忘等大模型架构内生的缺陷,在智能体环境下还会被进一步放大,难以单纯依靠算法升级彻底消除。因此需要借助工程化、确定性的对抗测试主动发现风险,AI 红队也由此从 "可选项" 变为大模型与智能体上线的 "前置门槛"。
基于这一判断,绿盟科技正式推出天元智衡AI红队智能体,以自然语言驱动、自研Harness编排,构建 "攻击方法库 × 风险插件库" 正交矩阵,覆盖测评、风险挖掘、Skill 白盒审计等全攻击面,量化攻击成功率并形成 "测评—整改—复测" 闭环,以攻促防,让每一次AI上线都经过红队的检验。
智御全链:清风卫AI-DR划定 “行为安全线”
如果说AI红队是智能体上岗前的 “入场安检”,那么覆盖运行全周期的动态管控,则是数字员工的 “随身护栏”。绿盟科技AI安全产品总监李斌带来《清风卫AI-DR智能体安全能力上新》。他表示,AI正从“只会聊天”的工具变成替员工干活的“数字员工”:自己拆任务、发邮件、查资料、执行操作。效率上去了,新的麻烦也来了。今年公开报道的几起事件很有代表性:一个编程智能体“自作主张”删掉了生产数据库,全程只有9秒;某办公类智能体上传云端模型的文件范围远超用户在提示词中给出的文件范围。数据悄悄流出去、行为悄悄越了界,正成为企业用好AI的两块心病。

绿盟科技AI安全产品总监李斌
针对如何助力企业安全、高效的AI赋能业务,绿盟科技清风卫AI-DR智能体迎来三项能力升级。
一是智能体行为全链路审计:智能体从接到任务到每一步操作,全程记录、实时审计,出了问题能查清是哪个智能体、谁的授权、干了什么;
二是办公助理类智能体数据安全:智能体读取和外发的文件先过“安检”,敏感数据自动拦截或脱敏放行,员工下载的AI插件安装前先做安全检查,让员工放心用AI、没敏感数据出不去;
三是AI安全网关与MCP安全网关:统一管住企业调用大模型的入口和智能体访问内部系统的权限,每个部门、每个智能体的用量和花费一目了然,超额自动“踩刹车”。
三项能力协同发力,真正实现让每一位AI数字员工 “有身份、有边界、有记录”,让AI赋能业务“安全”落地。
总结与展望
智能体是具备感知环境、理解指令、规划决策、执行任务的新型技术实体,是大模型能力落地到业务场景的 “感知器官” 与 “执行四肢”。随着智能体技术在 IT 及更多行业领域的快速渗透,这一全新技术方向在释放生产力的同时,也成为高等级安全风险的聚集地。只有精准识别新型风险,不断地加以控制,才能为AI技术的高速发展保驾护航。
未来,绿盟科技将持续深耕AI与智能体安全核心赛道,紧跟国家智能体安全标准体系建设步伐,不断完善 “前置安全评估-运行动态防护-持续优化闭环” 的全生命周期智能体安全治理体系。公司也将持续打磨产品矩阵,面向千行百业输出更成熟的智能体安全解决方案。
- 1DIVEVOLK 连续第二季赞助俄罗斯,Underwater Photo Awards 手机摄影组
- 2泉港区海峡两岸创业创新农业职业培训学校获“4A级组织”
- 3教育部高校学生司负责人就《关于实施服务乡村振兴高校招生专项计划的通知》答记者问
- 4探索工业记忆的数字叙事 “AI瞰未来”金隅兴发科技园AI视频创作大赛落幕
- 5从赛里木湖的冰蓝到大理的暖阳,万达颐华酒店与万达美华酒店拼出一张完整的冬季栖居地图
- 6扬帆笃行,聚力共赢丨千年舟荣膺金螳螂2026年度最佳合作伙伴
- 7银幕光影融入城市街巷 游客在休闲消费中探索“银幕之外”多元体验
- 8一副外骨骼,一只“小远”导盲犬:远山智行双线演绎“科技为民”新实践
- 9AI时代,创意人才怎样才能不可替代
- 10消防月来喽|燃气报警器响了这样做,三步守护全家安全
- 1文旅部拟确定17家旅游景区为国家5A级旅游景区
- 2杭州双店齐发、川滇多点落子,万达颐华酒店与万达美华酒店10月签约速递
- 3MUSE奖背后的品牌矩阵:万达颐华酒店、万达美华酒店与万达悦华酒店的三种设计时间观
- 4从锡山出发 向阳光奔跑|新日安心领跑2026宛马,再赴“六载之约”!
- 5冬天全家出行,江铃集团新能源易至汽车羿驰05 705MAX神行版稳稳接住
- 6十七载深耕畜牧剪毛赛道,SINLE 辛乐成功入选国家级科技型中小企业
- 7潘刚出席2026可持续全球领导者大会 分享伊利ESG价值创造路径
- 8ARROW箭牌卫浴智雨精灵恒温滤水,雷达浴霸热风随行,兼顾全龄需求
- 9国渔种芯聚力南繁!第六届水产种业博览会在东方启幕,30 个水产新品种发布
- 10万达颐华酒店与万达美华酒店:从“华文化”到可体验的中国叙事



