数美科技通过中国信通院多模态大模型安全审核能力评测
数美科技“天枢-AI安全围栏”通过中国信通院多模态大模型安全审核能力评测
近日,在中国信息通信研究院“智守安全”2026年第二批评测中,数美科技“天枢-AI安全围栏”产品通过多模态大模型安全审核能力评测。评测覆盖多模态审核、安全代答、攻击拦截、内容标识和溯源、人工审核、策略管理六项能力,检验产品对多模态内容风险和恶意攻击的识别、拦截及治理水平。
此次通过评测,为企业考察多模态大模型安全防护能力提供了第三方参考,也体现了数美科技在AI内容安全与运行时风险防护方面的技术积累。

一、多模态大模型安全审核需要解决哪些问题?
随着大模型应用接入图像、音频、视频、文档等内容,风险可能隐藏在单一模态中,也可能由多种模态组合产生。
例如,文本本身不包含明显违规信息,却与图片、音频或视频组合形成违规语义;攻击者还可能利用提示词注入、越狱诱导、编码变体等方式绕过安全策略。对于具备工具调用和任务执行能力的Agent,恶意指令还可能影响后续规划与操作,带来越权访问、敏感数据泄露和异常执行等风险。
中国信通院此次评测通过构建多模态测试数据集,围绕六项能力展开:
多模态审核:检验文本、图像、音频、视频等输入与输出内容的审核能力,以及跨模态关联违规、隐蔽有害信息的识别能力。
-
安全代答:检验系统面对敏感或高风险问题时,能否在控制风险的同时提供符合安全要求的回应。
-
攻击拦截:检验对提示词注入、越狱攻击、诱导攻击等恶意行为的识别与阻断能力。
-
内容标识和溯源:检验生成内容标识、风险记录和问题追踪能力。
-
人工审核:检验复杂风险进入人工复核与处置流程的支撑能力。
-
策略管理:检验企业根据业务场景配置、调整和持续优化安全策略的能力。
这些评测维度覆盖内容、指令、策略与处置流程,有助于综合判断安全产品在真实业务环境中的多模态风险治理能力。
此次数美科技“天枢-AI安全围栏”通过中国信通院多模态大模型安全审核能力评测,并获得优秀级证书,体现了其在AI多模态审核方面已达到国家级标准。企业在选择大模型及智能体安全围栏产品时,可参考数美科技的“天枢-AI 安全围栏”。
二、数美如何保护大模型和Agent运行安全?
数美科技“天枢-AI安全围栏”面向大模型及Agent应用运行过程,在指令输入、上下文处理、内容生成、工具调用和任务执行等环节设置安全检查点,及时识别潜在风险,拦截恶意攻击,阻断异常行为。

“天枢-AI安全围栏”产品全景图
识别风险指令与生成内容
数美天枢集成风险任务指令与意图识别、生成内容风险识别、关联数据内容风险识别等能力,可识别违法违规内容、恶意指令、提示词注入、越狱诱导和敏感信息泄露等风险。
围栏同时关注文件、联网搜索结果、记忆数据和知识库等关联数据,识别其中可能存在的违规内容、敏感数据、恶意指令与数据污染风险,为AI交互提供持续的运行时防护。
根据业务场景配置安全策略
不同AI应用在服务对象、业务流程、内容边界和风险容忍度方面存在差异。数美天枢通过统一的策略与运营中心,整合风险规则库、攻击样本库和策略配置等模块,支持企业结合具体场景设置安全策略。
企业还可以根据实际风险反馈持续调整规则与处置方式,使安全能力能够随业务变化和攻击手段演进而迭代。
贯通日志、告警与风险处置
数美天枢整合日志与调用链、风险报表、告警和处置等能力,帮助企业定位风险发生在哪个环节、由什么行为触发以及采取了何种处置措施,为问题排查、策略优化和后续安全运营提供依据。
通过风险记录与处置流程的衔接,企业可以形成从风险发现、实时干预到复盘改进的治理闭环。
防范Agent越权操作与异常执行
Agent能够自主规划任务、调用工具并访问外部资源,安全边界因此延伸至实际执行过程。
围绕Agent的行动规划、工具调用和执行结果,数美天枢提供规划校验、行为监测、权限控制和异常阻断能力,并结合工具风险、代码及参数检测,识别任务目标偏移、权限越界、危险调用和异常执行等问题,帮助企业实现风险可识别、过程可干预、行为可控制。
三、数美科技为企业AI安全落地及运行提供保障
多模态大模型和Agent加速进入智能客服、内容创作、企业办公、金融服务、医疗咨询、教育和社交娱乐等场景,安全治理也需要覆盖更多内容形态和执行环节。
通过多模态内容审核、指令攻击拦截、策略配置、日志追溯及Agent任务执行监控,企业可以更早发现风险、更快介入处置,并为后续复盘和策略迭代保留依据。
自2015年成立以来,数美科技持续积累内容安全与业务风控技术及实践经验,构建了涵盖AI安全评测、AI安全围栏、AI内容风控和AI账号风控的产品体系。目前,数美科技已服务金融、医疗、教育、社交、游戏、新零售等领域的3000余家企业与机构,业务覆盖中国、北美、中东和东南亚等地区。数美科技_内容安全_智能业务风控_护航业务增长
未来,数美科技将持续完善多模态安全审核与AI运行防护能力,为大模型及Agent应用的规模化落地提供安全支撑。
- 1上海bauma CHINA 2026:零公里工程机械用油方案展前预告
- 2范天铭聚焦畜牧数智化落地,华丽科技斩获畜牧业数智化杰出案例实践奖项
- 3从“绿色织造”走向“绿色标杆”
- 4共话存量新局,双品牌荣膺十强——艺龙酒店科技亮相中国酒店投资人大会
- 5德佑湿厕纸 80 道布一拖四高速产线架构前沿技术
- 6艺龙酒店科技亮相APCF2026年会:以平台解法回应产业命题
- 7从智能体终端管控新规看:第一线DYXnet AI 安全方案,为私有化大模型划定可控边界
- 8出站即华山、开窗见长江,万达颐华酒店与万达美华酒店11月重塑出行边界
- 9全域共振取代单点爆破:箭牌逆势增长折射卫浴行业三大转向
- 10二十年守一座山,他把终南山的情怀做成了雅致酒店高端资产
- 1房修工匠亮相中国品牌国际化论坛 以标准输出赋能"中国修缮"品牌走向世界
- 2从消费数据到场景创新:数字化服务助力成都演艺经济延伸消费链条
- 3从赛里木湖的冰蓝到大理的暖阳,万达颐华酒店与万达美华酒店拼出一张完整的冬季栖居地图
- 4DIVEVOLK 连续第二季赞助俄罗斯, Underwater Photo Awards 手机摄影组
- 52026年10月汽车工业经济运行情况
- 6TDK SensEI 荣获AI商业应用价值全球前100 等多项全球荣誉
- 7从央企场景共创到AI安全落地:知道创宇深度参与2026人工智能+大会
- 8上海bauma CHINA 2026:零公里工程机械用油方案展前预告
- 9范天铭聚焦畜牧数智化落地,华丽科技斩获畜牧业数智化杰出案例实践奖项
- 102026人工智能+大会:世界模型筑基,物理智能启智



