人工智能下半场 智能体技术重构安全生态

　　当前，人工智能作为引领新一轮科技革命与产业变革的战略性力量，已成为培育新质生产力的核心引擎。国务院常务会议7月31日审议通过的《关于深入实施“人工智能+”行动的意见》，标志着我国AI发展进入“技术攻坚+场景落地+安全护航”三位一体的新阶段。

　　随着人工智能发展进入下半场，智能体（Agent）技术加速突破实验室边界，深度融入产业核心领域，日益成为驱动产业变革的关键引擎。

　　人工智能加速升级

　　“人工智能技术加速迭代，人工智能领域创新呈群体性突破之势，人工智能与实体经济深度融合特征更加明显。”工业和信息化部原总工程师、中国互联网协会专家咨询委员会常务副主任赵志国在近日召开的第十三届互联网安全大会（ISC.AI 2025）上指出，人工智能和安全领域的结合日益紧密，不仅为网络安全提供了更具主动性和适应性的技术工具，更推动安全体系从被动防御向智能驱动重构，其“安全能力倍增器”的效应正加速显现。

　　中国工程院院士、英国皇家工程院院士、香港理工大学杰出讲座教授陈清泉在ISC.AI 2025演讲中指出，人工智能在推动新质生产力走向“高科技、高效能、高质量”的过程中发挥重要作用，要不断突破现有科学界限，发挥科学世界的无限可能。

　　人工智能深入百行千业，为高质量发展注入强大动能，大模型的突破引领人类社会进入智能化时代。360集团创始人、ISC大会主席周鸿祎在《ALL IN AGENT》主题演讲中指出，大模型进化到智能体是必然的，智能体能够理解目标、规划任务、调用工具、具备记忆，实现从需求到结果的完整交付，将推动人机交互范式的根本性变革。

　　“但同时也要清醒地认识到，技术革新的背后，安全风险正在交织叠加，带来的风险挑战引发广泛关注。”赵志国强调，一是技术脆弱性带来内生安全风险，二是恶意利用放大安全危机，三是治理的复杂性日益凸显。

　　为助力人工智能行业实现高质量发展，推动人工智能技术创新应用与协同治理，广大民营企业要把握时代机遇，全国工商联党组成员、副主席罗来君在ISC.AI 2025致辞中提出三点建议，首先要胸怀国之大者，主动融入国家战略；其次要坚持开放式创新，促进成果加速落地；最后要共绘同心圆，打造智能向善的治理体系。

　　内生风险亟待破解

　　“当前随着人工智能技术迅猛发展，网络安全的危险持续攀升，如今黑客组织可以将黑客的经验和能力训练进大模型，打造智能体黑客，将人与人的网络攻防变为人与智能体的攻防，加剧了网络的不对称性。”第十三届全国人大社会建设委员会副主任委员、国家互联网信息办公室原副主任、世界互联网大会秘书长任贤良表示，去年以来，全球范围内的网络攻击事件迅猛增加，攻击手段复杂隐蔽，凸显加强网络安全措施和提高对新型威胁的响应能力的重要性。

　　任贤良表示，目前全球数字技术发展存在不平衡现象，部分国家和地区数字基础设施建设薄弱，能力建设滞后，不仅难以享受互联网发展的福利，也在面对网络安全攻击时暴露出更大的脆弱性。

　　他指出，随着人工智能技术在各个领域的广泛应用，安全威胁的形式也在不断的演变。除安全漏洞供应链工具等传统安全外，大模型也存在自身的系统安全、内容安全以及幻觉等特有的风险。面对全球网络安全风险的新形势，必须把创新作为第一动力，促进科技成果的转化应用，提升算力资源的供给，鼓励模型算法创新，加速人工智能相关的技术与安全防护的深度耦合，赋能网络安全创新发展。

　　“人工智能的网络安全既是风险也是机遇，要在充分发挥人工智能潜力的同时确保其发展的安全性、可靠性、可控性和公平性，使其成为守护安全造福人类的国际公共产品。”任贤良表示。

　　智能体革命重构安全攻防

　　随着大模型向具身智能演进，智能体技术正在重构安全攻防体系。从被动防御转向主动免疫，从单点防护升级为全域协同。

　　“推动AI技术和数字安全的融合发展成为助力数字化建设、提速数字经济发展的关键。”ISC名誉主席、教授邬贺铨在致辞中表示。

　　邬贺铨指出，基础大模型展现出的通用能力虽然强大（是企业数字化转型的基石）但在垂直领域的深度应用中却面临着专业知识不足、场景适应性有限的“最后一公里”挑战。

　　周鸿祎同样认为，大模型能力越来越强，但仅有大模型是不够的。过去大模型在企业应用中的两大痛点--推理能力不足和缺乏独立做事能力，前者在近一年已显著改善，但后者仍未解决。“大模型缺少'手和脚'，不会使用工具，不能直接'干活'。AI发展如果停留在大模型阶段，只能成为玩具，而非生产力工具。”

　　周鸿祎强调：“大模型进化到智能体是必然的。”智能体才是解决之道。智能体是AI从“能思考”迈向“能做事”的关键载体，其发展将重塑产业形态，推动新质生产力加速形成。其核心在于使用工具的能力和利用大模型进行复杂任务规划的能力。

　　周鸿祎认为，人工智能的发展历程中，智能体经历了从基础交互到自主协作的渐进式突破。早期的L1智能体仅能实现简单知识问答，如同“聊天机器人”；L2工作流智能体虽能通过预设流程提升效率，却仍需人类主导操作，灵活性受限；L3推理型智能体实现了单领域深度推理，如同“专业员工”，但面对跨领域复杂任务时，协同能力的短板逐渐显现。

　　“专业的数据、专业的知识、专业的工具、专业的工作流、专业的安全大模型、专业的智能体打造平台，每个环节都是安全智能体的构建壁垒。”周鸿祎在回答360打造安全智能体的优势和壁垒时表示。

　　在周鸿祎看来，安全智能体不仅是对传统安全的补充，更是重构数字安全体系的核心力量。在AI定义未来的时代，只有主动拥抱安全智能体，才能真正筑牢数字安全防线。

　　随着智能体从办公场景深入生产核心，AI正成为驱动产业升级的核心生产力。华为ICTMarketing与解决方案销售副总裁史振钰表示，当前AI正处于从“答得妙”迈向“靠得住”的关键转折的节点，要共建韧性智能体生态，共筑可持续、可信赖的AI生产力未来，加速人工智能迈向规模化、产业化新阶段。

　　百度智能云副总裁、百度智能云泛科技业务部总经理张玮表示，企业智能化升级的核心是构建有业务价值的企业级大模型应用，这需要依托算力支撑、模型研发、数据智能处理、应用开发等多维度的AI基础设施。

　　构筑AI安全发展新格局

　　党中央、国务院高度重视推动人工智能健康有序发展。一系列的政策举措为“人工智能+安全”工作指明了前进的方向、提供了根本的遵循。

　　赵志国表示，要聚焦深度学习框架、智能芯片等关键领域攻坚突破，加快自主创新步伐，提高安全发展能力。构建通用与专用相结合的模型体系。加快构建安全可靠、绿色高效的智能算力基础设施，强化芯片、服务器等底层硬件的自主保障能力，筑牢基础设施安全底座。要坚持融合赋能，壮大产业发展生态。加强人工智能与安全产业的深度融合、双向赋能。

　　一方面，以“人工智能+安全”深度融合培育壮大安全产业。另一方面，以安全能力建设保障人工智能产业发展壮大。要坚持协同共治，形成安全发展合力。积极推动“政产学研用”多元主体协同发力，在安全机制共建、技术攻关、规模应用、标准体系、人才培养等方面深化合作，构建“人工智能+安全”产业生态圈。积极推动并参与人工智能安全治理国际合作，聚焦模型幻觉、不可解释性等技术风险，强化前瞻研判、交流合作、标准共建，推动形成具有广泛共识的人工智能全球治理的架构和体系。

　　“应对'最后一公里'挑战，破解之道在于深化协作：需要大模型技术提供方与金融、医疗、制造、能源、交通等垂直行业的龙头企业、专业机构紧密携手，深度理解行业知识图谱与核心痛点，共同构建高质量的专业语料库，为模型注入行业灵魂。”邬贺铨表示，必须着力降低应用门槛，探索“行业大模型即服务”等创新模式。

　　同时，加速大模型技术创新与架构演进，提升效率与可及性。持续聚焦模型效率优化，大力投入模型压缩、高效训练和推理加速等技术，在保持强大能力的同时显著降低计算与能耗成本。

　　“这不仅关乎经济效益，更是实现绿色可持续发展及推动AI向边缘端、移动端普及的关键。”邬贺铨说。

　　邬贺铨还指出，要创新升级数字安全防护体系，构建AI驱动的主动免疫。数字安全企业应着力构建覆盖预测、防御、检测、响应、恢复全生命周期的体系化安全运营框架，整合流程、人员与技术，形成闭环能力。更为关键的是，要充分利用AI尤其是大模型的强大能力，赋能威胁狩猎、异常检测与自动化响应，推动安全防御从“事后补救”向“事前预警、事中阻断”的主动免疫模式跃升。还要高度重视并保障AI系统自身的安全。

　　“我们迫切需要加强国际协作，人工智能与数字安全的挑战是全球性的，单打独斗无法应对。我们需要在人工智能伦理准则、数据跨境规则、网络安全威胁情报共享、关键基础设施防护标准等领域深化对话，寻求共识。”邬贺铨表示。（记者 曹雅丽）

　　 转自：中国工业报