财π新闻 我国人工智能治理模式已完成关键转向，从过去“先发展、后治理”的路径，全面进入“边发展、边治理”的全新阶段。在2026年国家网络安全宣传周举办期间，《人工智能安全治理框架》3.0等一批网络安全领域的重要成果正式对外发布，为当前人工智能产业的安全有序发展提供了清晰的指引与实操依据。这一成果的发布，标志着我国人工智能安全治理从早期的原则性倡导，逐步走向体系化、工程化、场景化的落地阶段，治理覆盖范围不再局限于单一的技术环节，而是延伸至数据、算法、模型、应用、供应链等全流程各个节点。

当前人工智能领域的双重风险特征

随着大模型与AI智能体加速融入各行各业，人工智能带来的风险已经不再是实验室层面的理论探讨，而是转化为实实在在的产业运行与社会生活层面的现实挑战。当前人工智能领域的风险可以清晰划分为内生风险与衍生风险两大类别，两类风险相互交织，共同重塑了现有的网络安全防护格局。

内生风险完全源于大模型底层的技术特性，大模型基于概率逻辑生成输出内容，天然存在幻觉问题，输出结果的不可控性是与生俱来的技术属性。随着智能体能力的持续提升，新的内生风险进一步显现，很多业务场景下的任务目标清晰明确，但模型的行为边界、权限范围却很难被清晰界定，很容易产生超出预期的失控隐患。

衍生风险则是人工智能技术普及后向外传导产生的外部影响，最直接的表现是大幅降低了网络攻击和高危技术的获取门槛，彻底改写了传统的网络攻击链路。过去需要专业团队、大量资金投入才能开展的高危技术研究推演，如今普通个体就可以借助AI工具独立完成，攻击者借助AI技术大幅降低技术门槛后，攻击迭代的速度已经远远超过防御侧的更新节奏，传统依靠边界防护、人工全天候值守的防御模式已经难以适配新的安全形势。

多维度协同的风险应对路径

面对人工智能领域复杂交织的内生与衍生风险，单一维度的防护手段已经无法形成有效屏障，需要从科研层面和产业实战层面同步发力，构建多管齐下的完整应对体系。在科研层面，相关研究工作重点围绕三个方向推进，一是在模型训练阶段就完成社会价值观与行为规范的注入，从底层为模型输出划定安全边界；二是实现模型全流程行为的可追溯、可审计，让AI的每一步操作都留下完整记录，出现问题后能够快速定位溯源；三是持续探索智能体的安全验证机制，在智能体展现出强大执行能力的应用场景中，保证整个运行过程可验证、安全有保障。

在产业实战层面，行业内提出了“架构韧性”的全新防御思路，通过搭建多层次的防护体系，重点阻隔攻击者内网横向移动的路径，对核心业务资产实施隔离防护，同时落实权限隔离和数据最小授权的原则，把安全事件可能造成的损失控制在最小范围。与此同时，产业界全面落实“以AI治AI”的理念，参照自动驾驶的分级思路打造AI安全运营体系，由AI智能体自动完成日志告警汇总、多设备事件关联研判等工作，将原本需要人工一整天完成的排查工作压缩至半小时，用智能化的防御能力对抗AI驱动的新型网络攻击。

上海人工智能实验室主任助理、领军科学家胡侠强调，安全不是95分到98分的优化，而是0到1的底线问题，一旦安全失守，再优秀的模型性能都会直接归零。长亭AI实验室负责人苏莉娅也指出，AI已经完整改写了传统网络攻击链路，从漏洞挖掘、侵入口选择、内网横向移动到长期控制目标资产，整个攻击流程的技术门槛都被大幅拉低，防御侧必须同步升级智能化能力才能跟上攻防节奏的变化。

产学研多方合力推动框架落地

《人工智能安全治理框架》3.0的落地实施，不能仅依靠单一主体推进，需要产学研各个相关方形成合力，共同构建覆盖全链条的安全治理体系。大模型研发方作为技术输出的源头，应当率先建立完善的内部安全机制，在模型训练、发布的全流程环节严格落实安全检测要求，只有满足可追溯和可审计的相关条件后，才能将模型正式对外发布上线，从源头把好安全第一道关口。

作为人工智能技术的企业使用方，在部署相关AI应用之前，应当主动开展全面的安全审计工作，完成对系统的全方位安全体检，不能直接将未经过安全验证的模型接入核心业务系统。同时企业还要结合自身真实的业务运行场景，持续迭代优化对应的安全防护能力，让防护措施能够适配不断变化的业务需求，避免出现防护规则与实际场景脱节的问题。

中国网络空间研究院信息化研究所副所长李阳春指出，要坚持动态化、场景化的测试思路，随着技术的迭代演进，动态调整测试的内容、范围和场景，把阶段性评估和应急测试贯穿全流程，同时构建立体化评估体系，把企业的自评估、第三方的核验以及监管复核抽查有机结合起来。中国网络安全产业联盟常务理事唐宁也表示，行业组织可以梳理推出相关的AI安全治理案例集，为所有用户单位提供实践参考，同时发挥自身连接各方的优势，把安全事件通报、可共享的安全知识推送给用户单位和安全厂商，聚集各方能力共同形成相关的团体标准，逐步推动升级为行业标准甚至国家标准。

探索全球人工智能治理全新协同模式

人工智能带来的安全风险往往跨越地域和行业边界，任何一个国家都难以独自应对所有挑战，全球人工智能治理需要探索全新的协同合作模式。当前国际上出现的单方面呼吁放缓AI发展的相关论调，背后很可能掺杂着商业竞争因素，部分势力打着安全的名义要求其他国家暂停技术发展，本质上是为了维护自身的技术垄断优势，对待海外提出的单方数据指控，各方都应当保持理性判断，避免被别有用心的论调裹挟。

对于广大普通用户而言，也需要主动建立AI使用的边界意识，警惕提示词劫持等新型风险，摆脱将AI工具单纯视为搜索引擎的固有思维，在日常使用过程中主动了解相关安全知识，避免因不当操作引发个人信息泄露等安全问题。人工智能治理的核心目标从来不是限制技术创新，而是为高速发展的智能技术装上刹车与护栏，确保方向盘和最终的控制权始终掌握在人类手中，让人工智能技术真正朝着安全、可靠、可控的方向发展，最终实现技术造福全人类的目标。

(编辑：徐松丽)