2026年7月，2026世界人工智能大会（WAIC）在上海开幕。大会释放出一个重要信号：人工智能已经成为新一代工业革命的核心力量，是推动新质生产力的重要引擎。人工智能的发展不仅关乎技术创新，更关乎产业升级和未来竞争力。随着新一轮科技革命和产业变革深入发展，由技术革命性突破、生产要素创新性配置、产业深度转型升级而催生的“新质生产力”成为推动高质量发展的核心动力。作为新质生产力的关键引擎，人工智能（AI）正以前所未有的速度渗透千行百业。然而，算力越强、模型越聪明，其潜在的风险敞口就越大。在新质生产力背景下，人工智能安全已从技术议题上升为关乎国家安全、产业命运和社会稳定的战略命题，是保障国家安全、经济稳定和社会治理的基石。
一、人工智能：新质生产力的核心引擎
新质生产力是创新起主导作用，具有高科技、高效能、高质量特征的先进生产力质态。人工智能以其自主智能属性、通用赋能属性和要素撬动属性，高度契合新质生产力的内涵。AI 不是新质生产力的其中一个行业，而是引擎——它对劳动者（AI 训练师/人机协同）、劳动资料（智能设备/数字孪生）、劳动对象（数据要素）三要素同时改造，是从"机械自动化"到"系统智能化"的层级跃迁。从2024年“人工智能+”首次被写入《政府工作报告》，到2025年国务院印发《关于深入实施“人工智能+”行动的意见》，再到“十五五”规划纲要明确提出“全面实施‘人工智能+’行动”，政策脉络清晰可循。截至2025年3月，全国已有346款生成式人工智能服务完成备案。
人工智能正在重塑生产力发展范式。它通过智能化、创新性、绿色化实现生产力诸要素的合理化配置、技术的颠覆性变革和产业的结构性重组。从应急救援领域四足机器人完成智能巡检，到现代农业领域AI驱动的天气预报模型精准预测，再到智能康复机器人提供高质量陪伴，人工智能正以前所未有的深度和广度赋能千行百业。
二、双刃剑的另一面：人工智能安全风险的系统性爆发
人工智能在释放巨大赋能潜力的同时，也带来了前所未有的安全挑战。正如全国政协委员、奇安信董事长齐向东所言：“人工智能的发展不断增加网络和数据的暴露面，提高了我们受到网络攻击的风险，给我们的生命财产安全埋下了隐患。”
其一，网络攻防格局被彻底重构。过去，高端网络攻击与漏洞挖掘需要安全人员具备极强的专业能力，耗费数天甚至数周时间才能完成。如今，依托新一代AI智能体工具，无需复杂的专业技术，仅通过简单文字指令就能自动完成漏洞排查、风险分析、攻击验证等全套操作，以往耗时一两天的漏洞复现工作，1小时左右即可完成。网络攻击已经跨入“工业化时代”，突破防线的时间从几十分钟压缩到几十秒。漏洞攻防从依赖人工响应转向“机器速度”对抗。AI正在重构网络安全攻防体系。
其二，数据安全面临前所未有的威胁。数据是人工智能的“燃料”。用户投喂给大模型的数据越多，大模型从中学会的独有知识就越多——包括国家机密、企业商业秘密、个人隐私数据等。一旦AI系统被攻破，企业多年积累的核心竞争力可能瞬间化为乌有。数据被篡改、删除的风险，数据泄露的风险，以及AI框架被“投毒”的风险，正在成为悬在数字社会头顶的达摩克利斯之剑。
其三，智能体带来全新风险维度。随着人工智能从大模型阶段迈向智能体阶段，AI已不再是回答问题的工具，而是正在成为能够自主执行任务的“新物种”。智能体可以自主调用工具、梳理流程、处理数据、执行任务，但这种“自主运行、主动联动”的特性，也催生了一批新型风险。人工智能治理对象正在从内容走向行为，风险范畴从“说错话”扩展到“做错事”。
其四，社会层面的衍生风险加速外溢。模型偏差、幻觉和漏洞等技术风险正加速进入真实传播环境，并转化为现实世界中的传播风险和信任风险。深度伪造内容持续冲击真实边界，算法偏见可能放大认知偏差，生成内容加速错误信息扩散。人工智能安全风险正在从局部问题走向系统性问题。与此同时，AI“投毒”——在模型训练、微调等关键环节刻意注入恶意数据样本——不仅严重扰乱正常市场商业秩序，更直接威胁网络空间安全乃至国家安全。
2025 年 9 月，网信办发布《人工智能安全治理框架》2.0 版（简称框架 2.0），将安全风险细化为技术内生安全风险、技术应用安全风险和应用衍生安全风险三大类。新增"可信应用、防范失控"原则，划了 5 级风险、8 项可信准则。一个月后，国务院《关于深入实施"人工智能+"行动的意见》出台，把"人工智能+"钉为发展新质生产力的关键举措。两份文件一前一后，释放的信号很清楚：AI 跑多快，安全就得跟多紧，否则新质生产力的"质"字立不住。
风险已经从"模型胡说"蔓延到"系统失控"
很多人对 AI 安全的印象还停留在"模型产生幻觉、答非所问"。但实际风险谱在 2024-2026 这几年已经明显外溢，框架 2.0 把"衍生安全风险"单列一类，就是这个原因。拆开看，当前有三层风险是躲不开的：
技术内生层：可解释性不足、对齐脆弱、数据投毒、权重泄露。北大杨耀东团队 ACL 2025 的发现挺扎心——对齐其实是"弹性"的，外力撤去模型会弹回预训练态，几千条反向样本就能抵消上万条 RLHF 数据。这意味着"训出来的乖"没那么稳。
应用安全层：Deepfake 换脸突破人脸认证，已经有刑事判例。杭州警方 2024 年破的全国首起 AI 大模型换脸案，团伙用多模态大模型把静态证件照生成活体视频，点头眨眼一气呵成，突破头部平台人脸认证盗数据；胶州 2026 年案，查获 5 万多条虚假动态人脸视频，用合成视频注册的社媒账号卖了 60 多万；福州王女士被"AI 儿子"视频通话骗走 50 万；武汉 MCN 公众号被 AI 换脸攻破，后台密码被改、法人信息被篡。
衍生层（这才是新质生产力最该警觉的）：框架 2.0 新增的这块里写了"核生化导武器知识能力失控""冲击教育抑制创新""拟人化交互沉迷依赖"——这些已经不是技术问题，是社会结构和人类存续层面的问题。AI 进了关键基础设施（智城、电网、智驾、工控），一旦失控，代价是按"城市 × 天数"算的。
一个常被低估的点：2023 年某半导体公司 20 天内三起泄密，两起是工程师把核心数据库源码贴进 AI 对话框修 bug，一起是员工用 AI 整理会议记录——"AI 高效但并不私密"的错觉，在数据要素已经成为生产要素的今天，本身就是新质生产力的内伤。
三、发展与安全：不可偏废的时代命题
面对人工智能带来的机遇与挑战，一个根本性的认知必须确立：不发展才是最大的不安全。人工智能只有进入产业、服务实体经济，才能持续释放技术红利。但同时，人工智能必须始终坚持安全、可信、可靠、可控的发展方向。新质生产力的核心在于数据、算力和算法的深度融合。任何一个环节的“失火”，都可能引发系统性风险。
1.数据安全：新质生产力的“石油泄漏”
数据是AI时代的石油，也是新质生产力的燃料。但在大模型训练和应用过程中，数据投毒、隐私泄露和跨境数据窃取风险激增。案例警示：如果工业大模型被植入恶意数据，可能导致生产线参数被篡改，造成物理世界的巨大损失。核心矛盾：新质生产力要求数据“动起来”产生价值，但流动性越强，安全防护的难度呈指数级上升。
2.算法黑箱：不可解释性的信任危机
新质生产力强调“精准决策”。然而，深度学习模型的“黑箱”特性使得即便是开发者也难以完全解释其决策逻辑。在医疗诊断中，AI误诊却无法给出理由；在金融风控中，算法歧视导致信贷资源错配。这种缺乏可解释性的安全隐患，会严重阻碍AI在高风险、高合规要求领域的落地，从而限制新质生产力的渗透深度。
3.供应链安全：被“卡脖子”的隐形风险
AI产业链高度全球化，从芯片设计软件（EDA）到深度学习框架（如TensorFlow/PyTorch），核心技术节点的对外依赖构成了潜在的“断链”风险。一旦底层框架存在后门或漏洞，所有上层应用都将处于裸奔状态。
没有安全兜底，AI 进不了关键领域 → 新质生产力的"高科技"就只能在客服、文案这些浅水区打转，"高端化、智能化、绿色化"的传统产业改造也推不动。
没有安全兜底，数据要素不敢流通 → "数据作为新生产要素"那句就悬空，因为企业怕泄、用户怕滥、跨境怕漏。
没有安全兜底，"人工智能+"的乘数效应会被几次重大事故打回原形——智驾出一条人命，整个细分赛道估值都要重估，这不是假设，是 2025 年已经发生的所以安全不是创新的"绊脚石"，是"同行者"——中国工程院院士邬江兴的比喻是给大模型戴"紧箍咒"，不束活力，但能控边界，让安全和性能像双螺旋 DNA 一样共生。这套话术比"统筹兼顾"四个字更有画面感。
发展与安全并非对立关系，而是相辅相成的辩证统一。如果为了追求绝对的安全而扼杀创新，我们将错失新一轮科技革命的历史机遇；如果只追求发展而忽视安全，则可能使技术失控，带来灾难性后果。人工智能发展与安全，既关系新质生产力的充分发展，也关系高水平科技自立自强的顺利实现。
四、系统治理：构建人工智能安全的制度屏障
面对人工智能安全的系统性挑战，中国政府层面正通过“法律法规、政策制度、应用规范、伦理准则”四位一体的系统治理框架，为人工智能立心、立规、立信。
法治为基，确立确定性边界。针对深度伪造、自动驾驶等“破窗式冲击”，需加快基础性综合立法，明确责任主体与权责界限，以法律的身份赋予技术可信赖的预期。
伦理为魂，注入“向善”基因。坚持“以人为本”，在算法设计中引入“价值理性”作为效率边界。通过算法公开与解释，打破公众对“黑箱”的恐惧，让算法不仅“算得准”，更“算得善”。
科技为盾，提升防护能力。大力发展AI安全应急技术。在高危化工工艺中，利用AI进行主动安全设计，实时调控反应参数；在矿山作业中，以类人机器替代危险作业，从源头降低风险；在应急救援中，构建“数实一体”的指挥调度场景，实现精准预警与处置。
在制度层面，我国已建立起涵盖数据安全、内容安全、模型安全、网络安全等主要内容，包括法律法规、政策规划、标准规范、伦理指引在内的人工智能治理体系。2025年9月，《人工智能安全治理框架》2.0版正式发布，这一框架明确了风险识别、评估、分级、处置的全流程治理机制，提出政府、企业、科研机构、社会组织等多元主体共同参与。
在标准层面，国家推荐性标准《网络安全技术 生成式人工智能服务安全基本要求》（GB/T 45654—2025）为AI模型风险管理提出了全面且具体的治理方案。在模型训练阶段，通过虚假有害信息测试题库建设、定期代码审计和模型微调等手段，降低模型生成虚假信息的概率。
在国际合作层面，中国积极推动全球人工智能治理。2025年7月，中国政府倡议成立世界人工智能合作组织并发表《人工智能全球治理行动计划》。2026年7月，领导人在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上指出，各国应当秉持以人为本、向上向善理念，让人工智能成为促进共同繁荣、维护共同安全的一个重要动力源。
构建与新质生产力适配的AI安全体系。面对挑战，我们企业层面不能因噎废食，而应通过制度创新和技术攻关，让安全成为生产力的助推器。
1.坚持“内生安全”与“原生安全”
过去的网络安全是“外挂式”的防火墙，而在AI时代，必须将安全机制内嵌到算法模型的设计之初（Security by Design）。发展隐私计算、联邦学习等技术，实现“数据可用不可见”，既释放数据价值，又保障数据安全。
2.建立敏捷治理与沙盒监管
新质生产力具有快速迭代的特征，监管不能落后于技术发展十年。应推广“监管沙盒”模式，在可控环境中测试高风险AI应用，既鼓励创新，又守住底线。
3.推动标准建设与国际合作
积极参与全球AI安全治理规则的制定，推动形成AI安全标准互认体系。特别是在大模型评测、红队演练（Red Teaming）等方面建立行业基准，降低企业的合规成本。
4.人才储备：AI+安全的交叉学科
新质生产力的竞争归根到底是人才的竞争。高校和企业应加大对AI安全专家的培养力度，填补既懂算法又懂攻防的复合型人才缺口。
五、结语
新质生产力语境下，人工智能安全为何是"必答题"而非"附加题"。领导人强调：“发展是安全的基础，安全是发展的前提。”站在2026年回望，人工智能技术已经变得像水和电一样渗入了社会的肌理，成为人们生产与生活的一部分。人工智能是引领未来的战略性技术，其发展水平直接关系到我国数字经济竞争力和国家安全大局。在新质生产力的宏大图景中，人工智能安全绝非束缚创新的“刹车片”，而是确保列车高速行驶不脱轨的“制动系统”。没有高水平的安全，所谓的高质量发展就是无源之水、无本之木。
在新质生产力加速发展的征程上，人工智能安全不是发展的“绊脚石”，而是行稳致远的“压舱石”。唯有坚持发展与安全并重、创新与规范同步，以系统治理护航“人工智能+”行动全面实施，才能让人工智能真正成为推动经济社会高质量发展的核心力量。这既是对技术规律的深刻把握，也是对人民福祉和国家利益的高度负责——在智能时代的浪潮中，唯有筑牢安全的堤坝，才能让新质生产力的航船破浪前行。未来已来，我们唯有筑牢AI安全的防线，才能让新质生产力真正行稳致远，为中国经济的高质量发展注入源源不断的强劲动能。
