（本文刊登于《中国信息安全》杂志2026年第4期）

（本文刊登于《中国信息安全》杂志2026年第4期）

文 | 中国人民大学法学院吴玉章高级讲席教授、中国法学会网络信息法学研究会副会长 张新宝

国家互联网信息办公室发布的《中国网络法治发展报告（2025年）》，系统梳理总结了2025年我国网络法治建设的理念、成就、经验。2025年我国网络法治在网络立法、网络执法、网络司法、网络法治宣传教育、涉外网络法治等方面都取得重大进展，并体现出依法治理、技术先行的显著特征。

网络立法向纵深推进，丰富新技术新应用治理规范，助力信息化发挥驱动引领作用。2025年国家网信部门加速推进人工智能“小快灵”立法，进一步完善信息化发展的法律法规制度体系，出台《人脸识别技术应用安全管理办法》《人工智能生成合成内容标识办法》等部门规章和规范性文件，为新技术新应用的健康发展应用提供了更具体的制度规范和指引。

网络执法效能不断跃升，整治新技术新应用滥用，引导技术向善。2025年我国网络行政执法的重点工作之一是通过专项行动、行政执法和服务备案等措施，对算法、人工智能技术的潜在风险进行前瞻预防，多措并举提升人工智能治理成效，规范技术向善，守护法治秩序和公民的合法权益。

网络司法全面强化，司法部门着力提升技术应用水平，不断提高司法办案效率和质量。2025年全国法院系统发挥科技赋能优势，加快案例库和法答网建设，进一步提升审判质量和效率。全国检察机关深入推进数字检察工作，加快大数据法律监督模型应用场景体系化建设和办案综合平台建设，以数据融合促进法律监督提质增效。网络信息技术应用水平在司法领域的不断提升，不仅大大提升了办案效率和质量，而且有利于更好地适用法律原则和规范，强化保障人民群众的合法权益，精准制裁违法犯罪，让人民群众在每一个司法案件中感受到公平正义。

（来源：中国网信网）

各有关单位：

为贯彻党的二十届四中全会关于“推进数据高效便利安全跨境流动”的决策部署，依据《促进和规范数据跨境流动规定》等有关政策文件，北京市互联网信息办公室、北京市商务局、北京市政务服务和数据管理局制定了《中国（北京）自由贸易试验区、国家服务业扩大开放综合示范区数据出境负面清单管理办法（试行）》《中国（北京）自由贸易试验区、国家服务业扩大开放综合示范区数据出境管理清单（负面清单）（2025版）》，现正式印发，请严格按照管理办法有关要求，规范使用负面清单。实施过程中遇到问题请及时报告。

北京市互联网信息办公室

北京市商务局

北京市政务服务和数据管理局

2026年5月8日

附件：1.中国（北京）自由贸易试验区、国家服务业扩大开放综合示范区数据出境负面清单管理办法（试行）

2.中国（北京）自由贸易试验区、国家服务业扩大开放综合示范区数据出境管理清单（负面清单）（2025版）

3.中国（北京）自由贸易试验区、国家服务业扩大开放综合示范区数据出境管理清单（负面清单）申报指南（2026版）

扫描下方二维码下载附件

公布面向人工智能赋能的高质量行业数据集建设先行先试联合体名单，明确禁止大数据杀熟等行为……近来，关于数据发展的管理规定持续成为各方关注的焦点。数据是驱动创新的重要引擎，不过也潜藏安全、治理与法治挑战。平衡发展与安全、激发创新活力、防范重大风险，持续完善数据立法工作至关重要。

我国在数据立法方面持续发力，初步构建起以网络安全法、数据安全法、个人信息保护法等为基石的法律规范体系。在数据要素层面，一系列法律法规为数据流通提供了分层次、分类别的合规路径。在算法与模型层面，针对推荐算法、深度合成、生成式AI等不同技术形态，形成了以“备案—标识—可追溯”为核心的监管基线。法律法规之外，国家标准、行业指南等工具也得到运用，如《生成式人工智能服务安全基本要求》等，为企业提供了具体、可操作的指引。

不过，当前一些数据安全风险仍然存在。例如，人工智能正与各领域深度融合，但其对海量数据的依赖，使得数据泄露、非法获取、恶意“投毒”等风险急剧放大，直接威胁个人隐私、商业秘密乃至国家安全；算法决策的“黑箱”与偏见，挑战了传统的透明与公平原则，隐含难以察觉的歧视，决策过程的不透明，也会使个人权利保障和追责机制面临困境。此外，训练数据的使用也常与个人信息保护、知识产权（如著作权）等产生冲突。有鉴于此，要在合法合规前提下，明确各方权责，建立可预期、可追溯的治理框架，构建科学、系统、动态且具有前瞻性的数据法律体系，为技术赋能，也为人们的美好“数字生活”上一把“安全锁”。

一方面，坚持包容审慎原则。相关立法需在法治稳定性与技术灵活性之间寻求平衡，不能因追求“绝对安全”而扼杀创新。应建立基于风险等级的差异化监管框架，对低风险应用给予宽松发展空间，对医疗、金融等高风险领域实施严格规制。加快完善数据产权与流通制度。探索数据产权结构性分置制度，区分数据来源者、持有者、处理者的权利，平衡各方利益。细化数据确权、授权、交易、收益分配规则，在保障国家安全和个人隐私的前提下，通过标准合同、安全认证等工具，打通数据跨境与境内流通渠道，破解人工智能企业面临的“数据荒”与“合规难”并存困境。强化算法问责与人工智能侵权裁判规则。针对“算法黑箱”，特别是在涉及重大个人权益或公共利益的决策中，应逐步推进算法透明，并从司法层面完善侵权裁判规则，对AI造成的损害责任分配、偏见歧视的救济路径等作出更明确的规定。

另一方面，构建“法律—标准—伦理”多元协同的准则体系。通过多元共治形成覆盖技术全生命周期的治理合力，特别是将伦理准则嵌入技术研发与应用全流程，确保人工智能发展与人类价值观对齐。引领深化全球人工智能治理，积极回应全球对于人工智能安全、可信、可控的共同关切，通过双边、多边对话，在数据跨境流动、伦理标准、安全评估等方面推动国际规则互认，为构建公平、合理、包容的全球人工智能治理体系贡献中国智慧与中国方案。

（来源：经济日报）

（来源：学习时报）

文 | 中国科学技术大学网络空间安全学院 俞能海 童蒙 陈可江；网络安全科技馆 张丽

随着生成式人工智能的规模化部署，数据驱动范式正深刻重塑内容生产、知识服务与产业生态。大模型对海量训练数据的高度依赖，以及其参数黑盒化、能力涌现等特性，使得传统个人信息保护机制面临结构性挑战。大模型对训练数据的隐式编码与非透明处理机制，导致以网络边界防护和“告知—同意”为核心的传统隐私保护范式适用性受限。因此，亟须从治理理念、技术工具与法律法规等多个层面，系统性应对大模型时代的新型个人信息泄露风险。

近年来，以ChatGPT、深度求索（DeepSeek）及千问（Qwen）系列为代表的大模型，在自然语言处理与生成任务中取得显著进展，并加速向各垂直行业渗透。然而，实证研究表明，大模型在训练过程中容易形成对敏感数据的“非预期记忆”，从而构成潜在的隐私泄露风险。例如，2024年，研究人员通过特定查询从ChatGPT中成功提取出数百条包含姓名、电话与邮箱的真实训练数据；2025年，Google Gemini被曝存在“零点击”数据泄露漏洞；2026年，安全研究人员在“龙虾”（OpenClaw）中识别出多处高危信息泄露漏洞。这些案例表明，大模型时代的个人信息保护正面临来自技术机理层面的新型泄露风险冲击。

在传统信息安全框架下，个人信息泄露主要源于结构化数据库的批量数据窃取或应用层越权访问漏洞，攻击者所获取的通常是可直接读取的明文数据。然而，大模型将训练数据中的分布信息压缩并编码至千亿级非透明权重的参数中，再通过概率性的上下文推理生成输出。这种“隐式编码—概率生成”机制，使得个人信息可能以模型的“非预期记忆”（即模型对训练数据中罕见序列的过拟合复现）泄露，攻击路径也从而由传统的显式窃取转向更为隐蔽的隐式还原。

从技术手段审视，当前学术界已识别出针对大模型的两种典型隐私攻击方式：成员推理攻击（Membership Inference Attack, MIA）与训练数据提取攻击（Training Data Extraction Attack, TDEA）。前者试图推断特定数据是否被用于模型训练；后者则直接尝试重构模型所记忆的训练数据片段。这两种攻击分别从“是否属于训练集”和“具体内容是什么”两个维度，构成了当前最具现实威胁的技术性个人隐私泄露路径。

（一）成员推理攻击：身份归属的统计学暴露

成员推理攻击是指攻击者通过查询目标机器学习模型，利用模型输出的概率分布、置信度分数或损失值等信息的细微差异，推断某一特定数据样本是否被用于模型训练的一类隐私攻击方法。与传统数据泄露攻击直接窃取原始数据不同，成员推理攻击的目的并非还原训练样本内容，而是推断特定样本是否参与过模型训练；其实现手段主要依赖于模型在成员与非成员数据之间表现出的统计差异。具体而言，对于诸如通过应用程序编程接口（API）对外提供服务的模型（如ChatGPT），攻击者通常能够获取模型返回的每个候选词的概率（如OpenAI API中的logprobs参数），或通过多次查询统计输出结果的稳定性，以估计生成内容的损失值与置信度。鉴于模型对训练样本通常具有更高的拟合度（表现为损失更低、置信度更高），攻击者可据此训练分类器，实现成员身份的统计推断。

在医疗领域，若攻击者成功判定某病历样本属于训练成员，即可间接推断个体就诊记录与疾病特征，从而导致敏感健康信息的实质性泄露。例如，2025年一项针对临床问答模型Llemr的实证研究表明，攻击者能够以较高的准确率推断该模型中是否包含特定真实患者的病历信息。

在金融风控场景中，成员推理攻击同样面临较高的滥用风险，攻击者可通过成员判定推断个体信贷记录或交易流水。例如，针对银行信用评分模型的研究显示，攻击者能够通过成员推理成功判断目标用户是否曾出现在训练数据中，进而获取其信用相关的敏感信息。

（二）训练数据提取攻击：原始信息的逐字还原

训练数据提取攻击的核心目标是从大模型中逆向重构预训练语料中的原始文本片段。该攻击的可行性根植于模型的记忆机理：在预训练阶段，模型吸纳的海量互联网数据、社交媒体内容及未充分脱敏的私有文档，会以非预期记忆的形式隐式编码至千亿级参数空间中。基于攻击者权限差异，训练数据提取攻击主要演进为两条技术路径：其一为黑盒查询攻击，攻击者仅需API调用权限，通过提示词工程、上下文诱导与少样本示例拼接等手段迭代试探，逐步拼凑出身份证号、联系方式或私有通信记录等敏感信息；其二为白盒与灰盒攻击，攻击者依托梯度分析、参数微扰或激活值反演实现定向提取，此类方法通常需获取模型内部访问权限，但重构精度与成功率更高。已有研究表明，在特定条件下，攻击者可以从开源大模型中成功提取数百条以上的训练数据原文。例如，Google DeepMind团队（2025）针对LLaMA等模型展开的研究中，成功提取出涵盖个人身份信息、代码及通用唯一识别码（UUID）等敏感内容的数百条逐字文本序列。

此外，上述攻击具有无感化与可复制化特征。模型公开部署后，低权限调用者即可实施试探性查询。而一旦敏感数据发生泄露，便可被无限次重组与跨平台分发，导致溯源与阻断成本显著攀升。

面对大模型带来的新型数据泄露威胁，现行以《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》）为核心的个人信息保护法律体系，在适用过程中面临技术快速发展所带来的新情境，需进一步与技术的复杂性和隐蔽性相协调。

（一）“告知—同意”机制的执行局限与数据溯源困境

《个人信息保护法》确立了以“告知—同意”为核心的个人信息处理规则，并辅以匿名化、去标识化等技术标准。然而，大模型的训练数据多源于大规模网络爬取、第三方数据交易、开源社区共享及已有语料库整合。在这一过程中，对海量原始数据主体进行逐一、具体的“告知”在实际操作中具有一定难度，其信息被收集与使用的具体情况难以追溯，导致“同意”的获取在实践层面面临挑战，进而可能影响后续的撤回同意、访问与更正等权利的顺利行使。

此外，当个人信息已被模型“记忆”（内化于参数中），法律赋予个人的“删除权”在技术上面临严峻的挑战，即“机器遗忘”难题。若采取简单剔除相关参数的方法，可能影响模型的整体性能与知识连贯性；而对模型进行全量重新训练，则涉及较高的资源与时间成本。因此，在当前技术条件下，落实“删除”要求仍需进一步研究与探索，这也是法律实施与技术实践之间需要持续沟通与协调的方向。

（二）责任主体界定复杂与救济机制效能有限

大模型的研发与应用生态涉及多方主体，涵盖训练数据提供方、预训练模型开发者、微调服务商、应用程序编程接口（API）调用者、终端应用平台等。若发生因模型记忆导致的信息泄露事件，传统的“谁处理、谁负责”原则在责任界定上面临适用挑战。对于权益受影响的个体而言，他们需要证明损害事实、厘清复杂的侵权链条并将损害量化，这往往面临举证困难、溯源复杂、损害难以量化等多重现实障碍，导致维权成本较高，有时甚至超过所能获得的赔偿，在一定程度上影响了用户寻求救济的积极性。在监管层面，现有算法备案与安全评估制度多聚焦于内容安全、系统稳定性等方面，针对数据隐私与模型记忆泄露的专项审查机制尚未系统建立，跨部门协同治理、全生命周期动态监测、第三方独立审计等配套机制仍处于逐步探索与完善阶段。

当前，全球主要法域已积极关注大模型带来的隐私风险，并加快推进相关制度创新与标准建设。我国可借鉴国际经验，结合本土法律框架与技术生态，构建适配的大模型个人信息治理体系。

一是规制逻辑向“事前预防”延伸，强调隐私保护应内嵌于模型研发至部署的全生命周期。例如，欧盟《人工智能法》明确要求基础模型开发者建立数据治理框架、留存训练日志并开展系统性风险评估。

二是合规模式向“动态验证”演进，依托第三方审计、红队测试与自动化探针实现常态化安全评估。新加坡的AI Verify框架通过标准化测试路径提供合规验证工具，并依托“监管沙盒”完成受控场景下的模型风险压力测试。

三是责任架构向“多元共治”转型，构建政府监管、企业履责、技术社群自律与保险托底协同的责任分配网络。例如，美国通过相关行政令推动行业自愿限制训练数据中个人身份信息的使用，《加州隐私权法案》（CPRA）也强化了对消费者数据的保护边界。整体而言，人工智能隐私治理正转向建立权责清晰、信息透明的多方协同机制。

为筑牢大模型时代的个人信息保护防线，我们可转向“技术内生+制度适配+社会协同”的立体治理范式。具体而言，技术内生于模型架构，制度适配全生命周期，社会协同赋能多元主体，三者相互衔接、互为支撑，共同构建适应大模型时代的个人信息保护体系。

（一）技术防护：隐私计算与模型架构的深度融合

应推动隐私增强技术与大模型研发流程的标准化嵌入。差分隐私可在训练或微调过程中注入可控噪声，切断模型输出与特定样本的强关联；采用联邦学习实现“数据不动模型动”，从源头降低集中式数据汇聚风险；在推理与交互环节，可结合模型水印、输出过滤与提示词安全网关，识别并拦截试图还原高敏感信息的恶意查询。同时，亟须研发高效可靠的“机器遗忘”算法与影响函数评估工具，使模型能够在不重训的前提下精准剔除指定数据的影响，从而为法律规定的个人信息删除权提供可验证的技术支撑。

（二）制度设计：全生命周期合规与风险共担机制

建议建立大模型个人信息泄露专项评估机制。在预训练、指令微调、对齐优化及部署各阶段，要求开发者提交数据谱系报告、记忆泄露压力测试结果及缓解方案，并接受具备资质的第三方独立审计。探索模型透明度分级披露制度，尤其对面向公众的通用大模型，需公开训练数据分类比例、去标识化标准、安全测试记录及第三方认证结论。在责任分配方面，引入“风险共担+保险托底”机制，鼓励开发者投保人工智能隐私责任险，并推动建立行业互助基金，以分散因不可预见的泄露事件所带来的赔偿压力与经营风险。

（三）社会共治：公众赋能与生态自律

强化公众数字素养与隐私权利意识，通过开源工具、浏览器插件、操作系统级隐私保护模块等形式，赋予用户便捷的“模型交互防护”能力（如自动脱敏提示词、查询频率限制、本地化缓存清理）。鼓励行业协会、开源社区与头部企业联合制定《大模型个人信息保护自律公约》，建立行业合规“红黑榜”与信用惩戒机制，形成行业自律压力。同时，推动高校、科研机构与企业合作，共建“隐私安全沙盒”与“红蓝对抗演练平台”，在可控环境中开展持续性的攻防测试与技术验证，实现“以攻促防、以练代管”，营造既保障安全又鼓励创新的良性生态。

大模型时代的个人信息泄露威胁，其本质源于技术快速跃迁与制度持续演进之间的结构性张力。成员推理与数据提取等新型攻击手段，不仅突破了传统数据保护的物理边界，更重塑了隐私风险的生成逻辑与传播路径。筑牢安全防线，绝非以牺牲创新为代价的“一刀切”限制，而是要通过技术赋能、制度迭代与社会协同，构建一个弹性适应、透明可信及权责清晰的治理新生态。只有将“隐私保护”内化为大模型发展的底层逻辑，并建立“研发即合规、部署即审计、交互即防护”的全流程长效机制，才能在人工智能新纪元真正实现技术向善与权利保障的同频共振，为数字经济健康发展筑牢不可逾越的安全底线。

（本文刊登于《中国信息安全》杂志2026年第4期）

文 | 中国社会科学院习近平法治思想研究室主任、教授、博导 支振锋

世界百年未有之大变局与中华民族伟大复兴战略全局的战略性交叠，为网络空间国际法治提供了宏阔的时空环境，也带来了巨大的现实挑战。近年来，中国网络法治乘网络强国建设东风，积新一轮科技革命和产业变革之势，不断实现新的拓展，取得新的成就。《中国网络法治发展报告（2025年）》作为我国网络法治建设的最新时代记录，清晰镌刻了中国在网络空间国际法治领域的探索与贡献，彰显了中国作为负责任大国的使命担当。

一是涉外法治体系和能力建设持续显著提升。面对大国科技博弈背景下网络空间维护国家主权、安全、发展利益新形势，我国在2025年加大网络立法供给，强化涉外法治体系建设，为捍卫国家网络空间安全、维护网络空间利益、强化网络空间国际治理，提供了坚实法治保障。我国已制定出台网络领域立法180余部，一批法律法规增加了域外适用规定。2025年，我国修改《中华人民共和国网络安全法》，修订《中华人民共和国对外贸易法》和《中华人民共和国海商法》，公布《实施〈中华人民共和国反外国制裁法〉的规定》，强化相关法律法规域外适用效力。在法治护航下，我国互联网事业持续高质量发展。2025年网民规模达11.25亿人，生成式人工智能用户规模达6.02亿人，互联网普及率突破80％，数字经济规模稳居世界第二，为有力应对外部对我国关键技术、关键产品领域极限打压封锁提供了雄厚基础。

二是有力支撑联合国框架下公正合理的网络空间国际秩序。中国坚持多边主义，全力支持联合国在国际事务中的核心地位和作用，为凝聚各国治理共识贡献力量。中方积极协调推动《联合国打击网络犯罪公约》，并率先响应签署；秉持包容普惠、互利共赢理念，深化区域间数字领域务实合作；通过“数字丝绸之路”建设、金砖国家合作机制等平台，深化与全球南方国家数字基础设施建设、网络安全等领域合作，让互联网更好造福人类。

三是为互联网全球治理提供更多重要公共产品。中国始终立足全球视野，积极贡献网络治理公共产品，世界互联网大会国际组织逐步成为凝聚国际共识、分享中国经验的重要平台。2025年世界互联网大会乌镇峰会吸引130多个国家和地区的1600多名嘉宾参会，应实际需要成立相关专委会，发布多项重要治理报告。我国主导发布《人工智能全球治理行动计划》，倡导成立世界人工智能合作组织，同《全球人工智能治理倡议》《全球数据安全倡议》等重要文件一起，推动建立开放包容、安全可控的全球人工智能治理体系，为互联网全球治理注入新动能。

习近平主席提出的构建网络空间命运共同体理念日益得到世界绝大多数国家赞同，内涵持续得到充实和丰富。中国积极加强与发展中国家合作，2025年举办中非互联网发展与合作论坛，提出《携手构建中非网络空间命运共同体行动计划（2025-2026）》，实施五大行动15项具体举措，依托相关基地为非方培养数字领域人才。基于上海合作组织框架，在2025年9月1日发表的《上海合作组织成员国元首理事会天津宣言》中，推动各方重申打击网络犯罪和网络恐怖主义的共识，以实际行动推动构建公正合理的网络空间国际秩序。

“潮平两岸阔，风正一帆悬。”‌站在人类福祉的战略高度，坚守人类道义的文明立场，中国正不断为互联网国际治理贡献法治智慧，提供中国方案。

（来源：中国网信网）

9.9元，买到一套AI“造黄”提示词，再复制粘贴进境外软件，就能生成大尺度视频；再花几十块钱，甚至能让AI换脸生成熟人色情影像。据媒体报道，一条低成本、高暴利、低门槛的AI“造黄”黑色产业链，正借着技术风口野蛮生长。

生成式AI的普及，本应让技术服务社会、赋能发展，成为推动进步的新动能。但在利欲熏心者眼中，技术的便利却成了钻空子的捷径。他们兜售涉黄提示词，刻意将敏感词汇翻译成英文规避监管；推广境外违规软件，教唆用户用VPN绕过审核；批量制造色情内容，把换脸、图文生成变成“流量密码”，将违法违规包装成“擦边赛道”，一步步搭建起分工明确、隐蔽性强的黑色产业链，让AI技术沦为违法牟利的工具。

更令人不齿的是，不法分子连未成年人都不放过。有家长发现，孩子手机里藏着AI生成的色情聊天记录，虚拟陪伴、低俗挑逗层层侵蚀；一些AI软件号称“无门槛生成”，只需简单操作就能产出大尺度内容。这些涉黄内容极易扭曲青少年价值观，侵蚀身心健康，对未成年人成长造成难以逆转的伤害。

乱象丛生并非技术“原罪”，背后是治理的漏洞与责任的缺位。部分AI平台的审核机制，堪称“纸糊的防线”。敏感提示词稍加伪装就可蒙混过关，实测显示，一些常见AI应用输入隐晦涉黄指令，几分钟就能生成违规内容，全程无任何拦截。一些社交平台则沦为“帮凶”，对涉黄引流、违规售卖视而不见，明知链接背后是违法交易，却为了流量睁一只眼闭一只眼。更棘手的是，境外违规软件借助VPN非法入境，不法分子打一枪换一个账号、换一个平台，隐蔽性强、迭代速度快，让监管陷入“防不胜防”的被动。

AI不是法外之地，更不是色情温床。我国早已出台《生成式人工智能服务管理暂行办法》《人工智能拟人化互动服务管理暂行办法》等制度，明确要求内容安全、算法备案、加强未成年人保护，对违规涉黄服务划出清晰红线。2025年“清朗”专项行动持续整治AI滥用，2026年新规进一步压实平台主体责任，一系列制度组合拳，既彰显了依法治理的坚定决心，也为整治工作提供了坚实遵循。

制度的生命力在于执行。整治AI“造黄”乱象，不能只打“表面仗”，必须连根拔起、斩草除根。平台要放下“流量至上”的执念，升级审核算法、强化提示词防火墙、完善风险预警，把涉黄苗头消灭在萌芽状态，而不是等内容扩散后再“亡羊补牢”。监管要主动出击、精准发力，一方面严查境内违规售卖、引流行为，对顶风作案者从重处罚、公开曝光；另一方面强化技术拦截，封堵境外非法软件入境通道，实现全链条溯源打击。

社会层面更要形成合力。家长需履行监护责任，做好未成年人的网络引导，教会孩子辨别网络乱象、远离不良信息；广大网民应坚守道德底线，主动举报违规内容，不传播、不纵容涉黄乱象；行业要坚守伦理准则，强化自律意识，拒绝为AI“造黄”提供土壤。

AI的风口，应该吹起创新的浪潮，而不是卷起违法的浊流。对AI“造黄”产业链，零容忍才是唯一态度，全链条整治才是根本路径。

（来源：民主与法制时报）

根据国家信息安全漏洞库（CNNVD）统计，本月新增漏洞5942个，其中超危漏洞422个、高危漏洞1843个、中危漏洞3406个、低危漏洞271个，相应厂商修复率分别为66.82%、71.08%、72.08%以及61.99%，其中重要安全漏洞如表1所示：

表1 通用产品重要安全漏洞列表

根据国家信息安全漏洞库（CNNVD）统计，本月新增人工智能漏洞581个，其中超危漏洞43个、高危漏洞216个、中危漏洞303个、低危漏洞19个。相应厂商修复率分别为86.05%、73.61%、82.18%以及84.21%，其中重要人工智能安全漏洞如表2所示：

表2 人工智能重要漏洞列表

CNNVD将继续跟踪上述漏洞的相关情况，如想查询详细信息，可关注CNNVD公众号或访问官方网站进行查询。

CNNVD官方网站https://www.cnnvd.org.cn

近日，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》（以下简称《实施意见》）。《实施意见》旨在落实国务院《关于深入实施“人工智能+”行动的意见》，促进智能体规范应用与创新发展。

《实施意见》提出，智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统，是人工智能产品及服务的重要形态。随着大模型等新一代人工智能技术迅猛发展，智能体正加速与网络空间、物理世界深度融合，深刻改变人类生产生活方式和社会治理模式。

《实施意见》明确智能体发展要坚持安全可控、规范有序、创新驱动、应用牵引的基本原则，并提出了4个方面举措：一是夯实发展基础，完善技术底座，构建标准协议。二是守牢安全底线，明确产品准则，防范安全风险，完善治理体系，强化行业自律。三是强化应用牵引，围绕科学研究、产业发展、提振消费、民生福祉、社会治理等方向，提出19个典型应用场景。四是建设创新生态，促进产业合作，强化应用推广。

《实施意见》提出，国家网信办、国家发展改革委、工业和信息化部会同有关方面加强统筹谋划，完善配套政策，形成工作合力，推动重点任务落实落地。

智能体规范应用与创新发展实施意见

智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统，是人工智能产品及服务的重要形态。随着大模型等新一代人工智能技术迅猛发展，智能体正加速与网络空间、物理世界深度融合，深刻改变人类生产生活方式和社会治理模式。为落实国务院《关于深入实施“人工智能+”行动的意见》，促进智能体规范应用与创新发展，制定本实施意见。

一、基本原则

以推动科技创新、提升治理能力、构建产业生态、增进民生福祉为导向，坚持安全可控，将智能体安全、可靠、可信作为发展的底线要求，贯穿智能体技术研发、应用部署与推广的全过程，切实防范系统性风险。坚持规范有序，适应智能体技术演进规律，构建与现有政策法规衔接顺畅、行业自律自治、底线红线清晰的治理体系，有序推进智能体落地应用。坚持创新驱动，加强理论创新、技术创新、工程创新联动，体系化突破智能体关键技术，完善政产学研用协同机制，构建开放共享的智能体生态，提升产业创新活力。坚持应用牵引，重点围绕科学研究、产业发展、提振消费、民生福祉、社会治理等实际需求，发挥典型应用场景示范效应，先易后难、循序渐进，促进智能体技术验证、产品迭代、应用落地。

二、夯实发展基础

夯实技术底座，健全标准体系，降低智能体研发、适配、应用门槛，为丰富智能体产品及服务奠定基础。

（一）完善技术底座

1.强化基础技术研发。持续提升通用基础模型性能，支持行业发展细分领域专用模型，形成适应不同场景和设备的模型产品矩阵。面向智能体训练与运行，提升高质量数据集供给能力。加强智能体任务理解、任务规划、工具使用、长期记忆、互认互通、群体协同等技术攻关，提升智能体泛化能力。

2.完善智能体工具链。开展智能体底层框架研究，加快研发感知、记忆、决策、交互、执行等关键组件，完善智能体研发、测试、部署、运维等工具链。发展对抗样本检测、行为异常检测等安全与治理工具，提升对智能体非合规行为的发现、干预、阻断、恢复能力。

（二）构建标准协议

3.建立智能体标准体系。制定智能体标准化工作指导文件，形成智能体标准框架，系统布局关键技术、重要产品、数据交换、应用场景、质量评测、安全保障、可信认证等标准体系，加快制定智能体与软件工具、应用服务、硬件外设接口等基础标准。加强智能体互联协议（AIP）等智能体互联关键国家标准、行业标准的推广应用。支持医疗、交通、媒体、公共安全等领域制定强制性标准。鼓励企业按照相关标准研发产品服务，提升智能体规范性。积极参与国际标准制定。

4.布局发展智能互联网。研究建立智能互联网体系架构，探索建立智能体注册平台，提供智能体数字身份管理、检索发现、能力声明等服务，支持开发者、部署方式、接口协议、合规认证等信息查询和管理。提升多智能体协同能力，研究智能体身份标识、可信互联、合规支付、安全防护、冲突解决等基础技术。发挥互联网协议第六版（IPv6）技术优势，提升智能体端到端通信能力。探索建立智能互联网监测指标体系。

三、守牢安全底线

坚持以人为本、智能向善、多元共治、安全稳妥，营造规范发展、鼓励创新的制度环境，促进智能体健康有序发展。

（一）明确产品准则

5.完善政策法规和伦理规范。加快研究智能体相关政策法规及伦理规范，发挥专业机构内容资源和审核把关优势，确保智能体行为符合法律法规及主流价值观。防止智能体利用数据优势、人格化技术实施传播不良价值观、算法压榨等行为，防范未成年人、老年人沉迷成瘾、情感依赖等风险。做好与人工智能伦理审查等制度衔接。

6.明确决策权限。在遵守法律法规、尊重社会公德和伦理规范前提下，厘清仅限用户本人决策、需由用户授权决策和智能体自主决策等各种决策方式的合理边界及所需权限。确保用户对智能体自主决策享有知情权和最终决策权，智能体执行操作不得超出用户授权范围。

7.加强行为管控。发展规则内嵌、行为围栏等技术，确保智能体在公共场所、隐私场所、专门场所等的行为合法合规。探索利用区块链等技术，建立重要应用场景智能体行为可验证、可追溯机制，防范智能体不当行为引发重大风险。

（二）防范安全风险

8.提升内生安全能力。研究智能体数据安全、个人信息保护、密码防护、攻击检测、权限管理、行为控制等安全技术，提升智能体系统安全保障能力，防范数据投毒、隐私泄露、算法篡改、系统漏洞、运行失控等安全风险。研究智能体安全检测技术，探索建立智能体安全评估体系。

9.加强供应链安全。制定智能体开发、部署、应用、维护等全周期安全规范，加强模型接入、应用程序接口调用、扩展工具使用等环节安全管理。探索建立智能体供应链安全信息共享和预警机制，及时发布风险提示，提升安全保障能力。

10.化解应用衍生风险。完善智能体常态化风险识别、预警及干预机制，强化人机协同审核、拦截阻断等风险处置能力，防范系统性安全风险。强化智能体应用安全管理，避免智能体被用于自动化攻击、隐私侵犯、虚假信息生成传播、网络诈骗等违法犯罪行为。

（三）完善治理体系

11.构建分类分级治理框架。根据应用场景和潜在影响，审慎稳妥开展智能体分级治理。对于敏感领域及重点行业，由网信部门联合行业主管部门确定开放场景，根据相关法律法规、监管要求和安全防护标准，实行备案、检测、问题产品召回等管理措施。对于部分生活娱乐、日常办公等低风险领域，完善智能体评估测试工具，通过合规自测、信息报告、分发平台管理、行业自律等实现高效治理。

12.健全合规服务体系。强化智能体风险监测预警、检测评估、咨询、认证等专业服务供给，引导行业积极研发智能体监测工具。开展智能体功能、性能、质量、合规等第三方评测服务，推动认证与检测结果互通互认，为用户选择智能体提供参考。编制并发布智能体技术及应用成熟度报告，为产业研发应用提供参考。

（四）强化行业自律

13.引导行业加强自律。鼓励行业组织、主要企业联合制定行业自律规则，明确智能体功能合规、算法治理、知识产权保护、公平竞争等规范细则。指导智能体开发平台、分发平台、服务提供者建立公平合理的平台规则、用户服务协议及隐私政策，明确供需双方权责，保障产业健康发展。加强智能体应用风险宣传教育，提升用户安全意识。

14.探索信用评价机制。指导行业组织建立智能体市场主体自愿参与的信用评价机制，对于技术滥用、诱导消费、虚假宣传、隐瞒缺陷信息等行为进行信用评价，依法依规开展失信惩戒。引导智能体开发者、开发平台、分发平台、服务提供者等参与信用评价，共同营造良好发展环境。

四、强化应用牵引

积极稳妥推动智能体典型场景应用，牵引技术产品优化提升，探索形成可复制、可推广的智能体落地应用模式。

（一）科学研究

15.科研探索。研发理论推演、模拟仿真等智能体，挖掘潜在技术路径。强化智能体信息关联整合、知识体系构建等能力，提升自然科学、哲学社会科学研究发现能力。促进智能体与科学仪器、实验平台融合，实现方案设计、实验操作、数据处理、结果分析等全流程智能化。

16.研发辅助。发展软件开发智能体，提升需求分析、架构设计、代码生成与测试等全流程开发能力。促进智能体与计算机辅助设计（CAD）、计算机辅助工程（CAE）等软件结合，提供设计方案生成、仿真验证、参数调优等功能。

（二）产业发展

17.智能制造。研发生产管理智能体，动态优化生产排程、资源分配和工序衔接，推动智能体在工业互联网领域应用，提升企业精细化管理水平。提升智能体工艺参数优化、加工精度检测、产品缺陷识别等能力，促进智能体与数控机床、工业机器人、自动化产线等融合，促进提质增效降本。

18.能源资源。研发大气、水体、土壤、噪声等环境要素感知智能体，提升自然灾害、环境污染等风险预警能力。依托智能体强化对国土空间资源全周期管理能力。依托智能体实现能源、金属等矿产资源高效勘探。发展电力调度、用电监测、电网维护等智能体，提升电力资源使用效率。

19.交通运输。研发交通安全监管、应急指挥调度等智能体，提升违章违规行为识别、交通基础设施风险预警、重点车辆（船舶）监管、事故快速响应等能力。优化交通监测调度智能体性能，发展交通载运工具管控智能体，提升路网、水网、空域的通行效率。

20.农业生产。研发农业服务智能体，开展农技指导、病虫害诊断与防治等服务。推动智能体在种植养殖、高效育种等环节应用，推进农业智能化转型。推动智能体与智能农机具、智慧大棚、农业服务平台融合，提升农业生产效率。

21.金融服务。研发金融风控智能体，提升信贷审批、交易监控、账户安全等环节风险识别能力。完善智能体异常检测、合规审计功能，提升信贷违约预测、信用卡盗刷拦截、反洗钱监测等能力。

（三）提振消费

22.终端应用。推动智能体赋能互联网应用及服务，优化在线购物、出行导航、生活缴费、日常办公等服务体验。推动智能体与手机、电脑、汽车、家居、可穿戴、消费级机器人等终端设备协同发展，提升跨应用、跨设备任务完成能力。

23.文化旅游。研发文学、音乐、绘画、视听、演艺等内容创作智能体，促进优秀文化传播推广。发展智能导览、多语种翻译、适老适残等旅游服务智能体，提升旅游服务水平。

24.商业服务。提升智能体客服能力，提供7×24小时咨询、预约、售后等服务。发展导引、清洁、仓储、配售等具身智能体，提升餐饮、零售、住宿、物流等商业场所的运营效率。探索通过具身智能体提供低成本家政、养老、托育、助残等服务。

（四）民生福祉

25.教育教学。探索课件生成、作业批改、学情分析等智能体，提高教师工作效率。依托智能体开展个性化学习方案制定，完善智能导学、答疑辅导、虚拟助教等功能。支持在线教育平台研发智能体，提供终身学习服务。

26.医疗健康。提升医学影像分析、疾病诊断推理、定制化诊疗方案生成等医疗辅助智能体性能，探索药品管理、手术排程、病历管理等智能体，提升医疗服务效率。稳步发展预问诊、报告解析等智能体，提升患者体验。

27.人力资源。探索智能体在就业促进、技术技能人才培养评价、劳动关系公共服务等领域应用，提升就业服务能力。发展社会保险、劳动争议仲裁、欠薪治理等智能体，保障劳动者合法权益。

28.信息服务。探索智能体在网络内容建设管理中的应用，鼓励信息发布部门和内容传播平台研发用户分析、选题策划、采编加工、分发推荐、智能审核、舆论引导、情绪疏导、实时翻译等智能体，实现多模态信息、跨领域信息的高效整合。

（五）社会治理

29.政务服务。探索事项辅助审批智能体，推动政务审批流程智能化。发展政策咨询智能体，提供全天在线的政务咨询、流程指引等服务。探索主动推送适配政策、服务提醒及办理指南，加快从“人找服务”向“服务找人”转型。

30.司法服务。探索全流程办案辅助智能体，提升案件材料梳理、案件信息录入、证据审查、辅助法律文书生成等能力。发展法律宣传、法律咨询、法律监督等智能体，为群众提供高效便捷的在线司法服务。

31.公共安全。探索监测预警、应急处置、救援调度、协同治理等智能体，提升安全生产监管和防灾减灾救灾等能力。提升智能体异常行为识别、潜在威胁预警、动态防控处理能力，维护公共安全。推动具身智能体在灾害救援、安防巡检、危险品处置等领域落地应用。

32.城市治理。探索智能体在城市规划、建设与治理环节应用，支撑智能建造、房屋管理、城市基础设施安全运行等工作，提升城市治理专业化水平，提升城市人居环境质量。

33.招标投标。探索招标投标智能体，实现招标投标活动全链路智慧管理，保障全过程规范高效。提升招标投标交易、服务和监管的智慧化水平，实现招标科学合理、评标公平公正和监管穿透高效。

五、建设创新生态

畅通供需渠道，促进研发侧、需求侧高水平互动，形成市场牵引、内驱发展的智能体产业生态。

（一）促进产业合作

34.培育开源创新力量。引导国内人工智能开源社区加强智能体布局，开展智能体与开源芯片、开源操作系统、开源大模型兼容适配。引导企业、高校、科研机构积极参与智能体框架、交互接口、工具链等开源项目，推动技术体系融通发展，加快提升国际影响力。

35.搭建产业协作平台。发挥智能体相关生态联盟、技术验证实验室等产业协作平台的作用，协同产业链上下游开展智能体共性技术研发、标准制定、评估认证等工作，开展智能体技术与产业应用复合人才培养。引导互联网应用、智能终端等领域企业共建生态，探索建立互利共赢的合作模式。

（二）强化应用推广

36.构建应用推广渠道。推动建立智能体软件商店、行业供需信息发布平台，引导智能体企业积极发布产品，形成集聚效应。开展智能体应用供需对接活动，采取公开招标、揭榜挂帅等方式吸引智能体企业定制化开发相应产品。引导整机、软件等企业基于智能体研发产品和服务，培育用户市场。

37.推进重点场景开放。推动重点领域开放智能体应用场景，在产业集聚区、重点行业、重点领域开展智能体应用试点，打造一批具有引领作用的示范项目。发展市场化、专业化的智能体技术转化服务机构，探索智能体应用场景，提升技术成果转化效率。促进行业数据共享开放，支撑重点场景智能体训练部署。

38.积极培育全球生态。依托世界人工智能大会、世界互联网大会等国际平台，交流展示智能体技术创新成果。推动终端设备、软件企业适配智能体，引导相关企业做好海外合规建设，推动智能体适应当地法律法规和文化习俗。

六、保障措施

国家网信办、国家发展改革委、工业和信息化部会同有关方面加强统筹谋划，强化资源整合和力量协同，完善配套政策，形成工作合力，推动重点任务落实落地。建立并完善智能体发展评价指标体系，加强智能体规范应用与创新发展的监测评估、滚动实施和动态调整。

（来源：中国网信网）