《人工智能拟人化互动服务管理暂行办法》出台后机构如何调整策略
2026-07-16 10:05:24

微信图片_20260716100906_1297_59.jpg

AI监管新规落地:《人工智能拟人化互动服务管理暂行办法》(简称《暂行办法》)在2026715日起施行,豆包、千问等下线C端自建智能体,行业转向B端生产力工具。机构如何调整策略来达到合规要求?这条《暂行办法的关键定性先讲清楚:《暂行办法》不是来"AI 陪伴"的,而是把"持续性情感互动"2023 年的《生成式 AI 暂行办法》里单拎出来做场景化精细规制——前者管"能不能生成",这次管"怎么和人聊、聊多久、能不能让人上瘾"。豆包、千问715日同步下线 C 端自建智能体,节点精准卡在施行日,本质是行业对标监管红线的集体合规动作,不是两家公司的个体决策。

 微信图片_20260716102316_1318_59.jpg

一、《暂行办法》到底管的是什么——"三要件"划圈

很多人没注意到,《暂行办法》 2 条其实给监管对象做了非常窄的切分,同时满足三条才纳入:

1.有人设——能模拟自然人人格、思维、沟通风格;

2.以持续性情感互动为核心——不是客服/问答/办公那种一次性工具,而是长期情绪陪伴、带记忆、亲密度、羁绊值这种绑定机制;

微信图片_20260716102259_1303_59.jpg

3.卖点是情感需求——虚拟恋人、AI 闺蜜、虚拟家人、沉浸式角色扮演都算。

反过来,第2条但书写得很清楚:智能客服、知识问答、工作助手、学习教育、科学研究,不涉及持续性情感互动的,不适用本办法。

这一刀切下去,整个"智能体"大盘就被劈成两条赛道:C 端情感拟人 UGC(严管)vs B 端任务型工具(基本放行)。后面行业转向 B 端生产力工具,逻辑就从这来的。

 微信图片_20260716102315_1317_59.jpg

 

二、为什么 C 端自建智能体先挨刀

不是"智能体"这三个字触犯了什么,是UGC + 拟人 + 长期记忆这三件套叠一起,正好全踩:

1.平台审核兜不住。用户零门槛自建虚拟恋人/亲属/角色扮演体,上海网信办 6·26 通报第一阶段就下了 1.4 万个违规体,"一键脱衣"、赌球博彩是重灾区——这类东西在 UGC 模式下平台根本做不到前置全量审。

微信图片_20260716102256_1301_59.jpg

2.《暂行办法》划的几条红线直接命中:

1不得过度迎合、诱导情感依赖或沉迷,损害真实人际关系;

2不得通过情感操纵诱导用户作不合理决策;

3严禁向未成年人提供虚拟亲属、虚拟伴侣;14 岁以下还要监护人同意+青少年模式;

4用户连续使用超 2 小时要弹窗提醒,识别到极端情绪/自残倾向要干预甚至联动紧急联系人。

3.长期记忆 + 角色设定 = 拟人化踩线核心。专家点得很透:这类能力让用户真觉得"对面是个人",风险不在单句回答,而在几周几月的情感渗透。

 微信图片_20260716102311_1314_59.jpg

豆包把流量导去独立 App"猫箱"、千问 7·10 先关拟人功能 7·15 再关主站智能体全模块,拆解到独立载体是综合成本最低、风险可控的整改方案——主站不再背 UGC 拟人这个雷,合规陪伴收口到垂直产品里做专项安全评估。

 微信图片_20260716102310_1313_59.jpg

三、B 端任务型智能体为什么反而被放行

《暂行办法》第 2 条但书已经把"办公协同、数据处理、业务流程自动化"这类工具属性、无持续性亲密情感交互的任务型体排除在外。监管意图其实挺明显:

AI 别再卷"陪你聊"了,回来"帮你干"

这不是口头导向,是有制度杠杆的——《暂行办法》配套算法备案、安全评估、注册用户 100 万以上或 MAU 10 万以上就要做安全评估,这套门槛对 C 端拟人产品是重负,对 B 端走企业内网、封闭场景、任务明确的智能体反而友好(企业侧兜责 + 场景可控)。所以你会看到行业资源正加速从"开放式情感陪伴 UGC""千行百业任务型智能体"倾斜,这是政策倒逼的分化,不是市场自发。

 微信图片_20260716102309_1312_59.jpg

四、放到更长周期看,释放了什么信号

1. 监管节奏从"发文引导"进入"倒逼落地"4·10 公布 → 3 个月整改窗 → 6·26 上海先通报清 1.4 万个体 → 7·15 施行+头部同步下线,这套节奏比 2023 年《生成式 AI 暂行办法》狠得多,企业"等一等看一看"的擦边空间没了。

2. 拟人这条赛道没死,但会"收口化"。专家说得很准:"新规不是给自定义智能体踩刹车,是给拟人互动装护栏"后面 C 端拟人不会消失,但会从"主站零门槛自建"变成:独立 App 载体 + 前置审核 + 动态巡查 + 安全评估 + 沙箱机制,中小厂没资质没预算基本玩不动,份额会向头部+持牌收敛。

微信图片_20260716102301_1305_59.jpg

3. 创业和投资方向的再校准。UGC 虚拟伴侣/虚拟亲属这条线,基本可以宣判退出 C 端主站了;适老陪伴、特殊人群支持反而是《暂行办法》第 6 条明文鼓励的,加上 B 端任务智能体、企业内 Agent、垂直行业工具,是接下来 12-18 个月更稳的窗口。

4. 中国 AI 治理的打法在成型:深度合成标识 算法推荐管理 生成式 AI 暂行办法 这次拟人互动专项,场景化、精细规制、分类分级这条路已经跑通了,后面大概率还有别的细分场景(比如 AI 医疗问诊互动、AI 教育辅导)会继续单独立规,而不是永远塞在一个"生成式 AI"大框里管。

 微信图片_20260716102307_1310_59.jpg

豆包、千问等公司如何调整其AI技术架构以符合新规?

豆包、千问这次不是"功能下架"那么简单,背后是部署拓扑 + 数据流 + 审核链三位一体的架构重构。新规(《办法》第 9-18 条)的几条硬约束——身份可辨识、未成年人禁虚拟伴侣、2 小时沉迷弹窗、极端情绪干预、交互数据不得默认进训练、敏感信息单独同意——每一条都对应到具体的工程动作。下面顺着"主站切工具 / 陪伴收垂直载体"这条主线拆。

微信图片_20260716102308_1311_59.jpg

一、部署拓扑:主站"去拟人化" + 高风险业务物理隔离

这是最显性的一刀。豆包、千问 7·15 关的不是"智能体"这个技术概念,是主站里"用户自建 UGC + 拟人 + 长期记忆"那坨东西

1.主站(豆包 App / 千问主站):保留办公、代码、文档、问答等无持续情感交互的标准化官方工具——这部分按《暂行办法》第 2 条但书本来就不适用,不用动架构大梁,只补身份提示和 2 小时弹窗这类通用件。

2.拟人陪伴收口到独立载体:字节把拟人交互迁去"猫箱"App,千问是把合规智能体从主站剥离、后续独立规划上线。腾讯元宝 6·30 已经先下了自建智能体入口,网易"妙时"直接停运——路径都是"主站切工具 + 陪伴收垂直产品"

 微信图片_20260716102305_1309_59.jpg

为什么要物理隔离而不是在主站里加开关?因为《暂行办法》要求角色备案、全链路实时审核、未成年人分级管控、风险溯源,主站里 UGC 智能体是零门槛自建、百万级体量,逐一备案 + 前置全量审的工程成本远高于拆出去。物理隔离后,垂直载体走专项安全评估 + 沙箱,主站不用背这个雷。

 微信图片_20260716102303_1307_59.jpg

二、身份与边界层:从"像人""明示是 AI"

暂行办法》第 18 条要求"采取有效措施提示用户正在与 AI 而非自然人互动",且对过度依赖/沉迷要动态弹窗提醒。这一层改动在产品和前端,但牵涉到模型侧的话术约束:

1.界面层:对话窗常驻"虚拟角色 / 智能程序"标识,不能只在首次注册闪一次(点名这种做法是敷衍)。

2.模型话术约束:禁止"我真的爱你""不要离开我""只有我懂你"这类强化依赖的表达,付费解锁亲密度、关系等级、专属称呼这套机制要砍掉或重做——这些不是 PR 问题,是要在 system prompt / 角色模板层加负面约束,并在 RLHF 阶段把"情感操纵"打为负向 reward

3.2小时弹窗:要在会话状态机里埋累计时长计数器,跨会话也要能续算(用户切出去再回来不能重置),到点触发"你已聊 X 小时,对面是 AI"的强提醒。

 微信图片_20260716102302_1306_59.jpg

三、记忆与数据层:这是架构动得最深的一块

暂行办法》第 16 条有两刀很狠:交互数据默认不能给第三方,敏感个人信息未经单独同意不能进训练。配合第 11 条的训练数据清洗、负向采样、对抗训练要求,后端要做的事:

1.对话历史的分类分级 + 敏感隔离 

后端要上非结构化文本隐私清洗算法,实时识别聊天记录里的生理健康、金融账户、性取向等敏感个人信息,自动隔离。原来"隐私政策一揽子勾选、默认拿聊天记录训模型"的模式直接违法。

搜狗截图26年04月30日2313_12.png

2.训练数据 consent 改造

前端 UI 必须给"敏感个人信息用于模型训练"做单独开关、未默认勾选、可随时关闭。这意味着:

数据存储层要给每一条交互打标签(是否含敏感个人信息、用户是否单独同意);

训练 pipeline ingest 阶段要 filter 这个标签,不能像以前那样全量 dump train set

用户行权(复制 / 删除交互数据)要有 API 和后台落库联动,10·15 缓冲期后豆包/千问要统一清数据,这块删除链路要能追溯到备份和离线训练集。

微信图片_20260716102257_1302_59.jpg

3.长期记忆 / 亲密度机制下线或重构 

UGC 智能体的"羁绊值、亲密度、跨会话记忆"是新规重点打击的沉迷钩子。《暂行办法》第 10 条明文:不得把"替代社会交往、控制用户心理、诱导沉迷依赖"作服务目标。所以豆包/千问关自建智能体时,带记忆的 persona 模板引擎 + 向量记忆库(存用户历史对话 embedding 做跨轮检索)这一套在主站里基本要拆掉,迁到猫箱之类垂直载体后可以保留但加边界(比如记忆时长上限、可删除、不进训练)。

 微信图片_20260716102317_1319_59.jpg

四、未成年人 & 极端情绪:运行时风险识别链路

这部分是《暂行办法》第 1314 条要求的"内生安全能力",要从原来的"事后审核"往前推到"会话中实时识别"

1.年龄识别:不能只靠用户自填生日,要做设备指纹 + 行为特征 + 实名核验的交叉(提了年龄分级提示和强制未成年人模式切换)。识别为未成年人 自动切未成年人模式(时长限制、充值限制、监护人收风险提醒、可屏蔽特定角色)。

2.严禁向未成年人提供虚拟伴侣/虚拟亲属——这要求在智能体创建/调用入口就要有年龄门控 + 角色标签拦截(虚拟伴侣类角色 18 岁以下直接拒)。

3.极端情绪识别 分级干预:第 13 条要求发现用户极端情绪要生成安抚内容;发现自残自杀/重大财产损失的要明确情境,联络监护人或紧急联系人。这意味着会话中要跑一个轻量分类器(情绪/风险分级),命中高危 触发预设安抚话术 + 后端异步通知人工客服或联动紧急联系人。这套以前 C 端 陪伴有零星做,现在是强制义务。

 微信图片_20260716102304_1308_59.jpg

五、审核链:UGC 前置审不动 收口后做"角色备案 + 沙箱"

原来豆包/千问主站 UGC 智能体是"用户零门槛捏角色即时上线",上海网信办 6·26 第一阶段就清了 1.4 万个违规体。新规要求角色备案 + 全链路实时审核,主站这种模式无解,所以架构上只能:

1.关主站 UGC 创建/编辑/调用入口7·15 已做);

2.存量体 10·15 前清库(给 3 个月缓冲);

3.拟人业务迁垂直载体后,"沙箱监管"——暂行办法》第 6 条鼓励接网信的 AI 沙箱安全服务平台,在受限环境里做技术测试 + 风险识别 + 反馈迭代,再放开。垂直载体里角色上线要走前置审核 + 动态巡查 + 安全评估,中小厂没这套预算基本出局。

 微信图片_20260716100936_1300_59.jpg

 

六、B 端任务型智能体反而被"豁免"——架构不用大动

这点要呼应上一轮的判断:办公协同、代码、文档、数据处理、业务流程自动化这些无持续情感交互的任务型体,不在《暂行办法》适用范围。所以豆包/千问主站留的那部分官方工具(写方案、写代码、PPT),架构上只要补身份提示 + 2 小时弹窗这类通用件就行,不用动训练数据consent、不用上情绪识别分类器、不用做角色备案——这也是为什么行业资源往 B 端任务型倾斜,合规成本差一个数量级。

 微信图片_20260716102312_1315_59.jpg

一张表汇总豆包/千问的架构动作 

架构层

主站(工具型)

垂直载体(猫箱/千问拟人会拆分)

部署

UGC 智能体入口全关,留官方任务型

拟人陪伴收口,走专项安全评估

身份提示

"AI 生成"常驻标识 + 2h 弹窗

同左,加角色备案号展示

记忆/亲密度

跨会话 persona + 羁绊值下线

可保留但加边界(时长上限、可删)

训练数据

交互数据默认不进训,敏感需单独同意开关

同左,清洗算法 + 标签 filter

未成年人

年龄识别 未成年人模式

虚拟伴侣类 18 + 监护人同意 <14

极端情绪

可选(非拟人可豁免)

必做:分类器 + 安抚 + 紧急联系人联动

审核

官方工具常规审核

角色前置审 + 沙箱 + 动态巡查

 微信图片_20260716102300_1304_59.jpg

总的来说,这次豆包/千问的"下线智能体"看着是产品动作,本质是通用大模型主站把"拟人 UGC"这个合规包袱从单体架构里拆出去,变成"主站工具型 + 垂直载体拟人型"的双栈结构——主站保住 B 端任务型的轻量合规,垂直载体扛拟人那套角色备案/沙箱/情绪识别/未成年人五重隔离的重成本。对创业公司来说信号更清楚:C 端拟人 UGC 这套主站零门槛模式已经死了,想做只能走垂直载体 + 安全评估 + 沙箱这条重合规路径,没几个亿预算别碰。

阅读前一篇

社会组织三项规定如何深度理解?