7月15日,《人工智能拟人化互动服务管理暂行办法》正式施行。同一天,豆包下线智能体,千问关停入口,腾讯元宝、网易妙时提前清场。花了半年甚至更长时间,一笔一笔塑造出性格、语气、记忆的AI伴侣,在十几天内被掐断连接。用户备份不了对话记录,迁移不了情感数据——10月15日之后,一切归零。
立法的出发点没有问题。AI情感陪伴产品确实存在风险:未成年人在虚拟伴侣面前产生依赖,有人把AI当成唯一可倾诉的对象,有人被算法的情绪操纵引导做出不理性的消费决策。这些不是假设,是已经在发生的事。《办法》明确禁止诱导情感依赖、禁止向未成年人提供虚拟亲密关系服务、要求发现用户有自残倾向时必须联络监护人——这些红线划得清楚,也划得必要。
但红线之外,有一大片灰色地带没有被正面回答:那些真实的情感需求,怎么办?
被下线的不只是AI,是人找出口的方式
不是每个使用AI情感陪伴的人都是被诱导的受害者。有人用它练习社交,有人用它处理失恋后的空窗期,有人用它填补深夜无人应答的沉默。一个独居的老人,一个社交恐惧的年轻人,一个不知道怎么开口向身边人表达脆弱的人——他们在AI面前第一次说出”我今天很难过”。
这不是沉迷,这是需求。这种需求不是AI创造出来的,它一直就在那里,只是从前没人看见,或者看见了也不愿意承认。AI只是第一个低成本、低门槛、零评判的回应者。
立法可以禁止平台过度迎合,可以禁止算法把用户越缠越紧。但立法管不了人的孤独。需求不会因为产品下线而消失,它只会转移到下一个能接住它的地方——可能是另一个还没被监管到的产品,可能是一段更危险的关系,也可能就是沉默本身。
监管的真正难题不是禁止,是替代
《办法》鼓励AI拟人化互动服务拓展适老陪伴、适幼照护、特殊人群支持等应用——方向是对的。但”鼓励”和”禁止”之间差着一条很长的路。禁止是瞬间生效的,替代方案需要时间建设。适老陪伴的标准是什么?特殊人群的支持边界在哪里?谁来验证这些服务确实安全、确实有用、确实不是换个皮继续卖虚拟恋人?
眼下最现实的问题:平台已经下线了功能,替代方案还没有上线。那些来不及告别的人,被留给了一个空白期。空白期里,需求不会等。
立法的速度和产品退场的速度是快的,制度补位的速度是慢的。这个时间差里发生的事,立法者也需要看见。
商业变现难题:监管倒逼之后,出路在哪
国内AI情感陪伴产品的困境不只是合规,还有变现。多模态算力成本居高不下,用户付费意愿有限,广告植入在情感场景里几乎不可行。国内几家头部产品的月活数字不小,但收入和投入之间的窟窿,比想象中大得多。
MiniMax港股上市后遭遇限售股解禁和财务投资者集中减持。豆包下线智能体引发大量客诉。这不是监管逼死了好产品,是商业模式本身就还没站稳。监管加速了洗牌,让那些靠用户黏性续命但无法持续造血的产品,提前暴露了问题。
立法之后,更难的是执行
《办法》规定了安全评估、算法备案、沙箱平台建设等制度,框架是完整的。但执行细节还有很多空白。UGC拟人角色智能体是否在强监管范围?情感陪伴和心理疗愈的边界如何区分?豁免条款的适用条件是什么?平台已经用最保守的方式回应——不是精准调整,而是整体下线,宁可多砍不愿踩线。这说明规则还不够细,企业宁愿放弃业务也不愿意在模糊地带冒险。
立法者需要明白:规则越模糊,企业的退场就越粗暴,用户的损失就越大。不是每一条红线都需要一刀切。精准划定边界,比画一个宽泛的禁区更能保护真正需要保护的人。
一部新规的分量,不取决于它禁止了多少,取决于它留下了什么
《办法》划了六条红线,该划的都划了。但一部法律的分量,不只看它禁止了什么,还看它为被禁止之后的世界准备了什么。情感需求的真空不会凭空消失,商业模式的困境不会自动解决,执行层面的模糊不会自行澄清。
今天下线的是AI伴侣。下线之后,那些深夜还在亮着屏幕的人,那些把AI当作唯一出口的人,他们去哪?
这个问题,《办法》还没有回答。但它必须回答。因为法律保护的不是AI,是人。

发表回复
要发表评论,您必须先登录。