面对即将生的AI虚拟恋人、情感陪伴产品理新规广安泡沫板胶,多款头部的AI聊天应用近期相继宣布下架相关智能体。
字节跳动旗下豆包App发布的《豆包智能体下线通知》提到,由于产品调整,智能体将于2026年7月15日下线。下线后,用户仍可在段时间内查看并自行保存智能体信息及历史对话数据,10月15日后,豆包将根据《隐私政策》对智能体相关数据进行处理,后续将法在豆包内查看或恢复。
有偶,阿里巴巴旗下千问App亦在《千问智能体服务下线提醒》中称,千问智能体与服务将于2026年7月15日正式下线,下线后,用户将法继续访问相关智能体配置及历史对话记录,平台将依据法律法规对相关数据进行删除。
这两公司提及的下线时间点——2026年7月15日,恰好与《人工智能拟人化互动服务管理暂行办法》(下称《AI拟人化互动管理办法》)生施行之日吻。这部部门规章层的法规,已于今年4月10日由国网信办等五部门联公布。
据“网信”公众号发布的《答记者问》解释,拟人化互动服务已成为AI的重要应用向,通过模拟人类情感和沟通式,带来了新的发展机遇和人机交互体验,在文化传播、适幼照护、适老陪伴等域展现出巨大潜力,但也带来了危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等风险。
为此广安泡沫板胶,《AI拟人化互动管理办法》为提供拟人化互动服务的应用划定多条“红线”,其中包括:不得生成鼓励、美化、暗示自残自等损害用户身体健康,或者语言等损害用户人格尊严与心理健康的内容;不得向未成年人用户生成可能引发未成年人模仿不安全行为、产生端情绪、诱未成年人不良嗜好等可能影响未成年人身心健康的内容;不得过度迎用户、诱情感依赖或者沉迷,损害用户真实人际关系等。
此外,《AI拟人化互动管理办法》还明确,提供拟人化互动服务过程中,应当在保护用户隐私权和个人信息的前提下,及时识别用户面临的安全风险,并采取相应的应急处置措施。如果发现用户出现端情绪的,应当及时生成情绪安抚和鼓励寻求帮助等相关内容;发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自等威胁生命健康的端情境的,应当采取提供相应援助等要措施予以干预,保温护角专用胶并及时联络用户监护人或者紧急联系人。
相比于豆包、千问卡着新规生的时间点,腾讯元宝的调整行动为提前。许多元宝的用户近期在社交平台上反映,元宝App已在6月下架了《长相思》角IP“相柳”等受欢迎的对话类智能体。
位从事AI产品内容安全业务的人士向南都记者分析,新规落地需要重新做安全评估,几互联网大厂在没有完成评估之前,集体选择对相关智能体予以下线。
随着指控AI诱发自的端案件频发,以及AI涉黄擦边现象屡次被点名,AI情感陪伴赛道已从早期的热门风口广安泡沫板胶,日渐成为部分AI公司的“烫手山芋”。
在海外,Character.AI、OpenAI接连因情感陪伴服务损害用户身心健康而遭到起诉。受此影响,美国加州于2025年10月颁布项监管AI聊天机器人的法律,并于2026年1月1日正式生,要求相关企业实施包括年龄验证机制、风险警示在内的多项安全。
在国内,知名AI陪伴产品筑梦岛App因生成涉未成年人不良内容,曾被上海市网信办约谈。而侵害未成年人权益内容、制作发布低俗等不良信息,也被中央网信办今年4月启动的“清朗·整AI应用乱象”项行动列为整对象。《AI拟人化互动管理办法》正是在此背景下应运而生。
AI陪伴赛道的企业告诉南都记者,尽管互联网大厂因为新规而调整AI产品的设计,但其公司暂大的业务调整计划,会按照新规要求进步加强业务的规。
值得注意的是,豆包App在公告下架智能体的同时,亦提示称:字节跳动旗下的猫箱App可创建新的智能体、开启对话服务,用户后续可在猫箱App体验智能体。
猫箱App是款角扮演类的AI陪伴互动产品。这意味着,字节跳动并非放弃AI情感陪伴业务,而是将相关从豆包App中剥离。对此,位互联网域的AI规研究人员向南都记者分析,豆包此举或许是在上进行风险隔离。
采写:南都N记者 杨柳 相关词条:铁皮保温施工 隔热条设备 锚索 离心玻璃棉 万能胶生产厂家
奥力斯 pvc管道管件胶批发 联系人:王经理 手机:15226765735(微信同号) 地址:河北省任丘市北辛庄乡南代河工业区
1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定,并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方,并积极配合修改。
3.凡用户访问本网页,均表示默认详情页的描述,不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》,以此来变相勒索商家索要赔偿的违法恶意行为。
