规范AI拟人交互秩序，整治无边界情感智能体发展乱象

近两年情感类AI智能体慢慢走进大众视野，这类AI能共情对话、定制专属人设，大多用来帮用户疏导情绪、填补碎片化空闲时间。但随着产品数量暴涨，人机边界模糊的问题越来越突出。结合中央网信办清朗专项行动以及现行生成式AI管理办法，眼下行业已经迎来集中合规整治，此前野蛮生长留下的各类隐患，都需要逐一整改。

一、AI情感智能体发展现存问题

情感AI的开发门槛并不高，依托开源模型就能快速搭建产品，这也直接导致行业自律水平参差不齐。为了留住用户，不少中小开发者刻意弱化AI的机器身份，用极度贴近真人的语气和用户互动，刻意拉近人机距离。这种无边界的虚拟陪伴，看似贴合用户情绪需求，实则埋下了心理依赖、隐私泄露双重风险。

从实际使用情况来看，未成年人、独居人群最容易受到影响。长期和拟人化AI深度聊天后，不少用户会下意识回避现实社交，把情绪寄托在虚拟AI身上。除此之外，小众AI工具的风控短板尤为明显，大多只靠简单关键词屏蔽违规内容，没办法识别隐晦的消极话术，甚至会顺着用户的极端想法附和对话。更有不少小众工具完全跳过合规审核，直接上线运营，用户私密对话数据毫无安全保障。

AI情感智能体发展现存问题图

二、AI拟人交互核心治理划定标准

（一）基础交互规范标准

往后所有对外开放使用的拟人AI，都不能隐瞒自身机器属性。用户发起第一次对话前，系统必须主动提示人工智能属性，不允许照搬真人外貌、原声模仿真人语调迷惑用户。针对未成年人，平台要细化使用权限：直接关闭所有暧昧、亲密类情感互动功能；即便是日常闲聊、知识查询这类基础功能，低龄用户使用前也需要监护人手动授权，系统默认开启防护模式。

（二）内容研发设计标准

AI日常回复话术不能违背公序良俗，不得挑拨对立、放大负面情绪，更不能引导用户沉迷虚拟世界、疏远现实亲友。在产品设计上，要改掉以往无限时长陪伴的成瘾逻辑，后台增设互动监测。一旦发现用户长时间连续对话、反复倾诉负面情绪，AI要主动做出提醒疏导。同时简化注销、解绑账号的步骤，避免繁琐操作困住用户。

（三）数据运营管理标准

用户和AI的私密聊天、内心情绪、个人过往经历，都属于高敏感个人信息。平台采集和存储时，只收集业务必需的数据，不能过度留存。并且严禁私自把聊天数据转给第三方、对外售卖。所有情感AI正式上线前，要完成话术排查和算法核验，按要求完成属地备案，从源头减少不良话术流出。

三、全域分类治理实施路径

本次整治没有采取一刀切关停的方式，而是分级分类管控，在守住合规底线的同时，保留合理的AI创新空间。针对已经上线的存量产品，企业需要自主排查整改：关停没有风控、主打虚拟恋爱、亲密陪伴的违规产品，清退资质不全、未备案的小众应用；头部平台补齐身份提示、防沉迷时长限制、未成年人防护三大基础功能。

后续新上线的拟人AI，审核门槛会整体抬高，监管也会区分工具型和情感陪伴型两类产品，对情感陪伴类审核更为严格。与此同时，适老陪伴、公益心理疏导这类正向AI项目，会得到相应扶持。整体来看，这次整治的核心不是限制AI发展，而是让AI回归工具属性，扭转过度拟人化的乱象，搭建边界清晰、合规可控的人机交互环境。

文末备注：本文仅为行业合规梳理，不代表官方文件，相关规范以网信部门正式公告为准。