上海网信部门介入虚拟伴侣乱象 平台加速整改

报道《AI虚拟伴侣乱象调查：可选小三暴力剧情，角色表达带性暗示》发布后，加速了行业的整治。5月28日，“EchoMe”平台运营负责人表示，属地网信部门已注意到相关情况并指导平台推进整改，应用商店渠道对App进行了下架处理。目前，平台将实名认证、年龄识别和未成年人保护作为合规升级的重点。该负责人还提到，公司内部第一时间启动了内容安全和合规能力的梳理，并结合网信部门和《人工智能拟人化互动服务管理暂行办法》的要求推进整改、安全评估和版本优化工作。

对于具体的整改措施，该负责人表示，他们进一步明确了实名认证、用户年龄识别和未成年人保护等内容安全治理重点。目前已开发登录实名认证功能，用于确认用户年龄；同时完善了敏感内容拦截、违规内容告警和处置机制，以加强内容安全管控和未成年人保护。由于部分应用商店暂时无法搜索或下载EchoMe，相关能力暂未能通过正式版本面向全量用户提供。后续将继续按照主管部门和平台规范要求推进整改、安全评估及恢复工作，并通过官方渠道同步进展。

4月，国家网信办等五部门联合公布了《人工智能拟人化互动服务管理暂行办法》，对生成淫秽、色情、暴力或可能引发未成年人极端情绪的内容划出红线。然而，4月下旬以来，南都记者测试发现，“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App普遍存在安全与合规漏洞：“青少年模式”可一键跳过，“AI生成”标注不清，还惯用“付费解锁亲密剧情”等方式诱导消费。App系统预设角色中有大量性感黑丝、袒胸露乳的女性人物，不仅可以在对话中随意选择“暴力”“小三”“离婚互怼”等极端剧情，聊天中还充斥着具有性暗示的低俗话语。