展开 / 收起全文
6月19日上午，上海市网信办依法约谈筑梦岛APP运营企业主要负责人，要求平台立即整改，健全AI生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。近期有媒体报道，筑梦岛APP等AI聊天软件存在虚拟角色互动生成低俗内容等问题，经核实，该平台AI智能体内容生成环节存在低俗擦边等违规内容，危害未成年人身心健康。
AI 处罚与执法 · 2025
上海市网信办约谈"筑梦岛"APP（AI 智能体低俗擦边内容）
事项简介
筑梦岛 APP 等 AI 聊天软件存在虚拟角色互动生成低俗擦边等违规内容，危害未成年人身心健康，AI 智能体内容生成环节问题被媒体曝光并经网信部门核实。
处理情况
处理措施：依法约谈运营企业主要负责人，要求立即整改、健全 AI 生成合成内容审核机制、加强涉未成年人不良内容整治清理；依据《未成年人网络保护条例》《生成式人工智能服务管理暂行办法》。