展开 / 收起全文
中央网信办深入开展“清朗·整治AI技术滥用”专项行动第一阶段工作_中央网络安全和信息化委员会办公室
首页
中央网信办深入开展“清朗·整治AI技术滥用”专项行动第一阶段工作
2025年06月20日 17:00
来源：
中国网信网
【打印】【纠错】
“清朗·整治AI技术滥用”专项行动自2025年4月启动以来，中央网信办聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象，深入推进第一阶段重点整治任务，部署各地网信部门加大违规AI产品处置力度，切断违规产品营销引流渠道，督促重点网站平台健全技术安全保障措施，推动生成合成内容标识加速落地。第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个，各项工作取得积极进展。
各地网信部门多措并举，扎实推进，积极履行属地管理责任。北京网信办开设AI技术滥用治理举报渠道，形成“用户标记—平台核查—联合处置”工作模式，处置有关举报26篇。上海网信办推动标识要求落地示范，组织开展4场法规宣贯和专题交流，覆盖企业400余家，属地内重点企业已基本完成显式标识规范上线。浙江网信办加大对属地AI应用和网站平台的督导力度，各平台共拦截清理各类违法违规信息及提问2550万余条。江苏网信办加强统筹协调，联合省通信管理局等部门排查AI风险域名163个，封堵和取消接入域名18个。天津网信办采用“人工+技术”方式，开展大模型安全监测，通报4批次14个风险问题。
重点网站平台积极履行主体管理责任，加强AI技术滥用源头治理。在处置违规AI产品方面，腾讯规范应用程序管理，提高准入门槛，优化巡查机制，驳回、处置违规小程序、应用程序等共计570余款。在清理违规AI产品教程和商品方面，微博通过策略识别、用户举报等多渠道审核，累计处置违规内容4800余条，并公布典型案例。在加强训练语料管理方面，通义平台围绕数据生命周期建立安全管理体系，在数据采集、训练、使用等阶段加强训练语料管理。在强化安全管理措施方面，抖音建立“红蓝对抗”机制，模拟攻击案例，修复潜在安全漏洞，优化模型对虚假信息的识别能力。在落实内容标识要求方面，阿里、快手、稀宇等重点平台积极推进元数据隐式标识落地落实。在防范重点领域安全风险方面，小红书在模型后置训练阶段输入专业领域数据，提升模型对医疗、金融、未成年人等重点领域问题的理解能力。
下一步，中央网信办将聚焦AI造谣、低俗内容等7类突出问题，开展“清朗·整治AI技术滥用”专项行动第二阶段工作，构建技术监测体系，形成处置处罚规范，推动内容标识如期落地，形成长效工作机制，着力维护清朗网络生态，推动人工智能向善向好。
附件：北京、上海等地网信办，腾讯、抖音等平台公告链接
1.北京市“清朗·整治AI技术滥用”专项行动取得初步成效
2.强源头治理 促规范发展 上海市委网信办深入开展“清朗·整治AI技术滥用”专项行动第一阶段工作3.天津市深入开展“清朗·整治AI技术滥用”专项行动第一阶段工作成效4.江苏省委网信办深入开展“清朗·整治AI技术滥用”专项行动第一阶段工作5.浙江省委网信办开展“清朗·整治AI技术滥用”专项行动第一阶段工作6.广东深入开展“清朗·整治AI技术滥用”专项行动取得阶段性成效
7.腾讯：关于整治AI技术滥用的公告
8.抖音：抖音关于开展“治理AI技术滥用”专项的公告（一）9.微博：“清朗·整治AI技术滥用”专项行动本阶段治理情况10.快手：快手关于开展“清朗·整治AI技术滥用”专项行动的公告（第二期）
11.小红书：关于整治AI技术滥用的公告
12.百度：关于开展“清朗·整治AI技术滥用”专项治理公告
关闭
中央网络安全和信息化委员会办公室 中华人民共和国国家互联网信息办公室 ©