"开山猴"AI 写作网站违规生成禁止信息案（首例生成式 AI 审核义务行政处罚）

重庆市九龙坡区网信办｜ 2024

事项简介

"开山猴"AI 写作网站运营主体重庆初唱科技有限公司未尽到审核管理义务、履行主体责任不到位，其 AI 产品违规生成法律法规禁止信息。

处理情况

处理措施：对运营主体行政警告、责令限期全面整改，相关 AI 产品暂停功能 15 日。系国内首起对生成式 AI 服务提供者未尽内容审核义务作出的行政处罚。

通报全文

展开 / 收起全文

某AI产品违规生成法律法规禁止信息，遭地方网信办暂停功能15日 - 安全内参 | 决策者的网络安全知识库

Toggle navigation

首页

政策法规

威胁态势

技术前沿

安全实践

产业研究

某AI产品违规生成法律法规禁止信息，遭地方网信办暂停功能15日

监管

网信九龙坡

2024-05-29

九龙坡区网信办依法对属地一互联网企业作出行政处罚。

近日，九龙坡区网信办依法对属地“开山猴”AI写作网站运营主体重庆初唱科技有限公司未尽到审核管理义务、履行主体责任不到位的行为作出行政处罚。

经查，该企业运营的“开山猴AI写作大师”网站违规生成法律法规禁止的信息，未尽到主体责任义务，违反了《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》等相关法律法规。九龙坡区网信办依据《中华人民共和国网络安全法》第六十八条的规定，给予其行政警告处罚，并责令该公司限期全面整改，加强信息内容审核，健全信息内容安全管理相关制度，暂停网站信息更新及AI算法生成式写作功能15日。

该公司负责人表示，将严格按照整改通知要求，即时做好整改，持续加强互联网法律法规学习，坚持依法办网。

下一步，九龙坡区网信办将持续加强网络监管，压紧压实网络平台主体责任，依法查处网络违法违规行为，全力保障广大网民合法权益，积极构建清朗网络环境，促进互联网行业健康有序发展。

声明：本文来自网信九龙坡，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。

监管

查看原文

官方来源：重庆市九龙坡区网信办・2024-05（"网信重庆"通报）