《管理办法》解读

《暂行办法》适用于向中华人民共和国境内公众提供生成式人工智能服务的所有相关活动。

地域范围： 中国境内。

对象： 面向公众提供的服务。不包括企业内部自用、科研用途等非商业性、非公开提供的服务。

技术范围： 利用生成式人工智能技术，生成文本、图片、音频、视频等内容的服务。

1.国家安全和社会稳定风险： 可能生成和传播颠覆国家政权、推翻社会主义制度、分裂国家、恐怖主义、极端主义等内容。

2.偏见歧视风险： 由于训练数据等原因，可能导致生成内容存在民族、信仰、国别、地域、性别、年龄、职业、健康等歧视。

3.虚假信息风险： 可能生成不实信息，扰乱经济和社会秩序。

4.知识产权侵权风险： 可能生成侵犯他人知识产权（如著作权）的内容。

5.个人信息与隐私泄露风险： 在训练和使用过程中可能收集、使用不当，导致个人信息泄露或侵犯个人隐私。

6.未成年人保护风险： 可能生成危害未成年人身心健康的内容。

1.内容红线： 生成内容必须坚持社会主义核心价值观，不得生成本办法第四条禁止的违法和不良信息。

2.标识义务： 提供者应当按照国家网信部门的规定，对图片、视频等生成内容进行标识。（即通常所说的“AI生成水印”）

3.内容安全机制： 提供者必须建立内容过滤和管理机制，在训练、推理、生成等环节采取措施，防止生成违法不良信息。

4.真实性保障： 提供者应当保证生成内容的真实性、准确性，不得利用生成内容进行虚假信息传播、商业炒作和不正当竞争。

5.投诉举报机制： 提供者必须建立健全投诉举报机制，及时处理公众关于违法不良内容的举报。

1.训练数据质量与合法合规义务： 保证训练数据的合法性、真实性、准确性、客观性、多样性。不得侵犯知识产权，不得包含违法不良信息。对数据来源进行审核清理。

2.模型合规与安全评估义务： 在提供服务前，应当按照国家有关规定开展安全评估，并履行算法备案手续。

3.用户实名制义务： 按照《网络安全法》规定，要求用户提供真实身份信息。

4.个人信息保护义务： 依法承担个人信息处理者责任，遵守个人信息保护法律法规。

5.内容安全审核义务： 建立健全的内容管理机制，及时发现和处理违法不良内容。

6.公平竞争义务： 不得利用算法、数据、平台等优势实施垄断和不正当竞争。

7.投诉举报处理义务： 建立便捷的投诉举报渠道，并及时处理和反馈。

8.特殊场景义务： 发现违法犯罪活动、危险物品信息等，应当停止服务并向主管部门报告。

合规建议

媒体单位要注意什么？