23/04/11，中国颁布了《生成式人工智能服务管理办法（征求意见稿）》

[kop1989smurf]

其中有两点比较关键，分别为“第五条”与“第七条”。

引用如下：

第五条 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

第七条 提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。


第五条基本定义了在中国范围内，AI 产出的责任归属问题。既提供服务的组织 /个人，承担通过 AI 产出内容的生产者责任。

但什么是“生产者责任”，如何划分“生产者责任”，以及对 AI 生成内容的版权归属的纠纷争论有何帮助，暂时还没有答案。

然后就是第七条，在目前统计学 AI 的模型不可视，且高度泛化、涌现的条件下，到底如何让第七条落地，是一个很大的问题。

[nomagick]

赶紧发文骂他

公众可通过以下途径和方式提出反馈意见：

1.登录（ www.moj.gov.cn 、www.chinalaw.gov.cn ），进入首页主菜单的“立法意见征集”栏目提出意见。

2.通过电子邮件方式发送至： [e-mail] 。

3.通过信函方式将意见寄至：北京市海淀区阜成路 15 号国家互联网信息办公室网络安全协调局，邮编 100048 ，并在信封上注明“生成式人工智能服务管理办法征求意见”。

意见反馈截止时间为 2023 年 5 月 10 日。

[hhjswf]

难怪国产 ai 按核按钮了

[euph]

反馈没用，人家也就走个形式
@nomagick

[erikk0]

我觉得最关键的是第四条第一款之规定。

[icbmicbm]

“不得向他人提供用户输入信息” 那是不能从用户输入的信息学习咯

[kop1989smurf]

@icbmicbm 意思是模型源数据要和 prompt 隔离。不能使用别人的 prompt 当作学习语料，从而输出别人当作 prompt 的内容。

[kop1989smurf]

@icbmicbm 不过这个也有歧义，也有可能是 prompt 算是用户隐私不能泄漏给第三方的意思

[GHvyuR7N]

月光博客有一篇文章很有意思：

https://www.williamlong.info/archives/7133.html

这东西已经超出工具的范畴了。