黄明儒,刘方可

• 1:湘潭大学法学院

• 
  

摘要(Abstract)：

以ChatGPT为代表的生成式人工智能存在犯罪风险。爬取数据的行为存在侵犯数据安全的数据犯罪风险，应当扩展数据犯罪的行为方式和行为对象，在“侵入获取型”“其他技术手段获取型”基础上增加“爬取获取型”数据犯罪行为，从而形成三维行为规制格局，并取消对数据领域和数据类型的限制。因“调教失能”“AI越狱”等引发人工智能责任事故犯罪风险时，生成式人工智能提供者应当承担过失犯罪责任，但应当摒弃旧过失论与新新过失论，采纳新过失论作为判断依据。面对生成式人工智能生成内容存在的侵犯著作权的犯罪风险，刑法应当采取谦抑的态度，通过实质性智力投入与算法可解释性来认定生成内容的作品性。

关键词(KeyWords)：ChatGPT;生成式人工智能;数据犯罪;人工智能责任事故犯罪;知识产权犯罪

基金项目(Foundation):2019年国家社会科学基金项目“风险社会背景下行政犯扩张及其适用限缩研究”(项目编号：19BFX061);; 2022年湖南省社会科学基金项目“湖南新型犯罪形势与治理模式研究”(项目编号：22YBQ046);; 2023年湖南省研究生科研创新重点项目“共同犯罪违法所得共同退缴责任研究”(项目编号：CX20230541)的阶段性成果

作者(Author):黄明儒,刘方可

参考文献(References)：

• [1]百度网.ChatGPT和AI“火出圈”,马斯克、库克、芒格等商界大佬怎么看[EB/OL].[2023-05-05].https://baijiahao.baidu.com/s?id=1758971993797847464&wfr=spider&for=pc.

• [2]浙江在线新闻网.ChatGPT的终极三问[EB/OL].[2023-05-06].https://zjnews.zjol.com.cn/zjnews/202302/t20230227_25468671.shtml.

• [3]朱光辉，王喜文.ChatGPT的运行模式、关键技术及未来图景[J].新疆师范大学学报(哲学社会科学版),2023(4):180.

• [4][28]刘艳红.生成式人工智能的三大安全风险及法律规制：以ChatGPT为例[J].东方法学，2023(4):31,40.

• [5]孙俊.ChatGP的内在逻辑及其律风险[EB/OL].[2023-03-25].https://zhuanlan.zhihu.com/p/604838938.

• [6]郭春镇.生成式AI的融贯性法律治理：以生成式预训练模型(GPT)为例[J].现代法学，2023(3):90-93.

• [7]王洋，闫海.生成式人工智能的风险迭代与规制革新：以ChatGPT为例[J].理论月刊，2023(6):20-23.

• [8]刘双阳.数据法益的类型化及其刑法保护体系建构[J].中国刑事法杂志，2022(6):43.

• [9]Natalie.ChatGPT:Release Notes:The latest update for ChatGPT[EB/OL].[2023-06-14].https://help.openai.com/en/articles/6825453-chatgpt-release-notes.

• [10]杨志琼.数据时代网络爬虫的刑法规制[J].比较法研究，2020(4):193-199.

• [11]周光权.刑法各论：第4版[M].北京：中国人民大学出版社，2021:403.

• [12]储舒婷.越发“善解人意”的AI,暗藏哪些伦理风险[N].文汇报，2023-02-15(005).

• [13]新闻在线.ChatGPT爆火，警惕不法分子利用其实施犯罪[EB/OL].[2023-04-23].https://mp.weixin.qq.com/s?_biz=MjM5MjQ2NDk2MQ==&mid=2650090587&idx=4&sn=c22dba6b1e915dd4c6612a85078f8b71&chksm.

• [14]澎湃新闻网.ChatGPT类AI软件或成为犯罪分子的工具[EB/OL].[2023-05-07].https://m.thepaper.cn/baijiahao_22051431.

• [15]张天培.警惕利用人工智能技术进行新型犯罪[N].人民日报，2023-10-26(018).

• [16]马克昌.比较刑法原理：外国刑法学总论[M].武汉：武汉大学出版社，2015:228-233.

• [17]周光权.刑法总论：第4版[M].北京：中国人民大学出版社，2021:161.

• [18]西田典之.日本刑法总论[M].刘明祥，译.北京：法律出版社，2013:104.

• [19]前田雅英.刑法总论讲义[M].曾文科，译.北京：北京大学出版社，2017:183.

• [20]陈兴良.教义刑法学[M].北京：中国人民大学出版社，2017:511.

• [21]房慧颖.智能风险刑事治理的体系省思与范式建构[J].山东社会科学，2021(2):6.

• [22]朱开鑫，张艺群.你的AI侵犯了我的版权：浅谈AIGC背后的版权保护问题[EB/OL].[2023-06-04].https://mp.weixin.qq.com/s?__biz=MzUyMTY0NjExMg==&mid=2247490646&idx=1&sn=9296298e25a767b4f4c2c1f70c3a3da9&chksm.

• [23]UNY education new.Noam Chomsky on the False Promise of ChatGPT![EB/OL].[2023-03-27].https://apicciano.commons.gc.cuny.edu/2023/03/09/noam-chomsky-on-the-false-promise-of-chatgpt/.

• [24]李富民.智能写作使用他人作品的合法性界限：以展示性使用与非展示性使用区分为视角[J].社会科学家，2021(8):133.

• [25]劳伦斯·莱斯格.思想的未来[M].李旭，译.北京：中信出版社，2004:256.

• [26]杨利华，王诗童.人工智能生成内容的著作权客体性思考：兼论作品判定的独创性标准选择[EB/OL].[2023-09-29].https://doi.org/10.13766/j.bhsk.1008-2204.2023.0862.

• [27]毕文轩.生成式人工智能的风险规制困境及其化解：以ChatGPT的规制为视角[J].比较法研究，2023(3):171.

• [29]刘文杰.信息网络传播行为的认定[J].法学研究，2016(3):138.

• [30]Brownsword R,Scotford E,Yeung K.The Oxford Handbook of Law,Regulation and Technology[M].Oxford:Oxford University Press,2017:575.

• (1)这四个罪名分别是:(1)第一百三十四条之一危险作业罪,其第一款第一项规定:(一)关闭、破坏直接关系生产安全的监控、报警、防护、救生设备、设施,或者篡改、隐瞒、销毁其相关数据、信息的;(2)第一百四十二条之一妨害药品管理罪,其第一款第三项规定:(三)药品申请注册中提供虚假的证明、数据、资料、样品或者采取其他欺骗手段的;(3)第二百八十五条非法获取计算机信息系统数据罪,其规定:违反国家规定,侵入前款规定以外的计算机信息系统或者采用其他技术手段,获取该计算机信息系统中存储、处理或者传输的数据……;(4)第二百八十六条破坏计算机信息系统罪,其第二款规定:违反国家规定,对计算机信息系统中存储、处理或者传输的数据和应用程序进行删除、修改、增加的操作,后果严重的,依照前款的规定处罚。

• (2)人工智能刑事责任主体肯定说的主要理由是,强人工智能具有明显脱离人类设计和编程限制的特征,可以在自主意识和意志的支配下独立作出决策并实施行为,这种独立意识和意志(即具有辨认和控制自己行为的意识)具有类人性。人类虽然是开发AGI的主体,但AGI涌现出要求自身独立的机器意识,独立机器意识下机器将产生觉知自己与世界的能力。就此而言,生成式人工智能可能已经具备类人化意识与行为能力的基本形态,挑战人本伦理逻辑。因此,人工智能应当被赋予与自然人一样的主体地位(包括刑事责任主体地位)。鉴于本文主题与篇幅限制,具体内容请参见刘宪权《人工智能时代刑法中行为的内涵新解》,《中国刑事法杂志》2019年第4期,第60—72页;刘宪权《ChatGPT等生成式人工智能的刑事责任问题研究》,《现代法学》2023年第4期,第110—125页。

• (3)该准则是由七国集团于2023年10月份商议出台,虽然其不具有强制的法律约束力,但因其强调人工智能(包括生成式人工智能)的风险管理以及研发行为规范而得到欧盟以及世界许多国家的积极响应。尤其是其提到的十一项具体行为准则,对于负责任的研发和部署人工智能具有重要的参考价值。十一项具体行为准则参见《AI监管加速:白宫发行政令,G7提自愿行为准则,英国开全球峰会》,网址为“https://www.thepaper.cn/newsDetail_forward_25126009”,最后访问时间为2023年12月25日。

• (4)参见北京互联网法院(2018)京0491民初239号民事判决书。

• (5)“可区别的变化”是美国法院在Alfred Bell&Co.Ltd.v.Catalda Fine Arts,Inc.et al.案中提出的,它使作品可版权性判断标准进一步客观化,直接导致对于作品实质性智力投入的判断从对创作过程的考察转变为对涉案作品与已存作品的客观表现形式方面的比对,避免了早期判例法中确立的“创造性意图”主观标准的不确定性问题。