刘妍

• 1:中国政法大学刑事司法学院

• 
  

摘要(Abstract)：

人工智能技术的发展对司法的影响逐渐凸显。司法领域应用智能技术最大的优势在于效率，其能够在快速分析数据的同时，保证一定程度的准确性，因而被广泛用于法律检索、预测性执法和证据评判。人工智能的司法应用暴露出技术程式歧视、算法黑箱和无法灵活裁判的弊端，由此带来司法不公、司法不透明以及司法僵化的潜在风险。司法应当秉持“谨慎而乐观”的立场，利用技术中立的手段化解监督不透明之难题，将司法的实体利益和程序利益并重，针对技术的司法应用建立规范性法律框架，辅之以明确的道德伦理准则。

关键词(KeyWords)：人工智能;司法公正;法律规制;平衡

基金项目(Foundation):2019年国家社科基金重点项目“大数据侦查的程序控制与证据适用研究”(项目编号：19AZD024)的阶段性成果

作者(Author):刘妍

参考文献(References)：

• [1]Carl Benedikt Frey,Michael A.Osborne.The Future of Employment:How Susceptible are Jobs to Computerisation?(2013)[EB/OL].[2022-05-03].https://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf.at 59-64.

• [2]William B.Kehl,John F.Horty,Charles R.T.Bacon.An information retrieval language for legal studies[J].Communications of the ACM,1961(9):380.

• [3]Katherine Freeman.Algorithmic Injustice:How the Wisconsin Supreme Court Failed to Protect Due Process Rights in States v.Loomis[J].North Carolina Journal of Law& Technology,2016(5):75.

• [4]State v.Loomis,881 N.W.2d 749,770-771 (Wis.2016).

• [5]David Michael Ryfe.Information Systems in the San Diego Region[J].Cal.WL REV.,1999(2):367.

• [6]Gordon V.Cormack,Maura R.Grossman.Evaluation of machine-learning protocols for technology-assisted review in electronic discovery[C]//Proceedings of the 37th international ACM SIGIR conference on Research & development in information retrieval.New York:ACM,2014:153.

• [7]Da Silva Moore v.Publicis Groupe,287 F.R.D.182,183 (2012).

• [8]Pyrrho Investment v.MWB Property,EWHC 256 (Ch) (2016).

• [9]Brown v.BCA Trading Ltd.,EWHC 1464 (Ch) (2016).

• [10]World Intellectual Property Organization,Summary of the Replies to the Note on Applications of AI to IPO Administration,WIPO/IP/ITAI/GE/18/1 (Feb.8,2018).

• [11]郑曦.人工智能技术在司法裁判中的运用及规制[J].中外法学，2020(3):674-696.

• [12]COMPAS Risk & Need Assessment System:Selected Questions Posed by Inquiring Agencies,NORTHPOINTE (2012) [EB/OL].[2022-05-03].http://www.northpointeinc.com/files/downloads/FAQ_Document.pdf.at 12.

• [13]NORTHPOINTE INC.,Risk Assessment (2011) [EB/OL].[2022-05-04].https://www.documentcloud.org/documents/2702103-Sample-Risk-AssessmentCOMPAS-CORE.html.at 12.

• [14]NORTHPOINTE INC.,Practitioner’s Guide to COMPAS Core (2015) [EB/OL].[2022-05-04].http://www.northpointeinc.com/ downloads/compas/Practitioners-Guide-COMPAS-Core-_031915.pdf.at 11.

• [15]Jeff Larson,Surya Mattu,Lauren Kirchner,et al.,How We Analyzed the COMPAS Recidivism Algorithm,PROPUBLICA (2016)[EB/OL].[2022-05-02].https://www.propublica.org/article/how-weanalyzed-the-compas-recidivism-algorithm.

• [16]Andrew D.Selbst.Disparate impact in big data policing[J].GA.L.REV.,2017(4):109.

• [17]Rubel A.The Black Box Society:The Secret Algorithms that Control Money and Information,by Frank Pasquale[M].Cambridge:Harvard University Press,2016:190.

• [18]Lehr,David,Paul Ohm.Playing with the data:what legal scholars should learn about machine learning[J].UCDL REV.,2017(2):715.

• [19]王禄生.司法大数据与人工智能技术应用的风险及伦理规制[J].法商研究，2019(2):101-105.

• [20][22]Kate Stith,Steve Y.Koh.The Politics of Sentencing Reform:The Legislative History of the Federal Sentencing Guidelines[J].WAKE FOREST L.REV.,1993(6):223,227.

• [21]Anupam Chander.The Racist Algorithm?[J].MICH.L.REV.,2017(12):1032.

• [23]Natasha Duarte.Building Ethical Algorithms[J].ABA SCI.TECH.L.,2017(14):32.

• [24]季卫东.司法人工智能不可本末倒置[N].北京日报，2019-09-16(15).

• (1)例如:2019年6月底,北京市高级人民法院推出了“睿法官”智能研判系统,为法官提供办案规范和量刑分析;上海市高级人民法院研发了“刑事案件智能辅助办案系统”(206系统),该审判辅助系统包含了单一证据校验、逮捕条件审查、全案证据审查判断、社会危险性评估、量刑辅助等内容,为案件的审理提供全面支持。

• (2)我国法院人工智能应用的分析样本主要来源于:一是《法治蓝皮书·中国法院信息化发展报告NO.1(2018)》中关于地方法院信息化实践的调研报告;二是通过搜索引擎获取的东中西部地区法院各种智能应用实例。

• (3)ProPublica是一家关注公共事务的非营利性调查媒体。他们是一家十分严格的无党派机构,标榜着“不游说”以及“不会与任何政客或者宣传团体结盟”。他们围绕着诸如过量吸毒、负债以及检察官不当行为以及其他关涉公共利益的问题,创设了许多调查项目,并将研究和文章汇编在一起,在官网上公布。

• (4)Thiel,V.(2019,June 20).“Ethical AI guidelines”:Binding commitment or simply window dressing?Algorithm Watch.Retrieved from https://algorithmwatch.org/en/ethical-ai-guidelines-binding-commitment-or-simply-window-dressing/,2021-05-03。