闫双巧,王崇敏

• 1:海南大学法学院

• 
  

摘要(Abstract)：

算法有限披露是一种动态的算法公开方案，包括反事实解释、算法部分披露与算法透明三种披露形式。它能够有效防止知情权利滥用、降低算法公开风险，达成“算法信息适当公开”与“算法商业秘密适度保护”之间的平衡。在微观层面，算法有限披露是算法解释、算法修正、算法监督与算法问责等算法规制手段发挥作用的前提。在宏观层面，算法有限披露有助于保障算法实体正义、实现算法程序正义。算法有限披露应遵循以下规则：一是按算法决策的损害大小与受众范围对算法进行分类分级；二是向中立的第三方披露算法信息；三是依算法决策阶段确定披露内容，视算法决策对象决定披露程度，据算法应用情景设置不同披露标准；四是依算法应用场景进行算法强制性披露、半强制性披露或自愿性披露。

关键词(KeyWords)：算法有限披露;算法透明;算法解释;商业秘密;利益衡量

基金项目(Foundation):2020年海南省哲学社会科学研究基地课题“海南自由贸易港知识产权保护制度创新研究”(项目编号：JD20-1);; 2022年海南省研究生创新科研课题“算法决策治理与商业秘密保护的冲突与协调”(项目编号：Qhyb2022-05)的阶段性成果

作者(Author):闫双巧,王崇敏

参考文献(References)：

• [1]Benjamin Minhao Chen,Alexander Stremitzer,Kevin Tobia.Having Your Day in Robert Court[J].Harvard Journal of Law & Technology,2022(36):133.

• [2][4]吕炳斌.论个人信息处理者的算法说明义务[J].现代法学，2021(4):96,96.

• [3]Sonia K.Katyal.The Paradox of Source Code Secrecy[J].Cornell Law Review,2019(104):1183-1246.

• [5][8]何新新，徐澜波.个人信息处理者的自动化决策解释义务研究[J].学习与实践，2022(8):79-87,79-87.

• [6]Robert Brauneis & Ellen P.Goodman.Algorithmic Transparency for the Smart City[J].Yale Journal of Law and Technology,2017(20):103.

• [7][21]Frank A.Pasquale.The Black Box Society:The Secret Algorithms That Control Money and Information[M].Cambridge:Harvard University Press,2015:1-189,8.

• [9]潘芳芳.算法歧视的民事责任形态[J].华东政法大学学报，2021(5):60.

• [10]雷刚，喻少如.算法正当程序：算法决策程序对正当程序的冲击与回应[J].电子政务，2021(12):27.

• [11][17]卓翔，崔世群.论人工智能在证据推理中的辅助性定位[J].治理研究，2023(1):152,155.

• [12]郑曦.司法人工智能运用背景下的被告人质证权保障[J].政法论坛，2022(6):52.

• [13]杨帆.信用评分算法治理：算法规制与产品责任的融通[J].电子政务，2022(11):33.

• [14]李丹.算法共谋：边界的确定及其反垄断法规制[J].广东财经大学学报，2020(2):111.

• [15][24]Sandra Wachter,Brent Mittelstadt,Chris Russell.Counterfactual Explanations Without Opening the Black Box:Automated Decisions and the GDPR[J].Harvard Journal of Law & Technology,2018(31):843,863.

• [16]张凌寒.商业自动化决策算法解释权的功能定位与实现路径[J].苏州大学学报(哲学社会科学版),2020(2):51-60+191;徐智华，解彩霞.平台经济算法用工的挑战与规制研究[J].宁夏社会科学，2022(3):98-107.

• [18]王延川.算法合谋的演生逻辑与治理路径[J].华东政法大学学报，2023(3):56;杨志航.人工智能司法正当性的诘问[J].北方法学，2023(2):155;沈伟伟.算法透明原则的迷思：算法规制理论的批判[J].环球法律评论，2019(6):39.

• [19]林洹民.自动决策算法的风险识别与区分规制[J].比较法研究，2022(2):196;肖梦黎.风险视角下对算法偏见的双轨治理：自动决策算法中偏见性因素的规制研究[J].理论月刊，2021(7):141.

• [20]商建刚.算法决策损害责任构成的要件分析[J].东方法学，2022(6):44-57.

• [22][54]魏远山.算法透明的迷失与回归：功能定位与实现路径[J].北方法学，2021(1):151-160,159.

• [23]Guido Noto La Diega.Against the Dehumanisation of Decision-making:Algorithmic Decisions at the Crossroads of Intellectual Property,Data Protection,and Freedom of Information[J].Journal of Intellectual Property,Information Technology and E-Commerce Law,2018(9):3-34.

• [25]Ziad Obermeyer,Brian Powers,Christine Vogeli,et al.Dissecting Racial Bias in an Algorithm Used to Manage the Health of Populations[J].Science,2019(366):447-453.

• [26]曹博.算法歧视的类型界分与规制范式重构[J].现代法学，2021(4):123-124.

• [27]Roberto Iriondo,Amazon Scraps Secret AI Recruiting Engine that Showed Biases Against Women[EB/OL].[2024-03-11].https://www.ml.cmu.edu/news/news-archive/2016-2020/2018/october/amazon-scraps-secret-artificial-intelligence-recruiting-engine-that-showed-biases-against-women.html.

• [28]Jon Kleinberg,Jens Ludwig,Sendhil Mullainathany,et al.Discrimination in the Age of Algorithms[J].Journal of Legal Analysis,2018(10):164.

• [29][30]Ansgar Koene,Chris Clifton,Yohko Hatada,et al.A Governance Framework for Algorithmic Accountability and Transparency[EB/OL].[2023-09-17].https://op.europa.eu/en/publication-detail/-/publication/8ed84cfe-8e62-11e9-9369-01aa75ed71a1/language-en.

• [31]Paul Hayes.An Ethical Intuitionist Account of Transparency of Algorithms and Its Gradations[J].Business Research,2020(13):868.

• [32]周尚君.数字正义论：理论内涵与实践机制[J].社会科学，2022(6):166-177.

• [33]李晓辉.算法商业秘密与算法正义[J].比较法研究，2021(3):106-107.

• [34]亚里士多德.尼各马可伦理学[M].廖申白，译.北京：商务印书馆，2013:134.

• [35]王德夫.论人工智能算法的法律属性与治理进路[J].武汉大学学报(哲学社会科学版),2021(5):38.

• [36]曹双涛.Open AI首次听证会：ChatGPT拐点已现，未来发展依然坎坷[EB/OL].[2023-05-19].https://www.thepaper.cn/newsDetail_forward_23132194.

• [37]B?r?e Kristine,Gundersen Torbj?rn,Henden Edmund,et al.Can Medical Algorithms be Fair?Three Ethical Quandaries and One Dilemma[J].BMJ Health & Care Informatics,2022(29):5.

• [38]苏新建.主观程序正义对司法的意义[J].政法论坛，2014(4):128.

• [39]陈瑞华.看得见的正义[M].北京：北京大学出版社，2013:22.

• [40][45]丁晓东.论算法的法律规制[J].中国社会科学，2020(12):154,154.

• [41]玛农·奥斯特芬.数据的边界：隐私与个人数据的保护[M].曹博，译.上海：上海人民出版社，2020:41-51.

• [42]A.J.Wang,Procedural Justice and Risk-Assessment Algorithms[EB/OL].[2023-06-28].https://ssrn.com/abstract=3170136.

• [43]孙笑侠.程序的法理[M].北京：社会科学文献出版社，2017:91-92.

• [44]Jay Thornton.Cost,Accuracy,and Subjective Fairness in Legal Information Technology:A Response to Technological Due Process Critics[J].New York University Law Review,2016(91):1821-1850.

• [46]蒋林君.算法解释权的权利边界研究：商业秘密保护与算法解释权行使的冲突与协调视角[J].湘江青年法学，2021(5):12-21.

• [47]Sander Vogt.Show Me Your Secrets:How the Use of Trade Secrets Relates to the Demand for Transparent Artificial Intelligence,Part-I[J].The Journal of Robotics,Artificial Intelligence & Law,2022(5):223-241.

• [48]Tambiama Madiega,Graphic,Samy Chahri.The Briefing of Artificial Intelligence Act[EB/OL].[2023-10-20].https://www.europarl.europa.eu/thinktank/en/document/EPRS_BRI(2021)698792.

• [49]许可.驯服算法：算法治理的历史展开与当代体系[J].华东政法大学学报，2022(1):99-113.

• [50]张凌寒.风险防范下算法的监管路径研究[J].交大法学，2018(4):49-62.

• [51]Nate Anderson.Source Code Requests Force Breathalyzer Maker to Sober Up[EB/OL].[2023-09-26].https://arstechnica.com/uncategorized/2008/09/source-code-requests-force-breathalyzer-maker-to-sober-up/.

• [52]马海群，蔡庆平，崔文波，张涛.美国数据与算法安全治理：进路、特征与启示[J].信息资源管理学报，2023(1):52-64.

• [53]李安.算法透明与商业秘密的冲突及协调[J].电子知识产权，2021(4):38.

• [55]王志成.智慧司法中算法公开的尝试[J].法理：法哲学、法学方法论与人工智能，2020(2):198.

• [56]胡巧莉，刘征峰.算法解释在民法中的体系定位与类型区分[J].财经法学，2022(4):67-82.

• [57]Alan F.T.Winfield,Serena Booth,Louise A.Dennis,et al.IEEE P7001:A Proposed Standard on Transparency[J].Frontiers in Roberts and AI,2021(8):665-729.

• [58]吕佳学.自动化医疗诊断算法解释规则研究[D].湘潭：湘潭大学法学院，2020.

• [59]钟维.中国式智能投顾：本源、异化与信义义务规制[J].社会科学，2020(4):96.

• [60]梁振文.算法解释权的构造与法治保障路径：以社会信用体系建设为场景[J].吉首大学学报(社会科学版),2021(1):155.

• [61]江必新.刑事、民事、行政审判思维的不同.[EB/OL].[2023-09-10].http://iolaw.cssn.cn/fxyjdt/201907/t20190725_4938991.shtml.

• [62]搜狐网.今日头条首次公开算法原理：并非把所有决策都交给机器[EB/OL].[2023-03-10].https://www.sohu.com/a/216025615_99981833.

• [63]新浪网.美团外卖先后七次推动算法规则公开及改进，不让外卖骑手困在系统里[EB/OL].[2023-03-13].https://news.sina.com.cn/sx/2023-04-06/detail-imypmqmc2145319.shtml.

• [64]胡元聪，曲君宇.智能无人系统开发与应用的法律规制[J].科技与法律，2020(4):72.

• [65]张恩典.算法影响评估制度的反思与建构[J].电子政务，2021(11):57-68.

• [66]汪庆华.算法透明的多重维度和算法问责[J].比较法研究，2020(6):170.

• [67]石静霞.数字经济背景下的WTO电子商务诸边谈判：最新发展及焦点问题[J].东方法学，2020(2):179.

• [68]张韬略.软件源代码强制披露制度建构的中国方案[J].东方法学，2023(3):182.

• (1)COMPAS (Correctional Offender Management Profiling for Alternative Sanctions)是Northpointe公司开发的犯罪风险评估算法,它能够对犯罪分子的累犯风险进行评估,并给出累犯风险指数,法官可以据此决定犯罪分子应遭受的处罚轻重。

• (2)Rechtwijzer算法是由蒂尔堡大学的多学科团队为荷兰法律援助委员会研发的一种交互式在线应用程序,它能帮助用户获取法律信息,找到解决纠纷的办法。首先,纠纷双方需回答Rechtwijzer设定的一些问题。然后,Rechtwijzer会对这些输入信息进行技术处理,输出结果。如果未能达成解决方案,Rechtwijzer将向双方提供专业第三方(如调解员、律师等)的信息和联系方式。

• (3)参见《中华人民共和国反不正当竞争法》第九条第四款。

• (4)算法公开是实现GDPR第15条所规定的“算法访问权”与第22条所规定的“算法异议权”的必要手段。

• (5)有关“算法公开与商业秘密保护冲突”的详细论述参见李晓辉《算法商业秘密与算法正义》,《比较法研究》2021年第3期,第105—121页;李安《算法透明与商业秘密的冲突及协调》,《电子知识产权》2021年第4期,第26—39页;蒋林君《算法解释权的权利边界研究——商业秘密保护与算法解释权行使的冲突与协调视角》,《湘江青年法学》2021年第5卷,第12—21页。

• (6)披露意为发表、宣布、显露出来,引证为陈述、表白、暴露;公开意为将事情的内容暴露于大众面前,将秘密公布出来,引证为面向大家,不加隐蔽;透明源于物理学概念,意为光线能通过的,引证为领会、晓悟、彻底、明白。与“公开”相比,“披露”的对象范围更小,而与“透明”相比,披露的提法更为正式。此外,当前证券法领域即有“信息披露制度”,保险领域中有“一年以上人身保险产品信息披露规则”,都要求信息强势方向弱势方公布必要信息,以保障弱势方的利益,与本文算法披露的理念不谋而合。

• (7)See Viacom International,Inc.v.YouTube,Inc.,676 F.3d 19 (United States Court of Appeals for the Second Circuit.2012).

• (8)算法披露的目的包括算法解释、算法修正、算法监督、算法问责等,但当前学界对于算法披露的目的讨论多指向算法解释。

• (9)根据《欧洲联盟基本权利宪章》中的基本权利,专家组总结出了人工智能系统应遵循的四项伦理准则,分别是尊重人类自主性、预防损害性、公平性以及可解释性,其中,可解释性即要求算法决策过程透明。详见:Ethics Guidelines for Trustworthy AI,High-Level Expert Group on Artificial Intelligence,available at https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai,last visited on March 10,2024.

• (10)参见上海市第一中级人民法院(2021)沪01民终681号判决书。

• (11)See People v.Superior Court (Chubbs),2015 WL 139069 (Court of Appeals for the Second District of California,Division 4,2015).

• (12)2016年,美国非营利组织ProPublica发表调查报告指出,该算法存在种族歧视,黑人被该算法评估为高风险犯罪的概率是白人的两倍,引发大量争议,详见报道:Julia Angwin,Jeff Larson,Surya Mattu et al.,Machine Bias,available at https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing,last visited on March 11,2024.

• (13)美国电气和电子工程师协会Institute of Electrical and Electronics Engineers (IEEE)是一个国际性的电子技术与信息科学工程师的协会,总部在美国纽约市。该组织在太空、计算机、电信、生物医学、电力及消费性电子产品等领域中都是主要权威。在电气及电子工程、计算机及控制技术领域中,IEEE 发表的文献约占全球30%。在太空、计算机、电信、生物医学、电气及消费性电子产品等领域IEEE已制定了1 200多个行业标准。

• (14)算法是解决问题的思路、步骤和逻辑,一般表现为半形式化的语言,可以由不同的编程语言和不同的代码来实现。而源代码组成的计算机程序则是实际解决问题的具体执行指令,由完全形式化的计算机语言加以描述。就同款软件而言,算法的公开不等于软件源代码的披露,但源代码的完整披露通常会导致源代码包含的算法和技术方案的公开。

• (15)本象限图借鉴了数学中笛卡尔坐标系划分区域的理念,但未借用直角坐标系的数值表达,本图中横轴与纵轴的交叉点不为零点,且各象限内数值皆为正值。

• (16)域外学者Alan F.T.Winfield等人设想的一种应用于医院、诊所和养老院等医疗保健环境的智能真空吸尘器。该机器配备有一个数据存储系统,可以记录高级别的决策信息,以供不同利益相关者检查。