算法透明的法律实现与限定——基于商业秘密保护的视角

伴随着算法应用中个人自治价值不断被消解、社会秩序价值受到侵害以及传统治理框架频繁失灵，尤其是以ChatGPT为代表的基于统计学习神经网络的典型黑箱模型对现有问责机制带来了极大挑战，算法透明引发各国立法者高度关注。然而，提升算法透明度与保护商业秘密的规范目标之间存在紧张关系。算法自动化决策背后存在多元价值诉求的叠加，这体现为不可避免地将个人利益、公共利益、经济效率、公平正义等价值相互交织在一起，使得实现算法透明与保护算法商业秘密二者之间的取舍成为难题。主流利益平衡理论仅从利益位序去协调二者之间冲突的思路，具有局限性，应当在“调和论”视角下以“促进算法经济的高质量发展”为目标相互协调：一方面，应选择适当的算法透明工具，构筑算法解释的体系化框架，同时辅以多元算法监督机制；另一方面，应合理保护算法商业秘密，完善商业秘密的权利限制制度。     

算法决策规制——以算法“解释权”为中心

算法决策正成为经济与社会体系的一部分,一方面,它创造了显著的社会与经济价值,但另一方面,不公不义的预测或推断会损及个人自主与尊严从而使算法备受质疑。由于算法无法解决自身导致的妨害问题,且算法控制者与数据主体间存在明显的信息或权力不对称,因此,有必要赋予个人一项具体的数据权利——算法“解释权”,以强化其对于己不利的算法决策提出异议的权利,进而促进算法正义、保护个人自主与尊严。不过,利用“解释权”对抗算法妨害虽然必要但并不充分,其在技术上面临可解释性难题,且与商业秘密存在紧张关系。因此,算法决策需要统合规制,需要进一步增强算法决策的社会控制,优化算法应用监管。     

数字孪生时代的法律与问责——通过技术标准透视算法黑箱

我国的数字化转型正进入数字孪生时代,现实世界与虚拟世界出现"虚实相生"甚至"以虚运实"的趋势.在数字孪生系统的分层体系下,通过算法黑箱将模型和数据封装于交互界面之后是一种常见的工程模式,在化简技术复杂性的同时也导致"规则隔音"现象日益严重.决策规则的隐而不显致使事后法律问责难以奏效,而追求算法透明的披露手段在与技术复杂性和商业秘密的冲突中不断妥协,逐渐成为强弩之末.实际上,无论事前规制还是事后问责都需要以法律系统与算法系统的良性互动为前提.借助技术标准的场景性、灵活性、技术性等优势,可以制定信息交换的结构性元规则促进算法与法律的跨系统沟通.此外,应当通过算法标准自我声明机制推动软法的"硬化",规范算法贴标逐渐消灭"无标生产",构建软法硬法混合算法规制模式.     

算法解释权与商业秘密保护的冲突化解

《个人信息保护法》第24条标志着算法解释权在制度层面得以确立。然而，算法控制者往往将算法视为核心竞争力并以商业秘密的形式进行保护，受算法影响者对算法解释的合理诉求与算法控制者对算法保密的现实需要之间不可避免地存在着冲突与张力。面对二者的紧张关系，无论是全然废除算法解释规则，还是算法解释权当然优先，抑或诉诸漫无边际的利益衡量，均非可取之道。为避免冲突激化，不宜将“算法黑箱”完全打开，而只需将其“掀开最小缝隙”,至受其不利影响者可见的程度即可。在“掀开最小缝隙”理论下，算法解释权的行使前提“对个人权益有重大影响”应从严把握，算法解释的内容应限定为算法运行逻辑而非算法本身。同时，商业秘密的“秘密性”需作出澄清，受算法影响者还应负有初步证明责任与保密协议的签订义务。如此方可在最大程度上实现算法解释与商业秘密的冲突化解。     

算法透明的迷失与回归:功能定位与实现路径

算法的黑箱属性在赋予算法使用者算法权力的同时也威胁着算法相对人的合法权益。以公开算法代码等信息为手段的算法透明措施,成为规范算法权力和保护算法相对人合法权益的重要治理策略之一。但碍于算法的商业秘密属性、算法技术的复杂程度和信息披露对象技术能力等因素的限制,算法透明所能实现的效能有限。为更好发挥算法透明的作用,可从算法代码等信息的公开、算法审查的启动程序、相关审查人员的技术要求、算法审查结果的反馈,以及加强监督等方面建立可信任的算法审查机构,消解算法透明的弊端,提升算法治理效能。     

人工智能时代算法黑箱的法治化治理

算法作为人类利用机器抓取、处理并输出数据的手段,其所得结果受到编写者主观偏差,技术偏差等多种影响.因算法编写的高度专业性,用户无法知悉有关于自身信息数据被抓取,处理以及应用的细节,这样的不透明性显然对用户的权益与社会秩序造成影响,对我国的法律机制也带来极大挑战.针对算法的运行模式,剖析算法黑箱带来的个人信息数据侵权、算法偏见及司法救济三重危机.通过对欧盟《通用数据保护条例》与欧洲《人工智能伦理与数据保护宣言》对算法黑箱的治理条款,针对上述三重危机从技术角度、法律角度与伦理角度对算法黑箱进行法治化管理,以实现算法黑箱法治化治理层面的合法性与最佳性耦合.     

算法正义:一种经由算法的法治

法治必须学会对接人工智能和算法。如何面对经由算法的法治、如何达至算法正义,将成为未来时代法治进化的核心主题。在人工智能时代,算法不再仅仅是一种单纯的数学工具和一般的技术应用,它将成为一种调和法治内在结构与机理的本质性力量,即成为未来法治世界中的隐形运行秩序。算法注入法治、改变正义将是根本性的,对法治的助力和对正义的彰显又具有显著优势。面对这场技术革新,中国法学需要作出理论回应与学术设计,为已经到来的算法法治与算法正义构建理论基础,寻找与算法对接的切口,获得与人工智能保持某种契合的力量,以此形成作用于社会治理的合力,进而完成法治现代化的转型。     

立法伦理与算法正义——算法主体行为的法律规制

人类设计算法、运用算法的最终目的是为了增强自身解决问题的能力,进一步提升生活水平并优化社会结构。算法黑箱存在的前提预设是人类对因果关系的认知断裂,算法黑箱针对自动化决策过程中特定的算法用户。在一系列的数据代码背后是算法主体的行为目标和价值选择,不同价值选择加上算法的涌现性和自主性的复杂特质导致相关法律关系主体的权利冲突。人类的有限理性是算法底层逻辑的道德基础,算法的底层指令和代码归根结底是人类的思考方式的展现,在这一逻辑前提下,为算法立法的过程就还原为对于算法主体行为的法律规制问题。立法伦理为法律关系主体行为的合法性和合理性提供了德性基石,算法主体的理性认知要符合立法伦理要求。从立法原则、立法技术、程序机制和价值规范等方面规制算法主体的行为,最终迈向算法正义。     

论美国联邦最高法院对正当程序的阐释——以自然法为视角

自然法蕴含的理性、正义、法治、权利等观念塑造了西方法治精神。发端于英国的正当程序作为西方宪政与法治传统中极其重要的理念和制度,与英国的"自然正义原则"密切相关。自然正义源于自然法,自然法要求的采取回避和听取申辩原则,构成了正当程序的核心内容。美国宪法第五和第十四修正案将自然法原则法定化。在联邦最高法院有关正当程序尤其是实质性正当程序的司法实践中,经常从自然法的视角对其进行阐释,使正当程序成为捍卫自由主义、契约自由与个人基本权利的有力武器,并在这一过程中,实现了对自然法的继承与超越。     

简易程序中的正义观

正当程序（dueprocess）思想，最早起源于英美法中，它泛指对任何个体权益的剥夺均需保证其享有被告知权、陈述权和请求听取权。显然．程序正义的最初内涵是与司法专断权相对立的。通过程序制约国家下判权的滥用，是近现代英美法中正当程序的基本思想。正当程序理念所表达的注重程序，既体现了在民事诉讼中对民事权利的尊重与保障．亦是现代法治的基本要求，当今世界各文明国家的民事诉讼无不体现出正当程序这一基本理念。随着我国社会法治化进程的加快，正当程序理念必将成为民事审判公正廉洁最有力保障。我国民事诉讼法第142条的规定，基…     

Algorithmic surveillance: the collection conundrum

ABSTRACT

Supporters of increased surveillance see tremendous potential in the ever increasing creation, collection, and retention of personal data. Most acknowledge that the massive collection of information also creates challenges where the collection outpaces the ability to meaningfully process the data. Increased processing power and more finely tuned algorithms are often portrayed as the solution to this haystack conundrum. While a human may struggle to find the needle in an overflowing haystack of disordered information, powerful computers can take a logical and structured approach that will make the haystack eminently more searchable. This article evaluates this premise from a human rights perspective and considers whether algorithmic surveillance systems can be designed to be compatible with the right to privacy. In addition to assessing the incongruity between traditional safeguards (such as foreseeability and accountability) with algorithmic surveillance, this article also confronts the problem of initial collection and addresses the contention that well-defined algorithmic search can effectively limit the intrusiveness of surveillance. Evolution in the case law of the European Court of Human Rights and the Court of Justice of the European Union will be factored into this analysis.     

Mistakes in Algorithmic Trading of Cryptocurrencies

How should the doctrine of unilateral mistake apply when a programming error results in a buyer's algorithmic trading programme accepting an offer generated by the seller's trading programme to exchange cryptocurrencies at 250 times the current market rate? How should the knowledge element be adapted given that algorithmic trading necessarily means that the traders’ minds were not engaged at the moment the contract was formed? These novel issues came before the Singapore Court of Appeal in Quoine Pte Ltd v B2C2 Ltd. The decision further cautions customers of cryptocurrency exchanges not to assume that they have property rights in the cryptocurrencies held by the exchange and to examine carefully the nature of asset holding arrangement found in the documentation.     

Predicting Proportionality: The Case for Algorithmic Sentencing

A basic principle in sentencing offenders is proportionality. However, proportionality judgments are often left to the discretion of the judge, raising familiar concerns of arbitrariness and bias. This paper considers the case for systematizing judgments of proportionality in sentencing by means of an algorithm. The aim of such an algorithm would be to predict what a judge in that jurisdiction would regard as a proportionate sentence in a particular case. A predictive algorithm of this kind would not necessarily undermine justice in individual cases, is consistent with a particularistic account of moral judgment, and is attractive even in the face of uncertainty as to the legitimate purposes of punishment.     

从权力到权利:算法治理的路径

人工智能时代,算法日益介入社会生活中。我国对算法的治理刚刚起步,现有的算法治理模式并不能适应算法技术的发展。基于对我国算法治理现状和治理困境的分析,提出从权力到权利的算法治理路径,并借助“权利束”这一概念,从整体上对算法权利进行构思,以实现算法控制者和算法相对人的利益平衡。     

算法时代的垄断协议规制:挑战与应对

算法具备自主学习和大数据处理的能力,有助于达成、实施垄断协议,形成算法驱动的合谋现象。算法合谋并无明显的意思联络,缺乏明确的合意证据,因而对传统的垄断协议概念带来挑战。算法决策存在"黑箱",导致经营者排除、限制竞争的主观意图无法得到验证。"人—机"联系弱化,进而导致宽恕政策和法律制裁失灵。面对算法技术的进步,反垄断法亟待建立因应时代变化的垄断协议检测、认定和制裁规则体系。为此,垄断协议的检测应当保持前摄性,借助大数据和经济分析手段筛选市场异质信号,进而在垄断协议认定方面适当降低证明标准,发挥算法作为间接证据的证明功能,最后,通过续造法律责任督促算法设计者、提供者履行竞争义务,保持算法的可问责性。     

算法歧视的法律规制:动因、路径和制度完善

算法内置性编码凝视、支撑算法运行的训练数据之偏差以及算法黑箱带来的程序透明度缺失是导致算法歧视的技术性原因,进而引致权利失衡,使权利成为缺损状态.为保障权利行使,本文认为应当确立算法公平理念,并明晰算法歧视法律规制的技术环节,建立以权利失衡的矫正为中心的法律规制模式作为算法歧视法律规制的路径选择,并从明确筛选训练数据的标准化制度、建立算法透明性和可解释性的审查机制、完善算法问责机制三方面予以探究.