人工智能时代算法黑箱的法治化治理

算法作为人类利用机器抓取、处理并输出数据的手段,其所得结果受到编写者主观偏差,技术偏差等多种影响.因算法编写的高度专业性,用户无法知悉有关于自身信息数据被抓取,处理以及应用的细节,这样的不透明性显然对用户的权益与社会秩序造成影响,对我国的法律机制也带来极大挑战.针对算法的运行模式,剖析算法黑箱带来的个人信息数据侵权、算法偏见及司法救济三重危机.通过对欧盟《通用数据保护条例》与欧洲《人工智能伦理与数据保护宣言》对算法黑箱的治理条款,针对上述三重危机从技术角度、法律角度与伦理角度对算法黑箱进行法治化管理,以实现算法黑箱法治化治理层面的合法性与最佳性耦合.     

算法商业秘密与算法正义

算法时代中,"算法黑箱""算法歧视"和"算法茧房"等非正义现象引发了算法规制的需要.但算法商业秘密的存在使算法处于"黑箱"之中,成为算法正义实现的障碍.面对算法商业秘密与算法正义的张力可以从三个角度加以考量:商业秘密的公共利益平衡;算法知情同意权、算法解释权和算法拒绝权等私权制约;算法正当程序.由于对商业秘密的公共利益考量主要局限于维系商业道德和市场秩序,无法实现对算法商业秘密的有效制约.算法私权中基于一般道德和法理的算法拒绝权能够成为制衡算法商业秘密的强理由,同时,算法正义需要建构一种基于过程的,而不是仅基于结果的正当程序观念.     

人工智能算法规制的原理与方法

人工智能算法推荐的运行机制决定了算法的非技术中立性和价值取向性。人工智能算法本身蕴含强大的技术权力,算法黑箱的技术壁垒则加剧了人与算法之间权力失衡。人工智能算法本身的逻辑并不考虑作为主体的个人的主体性,每一个个体都只是算法逻辑体系下的参数。在算法权力的技术权力表象之下还潜藏着资本的权力,并使国家主权面临挑战,冲击全球治理体系。因此,应当构建政府主导并掌握核心算法的大数据系统,强化伦理约束组织的建设,在立法上压实人工智能算法开发者、控制者的主体责任。     

算法透明实现的另一种可能：可解释人工智能

算法黑箱对算法决策提出了挑战,算法透明要求算法可解释。算法透明并不是简单的算法公开。尽管人们普遍寄希望于通过算法公开来打开算法黑箱实现算法透明,但是单纯的算法公开不仅面临着商业秘密泄露的诘难,也无法真正对算法决策作出解释。与之相比,技术上制造可解释人工智能是实现算法透明的一种新的选择。可解释人工智能不仅可以凭借不同的解释路径透视算法黑箱,还可以满足受众对算法解释的不同需求。技术的发展有赖于制度的保障,构建一套合理的制度促进可解释人工智能的发展是确有必要的。这要求在立法上规定可解释人工智能的适用场域;在行政上利用政府采购引导可解释人工智能的生产;在市场管理上借助第三方认证倒逼企业制造可解释人工智能;最终实现算法透明。     

私法制度中的代数算法黑箱及其应对

因私法制度中代数算法规范(代数规范)的缺陷,一些指导性案例未能给出判决的明确算法,私法制度中的代数算法黑箱导致了判决书中的算法瑕疵。传统私法制度深受古希腊几何学的影响,因而疏离了代数算法且轻视相应的代数规范,人工智能中机器算法的繁荣无助于缓解私法中的代数算法黑箱,反而将新的算法黑箱叠加于传统黑箱之上。代数规范是私法制度中规定定量计算的法律规范,它是私法规范中的定量维度和必不可少的组成部分,且随着代数算法在认识论中的地位上升而日益重要。私法制度应当改变疏离代数算法的传统,完善其代数规范,适用代数规范作为判决的依据,并结合定性规范以指导与检验法律人工智能,以限缩判决书中的算法瑕疵。     

算法透明的法律实现与限定——基于商业秘密保护的视角

伴随着算法应用中个人自治价值不断被消解、社会秩序价值受到侵害以及传统治理框架频繁失灵，尤其是以ChatGPT为代表的基于统计学习神经网络的典型黑箱模型对现有问责机制带来了极大挑战，算法透明引发各国立法者高度关注。然而，提升算法透明度与保护商业秘密的规范目标之间存在紧张关系。算法自动化决策背后存在多元价值诉求的叠加，这体现为不可避免地将个人利益、公共利益、经济效率、公平正义等价值相互交织在一起，使得实现算法透明与保护算法商业秘密二者之间的取舍成为难题。主流利益平衡理论仅从利益位序去协调二者之间冲突的思路，具有局限性，应当在“调和论”视角下以“促进算法经济的高质量发展”为目标相互协调：一方面，应选择适当的算法透明工具，构筑算法解释的体系化框架，同时辅以多元算法监督机制；另一方面，应合理保护算法商业秘密，完善商业秘密的权利限制制度。     

算法歧视的法律规制:动因、路径和制度完善

算法内置性编码凝视、支撑算法运行的训练数据之偏差以及算法黑箱带来的程序透明度缺失是导致算法歧视的技术性原因,进而引致权利失衡,使权利成为缺损状态.为保障权利行使,本文认为应当确立算法公平理念,并明晰算法歧视法律规制的技术环节,建立以权利失衡的矫正为中心的法律规制模式作为算法歧视法律规制的路径选择,并从明确筛选训练数据的...     

新闻算法推荐机制的技术价值与权力边界

在互联网大发展的时代,算法作为大数据和人工智能的连接点,发挥着优化传媒生态、建构流量端口、增强用户粘性的重大作用。在一个技术和资本无处不在的社会中,算法体现的技术价值越来越高。同时,算法本身也存在着"技术黑箱"问题。算法和平台在数字新闻传播领域的崛起,让技术寡头拥有越来越多的话语权,技术寡头凭借强大的技术优势以数据共享之名不断侵犯受众的隐私,严重影响公共权益。本文对算法在重构传媒生态中的技术价值做了具体分析,并考察了算法在具体新闻实践过程中的技术边界问题,文章最后对算法技术的风险治理问题做了相应的探讨。     

可信算法的法律规制

符合可理解、可靠和可控等内在要求的可信算法是防范算法风险和构建算法信任的基础,算法的可信控制应该成为算法治理的核心.通过法律的可信控制,即按照法律嵌入和法律调节的规制逻辑,通过贯穿于算法的技术层、应用层和治理层的系统化制度安排,确保算法以可信任状态得以设计、部署、应用和执行,是实现算法可信的有效方式.系统地构建算法可信控制的制度体系,需要从算法本体的维度,通过完善透明度规则、推动算法伦理法律化和探索算法验证评估制度等措施确保算法自身的可信度,并从算法关系的维度,通过明确算法权利、强化算法问责和拓展监管体系等制度,约束算法相关主体的行为.     

金融科技的算法风险及其法律规制

随着算法在金融领域应用的深入,算法固有的缺陷和特性也逐渐与金融本身的风险和逻辑发生耦合,形成了算法歧视、算法绑架、算法趋同等新型金融风险.然而,现有的金融科技算法规制框架存在主体、对象和工具层面的诸多问题,导致金融科技算法风险规制的低效和失灵,因而需要进行规制路径的优化和调适.从主体层面出发,应构建以金稳会为基础的规制...     

人工智能时代的算法规制:责任分层与义务合规

通过云端搜集、校勘、分析海量大数据,独立法律人格待定的智能机器人,透过算法活动,在多个行业替代自然人从事高精尖业务并重塑人们的社会评价、权利义务及法律责任。算法活动以“信义义务”为核心调整传统受托人关系以及基于合同相对性进行损害赔偿,传统制度已不能完全囊括智能主体理应承担的所有义务,导致算法操纵、信息寻租和监管套利的三重失控,凸显人工智能产业布局中的法律规范缺位;算法妨害具有公共属性,穿透技术黑箱对合同之外的普罗大众造成“公共滋扰”,法律应当为不同潜在责任主体创设不同缺省合规义务,引导算法运营商、技术开发方内部化不合理社会成本,以构建人工智能责任体系的中国标准。     

算法透明的迷失与回归:功能定位与实现路径

算法的黑箱属性在赋予算法使用者算法权力的同时也威胁着算法相对人的合法权益。以公开算法代码等信息为手段的算法透明措施,成为规范算法权力和保护算法相对人合法权益的重要治理策略之一。但碍于算法的商业秘密属性、算法技术的复杂程度和信息披露对象技术能力等因素的限制,算法透明所能实现的效能有限。为更好发挥算法透明的作用,可从算法代码等信息的公开、算法审查的启动程序、相关审查人员的技术要求、算法审查结果的反馈,以及加强监督等方面建立可信任的算法审查机构,消解算法透明的弊端,提升算法治理效能。     

算法决策规制——以算法“解释权”为中心

算法决策正成为经济与社会体系的一部分,一方面,它创造了显著的社会与经济价值,但另一方面,不公不义的预测或推断会损及个人自主与尊严从而使算法备受质疑。由于算法无法解决自身导致的妨害问题,且算法控制者与数据主体间存在明显的信息或权力不对称,因此,有必要赋予个人一项具体的数据权利——算法“解释权”,以强化其对于己不利的算法决策提出异议的权利,进而促进算法正义、保护个人自主与尊严。不过,利用“解释权”对抗算法妨害虽然必要但并不充分,其在技术上面临可解释性难题,且与商业秘密存在紧张关系。因此,算法决策需要统合规制,需要进一步增强算法决策的社会控制,优化算法应用监管。     

数字孪生时代的法律与问责——通过技术标准透视算法黑箱

我国的数字化转型正进入数字孪生时代,现实世界与虚拟世界出现"虚实相生"甚至"以虚运实"的趋势.在数字孪生系统的分层体系下,通过算法黑箱将模型和数据封装于交互界面之后是一种常见的工程模式,在化简技术复杂性的同时也导致"规则隔音"现象日益严重.决策规则的隐而不显致使事后法律问责难以奏效,而追求算法透明的披露手段在与技术复杂性和商业秘密的冲突中不断妥协,逐渐成为强弩之末.实际上,无论事前规制还是事后问责都需要以法律系统与算法系统的良性互动为前提.借助技术标准的场景性、灵活性、技术性等优势,可以制定信息交换的结构性元规则促进算法与法律的跨系统沟通.此外,应当通过算法标准自我声明机制推动软法的"硬化",规范算法贴标逐渐消灭"无标生产",构建软法硬法混合算法规制模式.     

算法可解释性：一个技术概念的规范研究价值

算法可解释性，是被现有算法规制理论所忽略的技术概念。由于缺乏对这一概念的引入和诠释，算法风险的准确判断与归纳、规制工具的主次位阶性、设置合理的规制效果目标等方面，均存在不同程度的认识偏差。对这一概念的技术视角分析确有必要，算法解释有两大差异较大的技术类型，算法解释的技术能力划定了可解释的最大边界，当前技术条件不一定满足算法规制的需求，原因是解释技术的开发并不是为算法规制专门设计的。这一论断有助于厘清既有的算法规制理论，在算法风险层面，解释技术直接破解的只是算法黑箱问题；在规制工具层面，一切制度工具应考虑解释技术的可行性；在规制目标层面，要结合解释针对的用户、场景和用途设置预期。     

算法法人的理论证立及构成要素探析

人工智能、区块链等算法技术孕育着迥异于传统法人的新型组织关系,当下主要表现为人工智能开始取代自然智能获得实体的控制权,去中心化特点的分布式账本技术建构的自治组织排斥传统中心化组织机构.该类基于算法架构的实体应被认为独立的法人主体,即算法法人.此乃新技术产业发展所需;能够构筑我国制度优势,推动国家战略实现;方便国家监管,助推美好生活;域外法治实践亦可为镜鉴.算法法人的技术特性决定其构成要素分殊,除特定算法技术要素,应根据算法运行模式、特点及目的 事业实现方式等,具体判定成员、财产是否系构成要素.算法法人无需传统法人组织机构,但尚需人类协助,有必要依其类型设置代表人、管理人及技术管理人,分别负责算法法人的对外事务、内部管理及技术事务.     

算法化"主体":组织抑或契约?

传统民商法组织理论面临多元发展需求与信息技术的挑战.在通证经济中,区块链网络参与者借助分布式记账技术,形成了根植于智能合约、以共识算法为治理机制的算法化主体.算法化主体不具备法人的科层治理结构,也不符合商业信托的法律构造,若将其界定为合伙或合伙企业,将使通证持有成员陷入互负连带责任的困境,不利于加密财产的交易.因此,研究算法化主体的技术构造,引入制度经济学以治理为核心对组织与契约关系进行讨论成为选择.共识算法去除了传统组织的科层机制,智能合约克服了不完全契约的局限,分布式记账与加密技术等区块链融合技术生态支撑了算法化主体客观性的交易特征,使得算法化主体具有动态性的组织特征.可将算法化主体认定为民法典上的非法人组织,适用民法典第104条与未来特别规定解决其责任归属问题.     

算法解释权与商业秘密保护的冲突化解

《个人信息保护法》第24条标志着算法解释权在制度层面得以确立。然而，算法控制者往往将算法视为核心竞争力并以商业秘密的形式进行保护，受算法影响者对算法解释的合理诉求与算法控制者对算法保密的现实需要之间不可避免地存在着冲突与张力。面对二者的紧张关系，无论是全然废除算法解释规则，还是算法解释权当然优先，抑或诉诸漫无边际的利益衡量，均非可取之道。为避免冲突激化，不宜将“算法黑箱”完全打开，而只需将其“掀开最小缝隙”,至受其不利影响者可见的程度即可。在“掀开最小缝隙”理论下，算法解释权的行使前提“对个人权益有重大影响”应从严把握，算法解释的内容应限定为算法运行逻辑而非算法本身。同时，商业秘密的“秘密性”需作出澄清，受算法影响者还应负有初步证明责任与保密协议的签订义务。如此方可在最大程度上实现算法解释与商业秘密的冲突化解。     

基于信任的自动化决策:算法解释权的原理反思与制度重构

基于个人信息的算法自动化决策越来越普遍,我国《个人信息保护法》和相关国内外法律都引入算法解释权加以应对。但由于算法具有黑箱性、不确定性与复杂性,算法解释权是否应理解为一般性权利还是限定性权利,要求系统性解释还是个案性解释、事前解释还是事后解释、人工解释还是机器解释,都存在解释争议与适用困境。在原理层面,这一争议与困境源于个人算法控制论。应以沟通信任原则重构算法解释权,将算法解释权的性质视为一种程序性权利,而非实体性权利。算法解释权制度也应进行重构,建议根据自动化决策所处的行业领域、市场化程度、个案影响、企业能力而对其内容、程度、时间和方式作不同要求。     

算法歧视挑战下平等权保护的危机与应对

基于大数据和人工智能的算法服务日益扩大，算法正以一种悄然又迅猛的方式渗透于我们的日常生活和社会运转之中。算法并不是客观的，它会以算法歧视的形式给传统的平等权保护带来危机，包括平等理念危机、歧视识别危机和平等权保护模式危机。危机的根源在于算法权力正在逐渐形成一种“准公权力”，使得传统的权力格局发生了权力主体去中心化、权力作用范围的延展化和权力互动的双向化之变迁；而算法设计的效率导向、作为算法运行基础的数据之偏差与算法黑箱造成的透明度缺失共同触发了算法歧视。为了应对平等权保护危机、破解算法歧视的谜题，从法律体系外部框架切入的大破大立研究与立基于法律体系内部的精致作业同时进行，推动人工智能时代法律的自觉型发展以规制算法歧视、保障平等权就显得尤为必要。我们可通过建构人工智能学习权和借鉴美国平等权保护领域中的差别性影响标准以识别算法歧视，同时采用法律与代码相结合的双重保护模式，把握平等权保护与科技创新之间的平衡。