算法歧视的法律规制

算法是人工智能的核心,随着算法应用场景的扩大,算法歧视问题日益突出。通过梳理算法歧视的概念和表现形式,分析算法歧视的类型,将法律规制的重点落在深度学习的算法歧视上面,以算法公平为基本原则,从数据和算法两个角度对算法歧视进行规制,并建立算法问责制度以应对算法歧视的危害结果,从而减少算法歧视的产生。     

立法性算法及其法律规制

在算法时代,法律领域正在经历一场深刻变革。新的公共治理和控制系统将从数据收集、传输和分析中产生,基于大数据驱动机器学习的算法治理模式符合社会管理的基本原则,并能够以更为有效的方式做出决策从而改善人们的生活。但是,受制于数据输入的主观性和偏见性以及系统自身的封闭性、不确定性和不可预测性,算法在提升公共治理效能和降低社会监管成本的同时,也会对传统法律秩序的合法性、公共性和民主性造成冲击。对此,需要明确立法性算法的合法性地位,强化对立法性算法的审查和风险评估,以及保障公众对算法程序的参与和监督权,在算法程序正式被应用到公共领域之前,行政人员还必须对算法程序应用的全过程进行监管,通过建立有效的可预测性和可解释性度量标准,使算法程序的设计和应用有章可循,并建立相应的算法问责制度和程序,以确保立法性算法的发展符合法定的公共性和合法性基本要求。     

惯习与资本:算法消费者个人信息保护的困境与突破

近年来,互联网经营者实施算法价格歧视行为产生的算法消费者个人信息保护问题引起广泛关注。布迪厄场域理论的引入,可以对算法价格歧视涉及的多方主体加以研究。探究算法价格歧视场域内算法消费者个人信息保护存在困境的深层原因,即会了解惯习与资本配置产生异化,以及算法消费者难以与算法经营者进行博弈现象。实现算法消费者个人信息保护困境的突破,需要对算法价格歧视场域内的惯习与资本配置进行优化:在惯习层面,重塑消费者个人信息保护理念,同时加强消费者教育;在资本层面,引入场景与风险管理新理念对告知-同意规则进行补正,构建经营者信息信义义务并对相应的诉讼救济制度予以完善。     

就业平等权的法律保护

形形色色的就业歧视现象说明,目前我国公民的就业平等权保护不足。这种情况不利于维护我国法律的权威,不利于维护稳定的法治秩序,也不符合就业平等权保护的国际化潮流。应当从我国实际情况出发,借鉴其他国家的经验,加强对公民就业平等权的法律保护,为此需要从完善立法、加强执法、司法等方面采取有效措施。     

算法公平与诉权保障——性别平等保护视角下智慧司法的规制路径

在算法决策中,尽管数据模型经大量数据训练后的处理效率和准确性都高于人类决策,但在智慧司法背景下,刑事诉讼中算法预测模型存在相关性偏差、差异效度和多维歧视等性别歧视性风险。现行法规缺少应对性别歧视的综合性法律制度、算法工具在模型形成的各个阶段没有公平概念及相关标准的统一约束以及算法黑箱、诉讼信息和自由裁量等方面的司法不透明等,均是算法形成性别歧视性风险的原因。在性别平等保护视角下规制智慧司法的发展,应在规范维度将平权伦理纳入针对智慧司法的特定规则之中,规范算法系统中的公平性概念;在算法维度设置平权算法模型、构建算法解释,并在诉讼维度明确知情权利束、倒置举证责任,以促进对被追诉人的权利保障。     

教育中儿童歧视的法律规制

儿童不受歧视作为一项保护儿童权利的基本原则已经得到国际与国内立法的认可。我国目前存在着儿童歧视现象,主要表现为差生歧视、户籍歧视、残疾歧视、贫困歧视及性别歧视等形式。应当认为,这些歧视已经严重地侵害了儿童的平等受教育权,需要对此予以适当的完善。     

论自动化行政中的“算法卸责”

算法决策在电子政务中广泛应用,随之而来的是自动化行政决策出现巨大的责任漏洞,从而引发决策者的“算法卸责”。“算法卸责”的主要策略有代理策略,即“寻找替罪羊”,以及政策策略,即“避免行使裁量权”等。算法决策与问责制之间存在较大张力,可能造成问责制功能的失调,具体包括难以保证决策透明度、提升绩效的阻力较大、回应沟通机制的匮乏等。鉴于此,有必要分析不同类型的算法决策系统,寻求维系问责制的有效途径。在决策替代系统中,一方面厘清公共部门与供应商之间的责任关系,另一方面在决策闭环过程中加入必要的人为干预。在决策支持系统中,除了需要考虑“人机交互”决策中的责任界定,还应当揭开“算法面纱”,引入“穿透式”问责理念。     

论人工智能时代的算法司法与算法司法正义

算法司法,作为人工智能时代新的司法样态,已初现其时代意义:有力回应了新时代解放司法生产力,提升司法效能、切实保障算法司法正义的迫切需求,但也存在着算法隐蔽性和司法公开的冲突,算法司法商业化以及过度重视专家系统经验等风险。算法司法的未来,无论呈现出增强/改善司法,还是替代司法的姿态,算法司法正义都应当是未来司法正义的必然选择。     

论劳动歧视之法律规制

劳动歧视是与劳动有关的除择优以外的不适当的不平等对待,劳动歧视违背了宪法与法律规定的劳动平等权。我国劳动歧视种类繁多,劳动歧视以时间为标准,可分为劳动机会的歧视与劳动过程中的歧视;以歧视的依据为标准可分为自然属性歧视与后天习得性歧视。根据其不同的属性,借鉴他国经验,有针对性地采用法律手段进行规制,是保障人权之举,意义重大。     

算法自动化决策中的女性劳动者权益保障

算法自动化决策在招聘、任务分配、劳动评估甚至解雇决策中发挥着日益重要的作用,但其对于职场性别平等影响的研究尚未展开。本文尝试通过对国内外职场算法性别歧视案例的分析,探讨算法在数字经济时代就业劳动市场不同阶段发挥的重要作用,分析算法自动化决策可能嵌入既有的性别偏见,成为隐藏性别歧视的分配手段,并且造成难以觉察的性别歧视后果。应对算法自动化决策带来的职场性别歧视,应扩大传统劳动法关于性别平等制度的适用,并具体化算法自动化决策规制的相关制度。此外,还应积极构建性别平等的算法伦理,建设覆盖算法生命周期的性别平等制度,并发展针对算法性别偏见的审计与评估制度,通过制度设计和社会支持系统促进数字经济时代的职场性别平等。     

算法规制与权利生产:政府数据确权的反向路径

政府数据是政府行使行政管理职权的核心资源,其权属确认难题严重影响着政府履职效能。当前,学界对正向给予政府数据权利方式的研究尚未提出适应中国数据治理实践的较为清晰的路径方案。研究尝试从反向路径进行思考,通过界定政府数据采集与使用的禁止情形,而确定政府数据权利生存空间和涵摄范围。算法及其规制输出便是反向确权路径的核心要素,即应以算法本身为确权基础、以算法规制的价值判断结论为确权标准,明确政府享有数据权利的场域与谱系。具体而言,如果算法规制不合法或不符合公民利益,政府就不享有数据权利;只要合法并以公民利益为目的规制算法,在这个空间范围内政府对其数据就享有权利。     

大数据证据的法律审视及算法规制探析

大数据推动了证据体系“本”的提升和“质”的嬗变。司法审判中,既可以运用“大数据证据”办“大体量案件”,推进审判体系和审判能力升华;也可以实现证据体系由海量数据所包围、以算法驱动智慧庭审的新样态。对于大数据证据在审判中的定位,相关学说观点在理论与实务中大相径庭。鉴于大数据复杂海量的特点,不应纠结于证据种类的划分,而应将其看作辅助判断证据的形式要素。在弱人工智能时代,大数据证据的运用面临着两层难题,一是取证、质证等环节存在的问题;二是在刑事审判过程中,由于数据本身具有的算法歧视、非透明等特点,大数据与证据耦合易引发潜在风险。在庭审中,对大数据应当精用慎用,构建“鉴—取—审”一体的证据审查体系;同时,搭建数据信任的桥梁,厘定获取大数据证据的“有限第三方”理论,设置特定指向的公开披露,为算法信任设置正确导向,积极发挥大数据在各审判阶段的价值效能,完善其介入刑事证据体系的逻辑合理性,更好地促进未来证据体系的发展变革。     

不正当有奖销售行为的法律规制

有奖销售在市场竞争中被经营者广泛采用,同时存在的大量不正当有奖销售行为严重侵害了消费者的合法权益。我国现行立法对不正当有奖销售行为的规制存在不足之处,应当借鉴国外先进的立法经验,完善我国不正当有奖销售的相关法律制度。     

面向公共价值创造的算法治理与算法规制

对算法“技术赋能”与“技术负外部性”的不同关注使学术研究产生了算法治理与算法规制的不同路径,却因此忽视了二者的有机联系。本文通过引入公共价值理论,构建算法治理与算法规制的整合性分析框架。其中,算法治理创造绩效价值,算法规制创造程序价值。在二者关系上,算法治理催生算法规制,算法规制规范算法治理,二者的整合有助于实现公共价值最大化,促进“善治”的实现。从公共价值视角厘清算法治理与算法规制的逻辑关系以后,政府可以积极利用算法治理创造绩效价值,构建“算法问责制”创造程序价值,以公共价值最大化为标准推进算法应用,并倡导多元社会主体参与公共价值创造。     

算法自动化决策多元主体间的分配正义

大数据时代,以算法自动化决策为代表人工智能深度学习技术引发了“算法歧视”现象。主流的规制路径,像创设算法解释权、传统私法规制路径以及公权力监管路径都有其适用困境。自动化决策的规制涉及多元主体间的利益协调。因此,不应对其单一静态的规制,而应通过分配正义构建多元主体法律关系框架,利用社会主义制度优势,通过公私法协同共治、多元主体间配合等方式,实现算法自动化决策多元主体间的分配正义。     

知识产权滥用及其法律规制的探索与比较研究

知识产权的滥用问题已经引起世界各国的广泛关注,美国、日本等国家和地区已经相继出台了一系列包括反垄断法在内的控制措施。以法律形式给予在知识产权上处于弱势地位的国内企业以更多保护,已经显得非常紧迫。因此,我国应借鉴有关国家的立法经验和司法实践尽快制定相应的法律控制措施,以维护我国权利人利益。