大数据时代算法歧视的法律规制与司法审查——以美国法律实践为例

算法自动化决策为人们带来方便的同时,也可能因其决策过程的不透明和信息不对称而对某些群体造成歧视。实践中,算法歧视主要表现为偏见代理的算法歧视、特征选择的算法歧视和大数据杀熟三种基本形态。为了消除算法歧视给社会带来的影响,各国政府采取了一系列的规制措施。从规制的空间维度来看,这些措施包括原则性规制和特定性规制方式;从规制的时间维度来看,包括事后性规制和预防性规制;从规制的主体角度来看,包括自律性规制和他律性规制方式。在司法审查层面,不同待遇审查和差异性影响审查是两种基本模式。强调平衡“数字鸿沟”,抑制算法权力,并在此基础上,确保国家权力的运用能够促进科学技术的发展与进步,是大数据时代算法歧视的法律规制与司法审查的基本共识。     

元规制模式下的数据保护与算法规制 ——以欧盟《通用数据保护条例》为研究样本

算法和数据保护之间形成了互相掣肘又互相促进的复杂关系，实际体现了科技与法律的互动关系。算法技术的突破加剧权力失衡和技术风险，导致个人权利实现效果不彰。个人法益保护有赖强化数据控制者责任。在监管机构缺乏必要资源或信息时，适宜采用元规制模式，即通过正反面激励，促使数据控制者本身针对问题做出自我规制式回应。这种模式切实体现在欧盟数据保护改革中。在检讨GDPR第22条算法条款的基础上，应发展数据控制者自我治理机制予以补足。在透明度原则和问责原则指引下，数据控制者有义务通过数据保护影响评估、经设计的数据保护等工具，构建完备的算法审查机制；同时通过革新算法解释方法矫正权力失衡，为个人权利救济提供保障。     

论算法歧视消费者的侵权责任认定——基于司法裁判的实证考察

通过对算法歧视消费者司法案例的实证分析,可以发现:现行法律规定中过错责任归责原则在确认算法责任承担者上存在结构性失位问题,由此导致相关规定不能成为规制算法歧视消费者的有效工具;消费者对于算法歧视的举证能力不足和法律规范的认知程度低下导致维权期望普遍落空;作为裁判者的法院在理解与适用法律上存在的不合理性也传导至算法歧视消费者的规制效果上。构建算法歧视消费者的责任认定框架,应区分算法歧视消费者的具体场景,在算法的人为干预场景中坚持过错推定原则立场,在算法自动化决策场景中提倡无过错责任原则,区分标准要素中因果关系的成立关系与范围关系。同时,加强对算法服务经营者的引导管理,提升算法歧视消费者司法裁判的合理性。     

算法歧视挑战下平等权保护的危机与应对

基于大数据和人工智能的算法服务日益扩大，算法正以一种悄然又迅猛的方式渗透于我们的日常生活和社会运转之中。算法并不是客观的，它会以算法歧视的形式给传统的平等权保护带来危机，包括平等理念危机、歧视识别危机和平等权保护模式危机。危机的根源在于算法权力正在逐渐形成一种“准公权力”，使得传统的权力格局发生了权力主体去中心化、权力作用范围的延展化和权力互动的双向化之变迁；而算法设计的效率导向、作为算法运行基础的数据之偏差与算法黑箱造成的透明度缺失共同触发了算法歧视。为了应对平等权保护危机、破解算法歧视的谜题，从法律体系外部框架切入的大破大立研究与立基于法律体系内部的精致作业同时进行，推动人工智能时代法律的自觉型发展以规制算法歧视、保障平等权就显得尤为必要。我们可通过建构人工智能学习权和借鉴美国平等权保护领域中的差别性影响标准以识别算法歧视，同时采用法律与代码相结合的双重保护模式，把握平等权保护与科技创新之间的平衡。     

“大数据杀熟”法律规制的困境与出路——从消费者的权利保护到经营者算法权力治理

"大数据杀熟"侵害了消费者的权利,但依据现行法律很难认定其法律性质。"大数据杀熟"具有很强的技术特征,实质上是经营者滥用算法权力的结果。从传统消费者权利保护路径,运用合同法、侵权法、消保法、价格法、反垄断法等规制"大数据杀熟"面临着诸多困难。从根源上看,"大数据杀熟"并非单纯的法律规制问题,而是算法权力的治理问题。治理算法权力应遵循技术发展与权利保护相平衡、内部监督与外部监管相结合以及事前管控与事后追责相并重等原则。通过经营者自律、行业协会引导、公权机构监管、消费者自我保护、公众广泛参与等途径治理算法权力,才可能有效保护人工智能时代消费者的合法权益。     

算法歧视的司法审查——意大利户户送有限责任公司算法歧视案评析

意大利户户送有限责任公司算法歧视案所涉及的众多理论问题中,以户户送有限责任公司平台使用的算法是否对骑手造成歧视为核心。博洛尼亚法院的判决从骑手是否受反歧视法律的保护、歧视的含义以及平台算法对骑手的影响是否构成歧视等角度层层深入说理论证,最终认定该平台使用的算法构成间接歧视,并要求户户送有限责任公司支付原告三个工会组织5万欧元的惩罚性赔偿。该判决是欧洲针对算法歧视做出的第一个判决,在认定算法歧视、保护骑手权利以及确认惩罚性损害赔偿方面具有重要意义。     

人脸情绪识别算法的风险与规制

人脸情绪识别算法是人脸识别的特殊变体,也是情感计算的重要构成。由于技术的更迭、应用的泛滥和风险的特殊,这一算法在实践中存在大量隐患,亟待法律规制。在美国、欧盟和我国的法律框架下,人脸情绪识别算法目前可以通过"算法"和"数据"两条路径进行部分规制。然而,算法本身的特殊性和立法技术的局限性,决定了还有大量风险无法得到回应,更难以实现权利保障和技术创新的平衡。为此,应当引入"风险为本"的规制思路:以人脸情绪识别算法在不同场景下的正当性、安全性、准确性和可责性四类风险作为法律规制的核心;通过规则设计,实现算法部署的价值公允、算法运行的数据安全、算法决策的准确可靠和算法追责的透明便捷。     

论就业歧视的法律控制

在我国,"就业歧视"的问题日渐突出,现有的法律多是缺乏操作性的抽象性条款,很难有效规制我国的就业歧视现象。处于审议阶段的《就业促进法》在这一问题上也无明显进步,亟待我们在机构设置、救济途径等方面作出更细化的规定,并同时着力提高公民的权利平等意识。     

平行进口法律规制的再思考——以知识产权独占许可为视角

对平行进口的法律规制争议不断,这一方面是由于其类型的多样性及由此带来的权利冲突和利益纷争的复杂性,另一方面是由于以传统的知识产权理论即权利用尽原则与地域性原则为基础解决平行进口问题所遇到的理论内部的矛盾性及由此决定的现实意义的有限性。从知识产权独占许可的视角分析由平行进口所引发的利益失衡可以为我们研究平行进口的法律规制提供新的思考路径。     

论和谐社会下我国制定反就业歧视法的必要性

随着我国市场经济的深入发展,就业歧视问题日益突出,就业歧视现象五花八门。究其原因不外乎两点,用人单位滥用用人自主权和现行法律对反就业歧视法律规制的匮乏。在倡导以人为本,构建社会主义和谐社会的今天,制定一部专门规制就业歧视问题的法律尤为必要,以此来结束我国反就业歧视条文零散的局面,给被歧视者寻求法律救助指明方向。