算法决策规制——以算法“解释权”为中心

算法决策正成为经济与社会体系的一部分,一方面,它创造了显著的社会与经济价值,但另一方面,不公不义的预测或推断会损及个人自主与尊严从而使算法备受质疑。由于算法无法解决自身导致的妨害问题,且算法控制者与数据主体间存在明显的信息或权力不对称,因此,有必要赋予个人一项具体的数据权利——算法“解释权”,以强化其对于己不利的算法决策提出异议的权利,进而促进算法正义、保护个人自主与尊严。不过,利用“解释权”对抗算法妨害虽然必要但并不充分,其在技术上面临可解释性难题,且与商业秘密存在紧张关系。因此,算法决策需要统合规制,需要进一步增强算法决策的社会控制,优化算法应用监管。     

数字向善原则下算法推荐服务提供者的著作权注意义务

算法治理是智能社会法治建构的核心问题。在著作权法领域,对算法推荐服务提供者的侵权责任分配应立足时代法治精神的体系性视角,突破技术中立原则,迈向数字向善原则,研究网络平台在预防侵权、推进数字技术向善发展中的关键作用,建构有利于推动法律与技术相结合的支撑多元共治的法律制度。应肯定算法推荐服务提供者在特定条件下承担超过“通知-删除”规则的更高的注意义务,应立足行业技术发展情况,结合侵权损害大小、侵权发生概率、预防侵权的成本、算法推荐服务提供者在算法推荐系统中已采取的著作权保护措施,判定算法推荐服务提供者是否尽到注意义务。同时,应建立有效通知、高效申诉、恢复请求权等制度,切实保障用户利益。     

任务客观性、情感相似度何以影响算法决策感知公平与接受度?——基于调查实验的实证分析

伴随着新一代信息技术的纵深发展,算法决策极大提升了政府决策的科学性和精准性。与此同时,算法决策带来的算法歧视、决策“暗箱”、责任性缺失和可解释性不足等困境,导致政府面临着新的决策公平性挑战。本研究基于简化理论和计算机作为行动者理论,分别从人工智能算法简化性视角下的任务客观性和拟人化视角下的情感相似度出发,构建了2(算法任务客观性：主观任务vs客观任务)×2(情感相似度：高vs低)的两因素被试间实验,以1 356位上海市居民为被试,分析了任务客观性对公民算法决策接受度的因果关系,检验了情感相似度在这一过程中的调节作用以及感知公平的中介作用。研究发现,相较于执行主观任务,公民对算法决策执行客观任务时的感知程序公平、分配公平和接受度更高。相较于高情感相似度,低情感相似度的情境进一步强化了公民对算法决策的感知程序公平、分配公平和接受度。且当情感相似度较低时,感知程序公平、分配公平在算法决策客观性影响算法决策接受度之间发挥有调节的中介效应。本研究对于算法决策简化属性的情境变化和拟人化边界做了思考,并对公共部门如何引入算法进行辅助决策和改进算法设计提出了对策建议。     

自动化技术赋能下的行政处罚：挑战及应对措施

自动化技术在行政处罚实践中的应用,有效提高了行政处罚的效率及专业化程度,提升了社会治理水平,但基于技术缺陷、算法黑箱等因素,行政处罚公正性的实现以及执法人员能动性的发挥受到一定阻碍,因此,本文提出技术革新、范围界定等举措,来应对当下自动化行政处罚带来的公正性挑战与能动性挑战,以期推动自动化行政处罚实践的稳定长远发展。     

人工智能算法的伦理危机与法律规制

进入网络时代以后,人们逐步形成了一种以技术性和流动性为核心的在线生存样态.人们日益被数据化和被算法化.技术平台往往会利用自身在数据处理和深度学习算法上的技术优势,生成一种隐性的支配权和控制权,从而形成人工智能算法独特的运行逻辑.人工智能算法独特的运行逻辑正在深刻地改变着以往的生产方式和生活方式,并诱发了一系列的伦理危机...     

论算法行政的技术性正当程序

算法行政面临着合理性的诘难。算法行政合理性的基础从人与人之间的关系拓展到人与类人机器之间的关系。关系的转变导致社会治理模式从中心化开始转向分布式,进而影响到公权力和私权利的平衡。这些难题在程序上表现为行政机关和其他主体沟通机制的失灵,行政平等和公开原则遭到破坏,进而导致人们对行政行为的认同感降低。技术性正当程序提出规制算法行政的愿景：法律应当保障相对人的程序性权利,维护行政公共性,追求程序正义。在技术性正当程序的引导下,通过构建人工介入的交涉机制、理性化和追求平等的算法运作方式、响应程序公开的算法透明化操作、以重点解释增强可接受性的路径,使算法行政始终以服务相对人为中心,最终满足人们的合理性期待。     

人机交互决策下的智慧司法

ChatGPT等人工智能技术在多个场景落地,在司法领域却备受争议,其根本原因在于司法具有鲜明的价值判断特征。人工智能司法是一种“规范性科技”支持基础上的司法,而非计算性科技或预测性科技技术本身。人工智能司法在裁判可接受性、信息整全、信息筛选、事实评估等方面有一定优势;人机交互决策不仅可能,而且早已通过各类数据库系统成为现实。不过,人工智能司法却面临规则僵化、人机决策权重如何配置、不同司法层级与不同部门决策趋同、算法黑箱决策等难题。应坚持人工智能司法的辅助性定位,坚持法官与检察官的弥散性决策与主体责任制,允许不同司法机关对人机决策权重进行实验性设置并开展实践探索,坚守基于部门分工与审级分层的制衡决策,促进算法解释的可问责性而非完全公开。智慧司法成功的关键,在于设计符合司法原理的人机交互决策制度。     

金融科技的算法风险及其法律规制

随着算法在金融领域应用的深入,算法固有的缺陷和特性也逐渐与金融本身的风险和逻辑发生耦合,形成了算法歧视、算法绑架、算法趋同等新型金融风险.然而,现有的金融科技算法规制框架存在主体、对象和工具层面的诸多问题,导致金融科技算法风险规制的低效和失灵,因而需要进行规制路径的优化和调适.从主体层面出发,应构建以金稳会为基础的规制...     

大数据证据在互联网金融犯罪案件中的审查运用

新型互联网金融犯罪案件中,传统侦查技术已经无法应对海量资金数据,大数据侦查因势而生。大数据侦查通过回溯、分析海量资金数据,穿透识别资金来源与流向,成为该类案件办理的“杀手锏”。与此同时,大数据侦查也给大数据证据的审查运用带来新的挑战。司法机关有必要从实践出发,将大数据技术特征和证据法理论相融合,构建互联网金融犯罪案件大数据证据的审查运用规则。在证据种类上,未来有必要将大数据证据单列为独立证据种类,在此之前,将大数据证据作为侦查实验笔录更为适宜。现阶段,可以采取印证证明、抽样证明等方法验证大数据结论真实可靠性。     

算法自动化决策中的女性劳动者权益保障

算法自动化决策在招聘、任务分配、劳动评估甚至解雇决策中发挥着日益重要的作用,但其对于职场性别平等影响的研究尚未展开。本文尝试通过对国内外职场算法性别歧视案例的分析,探讨算法在数字经济时代就业劳动市场不同阶段发挥的重要作用,分析算法自动化决策可能嵌入既有的性别偏见,成为隐藏性别歧视的分配手段,并且造成难以觉察的性别歧视后果。应对算法自动化决策带来的职场性别歧视,应扩大传统劳动法关于性别平等制度的适用,并具体化算法自动化决策规制的相关制度。此外,还应积极构建性别平等的算法伦理,建设覆盖算法生命周期的性别平等制度,并发展针对算法性别偏见的审计与评估制度,通过制度设计和社会支持系统促进数字经济时代的职场性别平等。