生成式人工智能的算法治理挑战与治理型监管

以ChatGPT为代表的大规模预训练语言模型日益展现出通用潜力,其超大规模、超多参数量、超级易扩展性和超级应用场景的技术特性对以算法透明度、算法公平性和算法问责为内核的算法治理体系带来全方位挑战。在全球人工智能治理的主流范式中,欧盟形成了基于风险的治理范式,我国构建了基于主体的治理范式,美国采用了基于应用的治理范式。三种治理范式均形成于传统人工智能的“1.0时代”,与展现通用潜能的新一代人工智能难以充分适配,并在不同维度凸显治理局限。因此,在人工智能技术范式变革之际,应以监管权的开放协同、监管方式的多元融合、监管措施的兼容一致为特征推动监管范式的全面革新,迈向面向人工智能“2.0时代”的“治理型监管”。     

积极伦理观下算法歧视治理模式的革新

算法技术已借助大数据技术被广泛应用,成为影响人们日常生活的重要角色,其也因技术中立性不断遭受现实挑战而呈现出事实上的歧视性。重新审视算法歧视及其治理路径是发挥算法积极作用、避免算法消极影响的重要前提。传统伦理观念影响下的算法歧视治理模式存在价值观念偏航、治理结构失衡及技术治理落后的问题,影响算法歧视治理实效。社会发展促进了伦理观念的革新,积极伦理观的树立可以为算法技术向善的实现提供理论指引。算法治理结构的优化及反歧视技术水平的提高是纠正算法歧视的重要前提,理念、制度及技术三维措施的综合运用方可在算法领域实现科技向善的伦理目标。     

算法歧视挑战下平等权保护的危机与应对

基于大数据和人工智能的算法服务日益扩大，算法正以一种悄然又迅猛的方式渗透于我们的日常生活和社会运转之中。算法并不是客观的，它会以算法歧视的形式给传统的平等权保护带来危机，包括平等理念危机、歧视识别危机和平等权保护模式危机。危机的根源在于算法权力正在逐渐形成一种“准公权力”，使得传统的权力格局发生了权力主体去中心化、权力作用范围的延展化和权力互动的双向化之变迁；而算法设计的效率导向、作为算法运行基础的数据之偏差与算法黑箱造成的透明度缺失共同触发了算法歧视。为了应对平等权保护危机、破解算法歧视的谜题，从法律体系外部框架切入的大破大立研究与立基于法律体系内部的精致作业同时进行，推动人工智能时代法律的自觉型发展以规制算法歧视、保障平等权就显得尤为必要。我们可通过建构人工智能学习权和借鉴美国平等权保护领域中的差别性影响标准以识别算法歧视，同时采用法律与代码相结合的双重保护模式，把握平等权保护与科技创新之间的平衡。     

驯服算法:算法治理的历史展开与当代体系

算法治理是算法时代的核心议题。然而,当下算法治理的实效不彰,算法治理的理论亦分歧重重。鉴古而知今,20世纪60年代以降的算法治理史不但展现了丰富的制度实践,也为我国算法治理体系的建构提供了深邃洞见。聚焦于关键场景算法透明公平的“法律”、趋于共识的算法伦理“规范”和迈向算法可解释的“代码”,贯穿了长达半个世纪的算法治理进程。政府(法律)、社会(规范)、市场(代码)的耦合,以及工具性/自主性算法和高/低风险算法的类型化,共同塑造了理一分殊的“模块化”算法治理体系,为分类分级的算法治理奠定了稳固的理论之基。     

人工智能时代算法黑箱的法治化治理

算法作为人类利用机器抓取、处理并输出数据的手段,其所得结果受到编写者主观偏差,技术偏差等多种影响.因算法编写的高度专业性,用户无法知悉有关于自身信息数据被抓取,处理以及应用的细节,这样的不透明性显然对用户的权益与社会秩序造成影响,对我国的法律机制也带来极大挑战.针对算法的运行模式,剖析算法黑箱带来的个人信息数据侵权、算法偏见及司法救济三重危机.通过对欧盟《通用数据保护条例》与欧洲《人工智能伦理与数据保护宣言》对算法黑箱的治理条款,针对上述三重危机从技术角度、法律角度与伦理角度对算法黑箱进行法治化管理,以实现算法黑箱法治化治理层面的合法性与最佳性耦合.     

大型语言模型的法律风险与治理路径

大型语言模型促进了生成式人工智能的蓬勃发展。大型语言模型通常作为通用生成式人工智能的技术底层发挥作用,具备信息价值、情感价值、思维价值和劳动价值,也包含信息内容风险、数据与算法安全风险、侵权风险、诚信风险等系列法律风险。大型语言模型及相关应用的法律风险治理面临微观和宏观层面的系列挑战,需要平衡多方面的目标,应当基于包容审慎监管、分层治理、深度治理和敏捷治理的路径对大型语言模型的法律风险治理开展谨慎、灵活的探索性制度实践,进而逐步完善生成式人工智能的风险治理体系。     

数字治理的法治进路

数字治理是国家治理现代化的重要组成部分。数字技术之所以能够赋能治理,是因为数字技术可以使国家精准识别特定个体并提升宏观治理水平,赋能立法和科学决策、自动化行政、社会信用体系建设、公众守法和法律监督等。但数字治理也存在诸多难题。系统化构建数字治理的基础制度、平衡数字治理中的多维度法律价值、强化对数字公权力的制度控制以建构技术发展的社会信任基础、在国际竞争中提升数字治理的国际化水平、预防和矫治数字治理的异化,是数字治理应当遵循的基本法治进路。     

大数据时代算法歧视的法律规制与司法审查——以美国法律实践为例

算法自动化决策为人们带来方便的同时,也可能因其决策过程的不透明和信息不对称而对某些群体造成歧视。实践中,算法歧视主要表现为偏见代理的算法歧视、特征选择的算法歧视和大数据杀熟三种基本形态。为了消除算法歧视给社会带来的影响,各国政府采取了一系列的规制措施。从规制的空间维度来看,这些措施包括原则性规制和特定性规制方式;从规制的时间维度来看,包括事后性规制和预防性规制;从规制的主体角度来看,包括自律性规制和他律性规制方式。在司法审查层面,不同待遇审查和差异性影响审查是两种基本模式。强调平衡“数字鸿沟”,抑制算法权力,并在此基础上,确保国家权力的运用能够促进科学技术的发展与进步,是大数据时代算法歧视的法律规制与司法审查的基本共识。     

生成式人工智能治理的逻辑更新与路径优化——以人机关系为视角

生成式人工智能技术塑造了人机共生的新型关系,不能简单等同于深度合成技术、智能交互技术、高风险人工智能。新型的人机关系中,既存在人的自主性危机,也有被放大的人工智能治理风险。在风险应对的逻辑中,生成式人工智能的定位应从“老师”转向“伙伴”,不应对服务提供者提出过高要求并作简单的结果评价;同时,应将治理维度从算法治理拓展到用户治理之中。在具体的治理路径上,首先应坚持包容审慎原则,设置过程义务及对应的责任豁免规则;其次,在高风险场景中,应持续进行风险影响评估、充分保证人类监督并提升算法透明度;最后,应通过伦理审查、行业自律、数字素养提升的伦理治理方案以捍卫人的自主性。     

算法解释权与商业秘密保护的冲突化解

《个人信息保护法》第24条标志着算法解释权在制度层面得以确立。然而,算法控制者往往将算法视为核心竞争力并以商业秘密的形式进行保护,受算法影响者对算法解释的合理诉求与算法控制者对算法保密的现实需要之间不可避免地存在着冲突与张力。面对二者的紧张关系,无论是全然废除算法解释规则,还是算法解释权当然优先,抑或诉诸漫无边际的利益衡量,均非可取之道。为避免冲突激化,不宜将“算法黑箱”完全打开,而只需将其“掀开最小缝隙”,至受其不利影响者可见的程度即可。在“掀开最小缝隙”理论下,算法解释权的行使前提“对个人权益有重大影响”应从严把握,算法解释的内容应限定为算法运行逻辑而非算法本身。同时,商业秘密的“秘密性”需作出澄清,受算法影响者还应负有初步证明责任与保密协议的签订义务。如此方可在最大程度上实现算法解释与商业秘密的冲突化解。     

公共治理视域下自动化应用的法律规制

技术飞跃与治理提升之间的关联通常被假定,也早已被吸纳进“数字中国”“智慧社会”等政策实践,但法律的习惯性滞后带来了监管套利的空间。公共治理领域的自动化应用经历了从基于数据库编码的计算机自动化到基于机器学习的算法自动化再到基于神经网络的超级自动化的逐步跃迁,从早先自下而上专业人士的“辅助/参考”和个别部门的“部署/应用”嬗变为自上而下的社会化“嵌入/集成”,公权力、私权力及私权利的关系发生了结构性转换。相应地,国际通行、日益趋同的个人隐私保护(事前同意)、算法可解释性(事中监测)和完整履责链条(事后追责)的监管范式也应依照宏观技术共治、中观价值位阶和微观权利保障三位一体的规制路径进行体系化重构。     

从权力到权利:算法治理的路径

人工智能时代,算法日益介入社会生活中。我国对算法的治理刚刚起步,现有的算法治理模式并不能适应算法技术的发展。基于对我国算法治理现状和治理困境的分析,提出从权力到权利的算法治理路径,并借助“权利束”这一概念,从整体上对算法权利进行构思,以实现算法控制者和算法相对人的利益平衡。     

算法歧视的司法审查——意大利户户送有限责任公司算法歧视案评析

意大利户户送有限责任公司算法歧视案所涉及的众多理论问题中,以户户送有限责任公司平台使用的算法是否对骑手造成歧视为核心。博洛尼亚法院的判决从骑手是否受反歧视法律的保护、歧视的含义以及平台算法对骑手的影响是否构成歧视等角度层层深入说理论证,最终认定该平台使用的算法构成间接歧视,并要求户户送有限责任公司支付原告三个工会组织5万欧元的惩罚性赔偿。该判决是欧洲针对算法歧视做出的第一个判决,在认定算法歧视、保护骑手权利以及确认惩罚性损害赔偿方面具有重要意义。     

算法正义:一种经由算法的法治

法治必须学会对接人工智能和算法。如何面对经由算法的法治、如何达至算法正义,将成为未来时代法治进化的核心主题。在人工智能时代,算法不再仅仅是一种单纯的数学工具和一般的技术应用,它将成为一种调和法治内在结构与机理的本质性力量,即成为未来法治世界中的隐形运行秩序。算法注入法治、改变正义将是根本性的,对法治的助力和对正义的彰显又具有显著优势。面对这场技术革新,中国法学需要作出理论回应与学术设计,为已经到来的算法法治与算法正义构建理论基础,寻找与算法对接的切口,获得与人工智能保持某种契合的力量,以此形成作用于社会治理的合力,进而完成法治现代化的转型。     

人工智能算法的伦理危机与法律规制

进入网络时代以后,人们逐步形成了一种以技术性和流动性为核心的在线生存样态.人们日益被数据化和被算法化.技术平台往往会利用自身在数据处理和深度学习算法上的技术优势,生成一种隐性的支配权和控制权,从而形成人工智能算法独特的运行逻辑.人工智能算法独特的运行逻辑正在深刻地改变着以往的生产方式和生活方式,并诱发了一系列的伦理危机...     

国家治理现代化与政策范式转型

实践层面的政策范式常常被理解为一种稳定的和能够识别的政策模式或政策风格,包括政策问题、政策主体、政策价值和政策工具等构成要件。党的十八届三中全会提出的国家治理体系和治理能力现代化,不仅涉及到具体政策和基本政策的改变,亦是对我国元政策的一次重塑,具有丰富的政策内涵。国家治理体系和治理能力现代化的推进,将带来我国公共政策范式的转型。