金融科技的算法风险及其法律规制

随着算法在金融领域应用的深入,算法固有的缺陷和特性也逐渐与金融本身的风险和逻辑发生耦合,形成了算法歧视、算法绑架、算法趋同等新型金融风险.然而,现有的金融科技算法规制框架存在主体、对象和工具层面的诸多问题,导致金融科技算法风险规制的低效和失灵,因而需要进行规制路径的优化和调适.从主体层面出发,应构建以金稳会为基础的规制...     

任务客观性、情感相似度何以影响算法决策感知公平与接受度?——基于调查实验的实证分析

伴随着新一代信息技术的纵深发展,算法决策极大提升了政府决策的科学性和精准性。与此同时,算法决策带来的算法歧视、决策“暗箱”、责任性缺失和可解释性不足等困境,导致政府面临着新的决策公平性挑战。本研究基于简化理论和计算机作为行动者理论,分别从人工智能算法简化性视角下的任务客观性和拟人化视角下的情感相似度出发,构建了2(算法任务客观性：主观任务vs客观任务)×2(情感相似度：高vs低)的两因素被试间实验,以1 356位上海市居民为被试,分析了任务客观性对公民算法决策接受度的因果关系,检验了情感相似度在这一过程中的调节作用以及感知公平的中介作用。研究发现,相较于执行主观任务,公民对算法决策执行客观任务时的感知程序公平、分配公平和接受度更高。相较于高情感相似度,低情感相似度的情境进一步强化了公民对算法决策的感知程序公平、分配公平和接受度。且当情感相似度较低时,感知程序公平、分配公平在算法决策客观性影响算法决策接受度之间发挥有调节的中介效应。本研究对于算法决策简化属性的情境变化和拟人化边界做了思考,并对公共部门如何引入算法进行辅助决策和改进算法设计提出了对策建议。     

自动化技术赋能下的行政处罚：挑战及应对措施

自动化技术在行政处罚实践中的应用,有效提高了行政处罚的效率及专业化程度,提升了社会治理水平,但基于技术缺陷、算法黑箱等因素,行政处罚公正性的实现以及执法人员能动性的发挥受到一定阻碍,因此,本文提出技术革新、范围界定等举措,来应对当下自动化行政处罚带来的公正性挑战与能动性挑战,以期推动自动化行政处罚实践的稳定长远发展。     

人工智能算法的伦理危机与法律规制

进入网络时代以后,人们逐步形成了一种以技术性和流动性为核心的在线生存样态.人们日益被数据化和被算法化.技术平台往往会利用自身在数据处理和深度学习算法上的技术优势,生成一种隐性的支配权和控制权,从而形成人工智能算法独特的运行逻辑.人工智能算法独特的运行逻辑正在深刻地改变着以往的生产方式和生活方式,并诱发了一系列的伦理危机...     

数字向善原则下算法推荐服务提供者的著作权注意义务

算法治理是智能社会法治建构的核心问题。在著作权法领域,对算法推荐服务提供者的侵权责任分配应立足时代法治精神的体系性视角,突破技术中立原则,迈向数字向善原则,研究网络平台在预防侵权、推进数字技术向善发展中的关键作用,建构有利于推动法律与技术相结合的支撑多元共治的法律制度。应肯定算法推荐服务提供者在特定条件下承担超过“通知-删除”规则的更高的注意义务,应立足行业技术发展情况,结合侵权损害大小、侵权发生概率、预防侵权的成本、算法推荐服务提供者在算法推荐系统中已采取的著作权保护措施,判定算法推荐服务提供者是否尽到注意义务。同时,应建立有效通知、高效申诉、恢复请求权等制度,切实保障用户利益。     

立法性算法及其法律规制

在算法时代,法律领域正在经历一场深刻变革。新的公共治理和控制系统将从数据收集、传输和分析中产生,基于大数据驱动机器学习的算法治理模式符合社会管理的基本原则,并能够以更为有效的方式做出决策从而改善人们的生活。但是,受制于数据输入的主观性和偏见性以及系统自身的封闭性、不确定性和不可预测性,算法在提升公共治理效能和降低社会监管成本的同时,也会对传统法律秩序的合法性、公共性和民主性造成冲击。对此,需要明确立法性算法的合法性地位,强化对立法性算法的审查和风险评估,以及保障公众对算法程序的参与和监督权,在算法程序正式被应用到公共领域之前,行政人员还必须对算法程序应用的全过程进行监管,通过建立有效的可预测性和可解释性度量标准,使算法程序的设计和应用有章可循,并建立相应的算法问责制度和程序,以确保立法性算法的发展符合法定的公共性和合法性基本要求。     

算法自动化决策中的女性劳动者权益保障

算法自动化决策在招聘、任务分配、劳动评估甚至解雇决策中发挥着日益重要的作用,但其对于职场性别平等影响的研究尚未展开。本文尝试通过对国内外职场算法性别歧视案例的分析,探讨算法在数字经济时代就业劳动市场不同阶段发挥的重要作用,分析算法自动化决策可能嵌入既有的性别偏见,成为隐藏性别歧视的分配手段,并且造成难以觉察的性别歧视后果。应对算法自动化决策带来的职场性别歧视,应扩大传统劳动法关于性别平等制度的适用,并具体化算法自动化决策规制的相关制度。此外,还应积极构建性别平等的算法伦理,建设覆盖算法生命周期的性别平等制度,并发展针对算法性别偏见的审计与评估制度,通过制度设计和社会支持系统促进数字经济时代的职场性别平等。     

平台权力的扩张与规制

作为一种新型的权力形态,平台权力是指伴随平台经济的快速发展和超级平台企业在国民经济和社会发展中影响力和控制力的不断增强而出现的,由少数超级平台企业所掌握的影响和支配平台空间内的经营者、消费者等平台主体行为的能力。依据平台权力的运行过程,可以将平台权力分为平台准立法权、平台准行政权和平台准司法权三种主要类型。伴随平台权力的不断扩张,超级平台企业所拥有的平台权力在塑造平台空间治理秩序和改善平台治理绩效的同时,也对国家机关的立法权、行政权和司法权等国家公权力构成了一定威胁,进而对由政府主导的国家治理秩序和由国家主导的全球治理格局产生了深刻的影响和一定的冲击,对平台权力进行规制的重要性正日渐提升。平台权力的规制,需要从明确划定平台权力的边界、不断强化对平台权力运行过程的监管、规范平台数据的使用和算法的运行、依法依规保护平台用户数据安全以及严厉打击平台企业滥用垄断和优势地位的行为等方面着手。     

算法之下：数字信任还是专家信任？

随着算法的广泛应用,公众在决策过程中多了一种选择：可以信任专家,也可以信任算法。算法是在软件中提供控制加逻辑的工具,具有不透明性、不确定性和权威性等特征。算法自主性程度、任务风险大小以及人类和算法的交互程度影响着公众选择信任算法还是专家。媒介算法中的内容生产使专家识别变得困难,面对众多“专家意见”,人们无所适从;搜索、推荐算法带来的“以自我为中心的偏见”和“回声室”效应,使个人更加固执己见;咨询算法、人机虚拟团队提高了专家能力,但不必然带来公众对专家的更高评价;执行算法则加深了公众对专家的依赖。当前的智能社会,公众需要认识专家地位及其认知局限性,不盲从、不苛责,更需要提升自身算法素养,校准人机信任。     

智能司法中的伦理问题及其应对

人工智能使用于司法涉及到突出的伦理问题,智能司法与司法伦理既有紧密关系又有紧张关系.司法公正的一个很重要因素是证据的获取,证据的获取与知识智慧有很大的关联性,人工智能使用于司法在证据获取等方面具有相对于人工的以下优势:准确性、重复性、快速性、抉择性、无私性.智能司法与司法伦理的紧张关系是指智能司法可能损害司法公正:算法...