人脸情绪识别算法的风险与规制

人脸情绪识别算法是人脸识别的特殊变体,也是情感计算的重要构成。由于技术的更迭、应用的泛滥和风险的特殊,这一算法在实践中存在大量隐患,亟待法律规制。在美国、欧盟和我国的法律框架下,人脸情绪识别算法目前可以通过算法和数据两条路径进行部分规制。然而,算法本身的特殊性和立法技术的局限性,决定了还有大量风险无法得到回应,更难以实现权利保障和技术创新的平衡。为此,应当引入风险为本的规制思路:以人脸情绪识别算法在不同场景下的正当性、安全性、准确性和可责性四类风险作为法律规制的核心;通过规则设计,实现算法部署的价值公允、算法运行的数据安全、算法决策的准确可靠和算法追责的透明便捷。     

金融科技的算法风险及其法律规制

随着算法在金融领域应用的深入,算法固有的缺陷和特性也逐渐与金融本身的风险和逻辑发生耦合,形成了算法歧视、算法绑架、算法趋同等新型金融风险.然而,现有的金融科技算法规制框架存在主体、对象和工具层面的诸多问题,导致金融科技算法风险规制的低效和失灵,因而需要进行规制路径的优化和调适.从主体层面出发,应构建以金稳会为基础的规制...     

逮捕社会危险性量化评估研究——以自动化决策与算法规制为视角

逮捕社会危险性量化评估主要是使用形式化、量化或精算方法来预测犯罪嫌疑人、被告人的社会危险性,其自20世纪80年代以来在世界范围内快速发展。逮捕社会危险性量化评估以法律现实主义以及循证实践为思想基础,以降低审前羁押率为目的,并以科学技术的快速发展为支撑。从实践来看,逮捕社会危险性量化评估模型的预测正确率只达到中等程度,且并未超越司法人员的预测正确率。逮捕社会危险性量化评估在带来便利的同时,也在科学性和公正性方面存在多重风险,如固化司法实践中既存的偏见歧视以及剥夺当事人辩护权等。为保障逮捕社会危险性量化评估的有效适用,一方面应建构科学且公正的评估模型,另一方面应确保逮捕社会危险性量化评估在建构和实施过程中受到正当程序原则的规制。     

自我规制的规制：应对科技风险的法理与法制

科技风险规制所要求的行政扩权对法治构成了挑战,诸多学者倡导以政府主导的事中程序进路来调控行政权,但其面临着与行政法理论不能协调的理论困境以及难以适应实际需要,甚至导致行政滥权的实践困境。所以应当在程序法治范式的指导下,推行科学系统对风险的自我规制。相比政府主导,自我规制具有妥适性、正当性以及与法治原则相协调的优势,其消极效应则可通过借助程序机制的再规制加以消除。实现对科技风险自我规制的规制,需要从组织安排、认证程序和司法控制方面建构相应的法律制度。     

风险规制型决策视域下的科学证据问题

为应对风险社会的到来,政府需要面向未来与不确定性作出以规制风险为目的的决策.决策应该坚持科学理性与循证思维,以实证的科学证据为基础.作为科学证据证明对象的事实,不仅具有发展性与流变性,且与价值以交错互嵌的形态实现着共存或者连接.科学证据的证据规则有其特殊性.在重视科学证据优点的同时,需要警惕其存在的诸多问题.有必要从同...     

算法规制的谱系

不断增长的算法风险引致了算法规制的兴起。算法风险的产生原因主要存在于目标失范、算法缺陷、信任危机、防御薄弱、监管与责任机制不足等方面。目前的算法规制实践已经初步形成了算法规制谱系的轮廓,但仍存在规制思维、规制对象、规制主体、规制工具及法律关系等方面的诸多局限性。目前的算法规制谱系可以通过四个维度及不同维度间的各种联结关系进行刻画。在未来,应以人的主体性而非规制工具的效用为基础完善算法规制的谱系,以具备开放性、反思性和统合性的框架应对各种算法风险的挑战。     

算法决策应用的外部风险及其公共治理路径研究

算法决策应用的外部风险具有聚合性和累积性特征,侧重算法行为端,在技术运用过程中向多数不特定群体扩散,将其类型化后包括社会公共利益和实质正义受损、人的主体性地位和合法权益受挑战两方面。外部风险不同于一般侵权行为的损害后果,无法适用传统归责原则。为了有效促进算法技术和监管的良性互动,以公共治理路径为视角,将算法决策嵌入网络社会架构中分析当下治理的局限性,并提出较完善的治理方案。在思路上,应遵循分类分级的精准化治理方法,选择“软”“硬”法为协同治理工具,坚持安全和发展并重的治理理念。在路径上,应着眼于算法决策应用的生命全周期,用算法解释机制解决算法备案制失灵的问题,以风险比例确立算法决策系统的分类与规制方向,并以平台为主体多途径构建算法综合性问责体系,形成治理合力。     

人工智能的法律规制路径:一个框架性讨论

中国、美国和欧盟在人工智能的法律规制上初步呈现出自身的特点。面对人工智能技术的发展,中国通过分散式的立法对它在电子商务、新闻内容推荐以及智能投顾等领域的应用进行了回应,算法公开透明是贯穿于这些层级各异的立法的共同要求。美国则是通过司法判例对算法的法律性质进行了明确,在搜索引擎算法的案例中,它被看成言论,刑事辅助审判系统中的算法则被认定为是商业秘密。与中国、美国的个别化进路形成鲜明对比的是,欧盟通过对个人数据权利的严格保护,形成了对人工智能的源头规制模式。在数字经济成为经济发展的新动力的背景下,这三种模式体现了在数据权利保护和人工智能产业发展平衡问题上的不同侧重。     

共享经济信息不对称环境下的决策算法规制--以区块链共识模型为规制思路

共享经济以平台化模式广泛发展,用户数据容量和决策算法模型成为决定运行质效的关键。当算法基于大数据做出差别决策,且未对消费者进行事先说明时,则显然违背技术的中立性原则。对于这种信息不对称诱发的决策算法预设问题,目前尚无明确规制措施,但确已影响到消费者知情权和公平交易权的实现。规制主体应当综合运用法律手段和技术手段,平衡决...     

“立法性”算法权力的兴起与法律规制

自动化行政促生法律代码化,并引发算法噬夺立法权现象。这表现为算法规则对法律规则的技术性修正、对实施性立法的替代、对上位立法的僭越以及对法律规则体系的整体性架空。算法对立法权的噬夺成就一项立法性算法权力。立法性算法权力的产生原因表明其具有技术层面的存在必要性,却并不必然具备法律面向的合理性。对立法性算法权力施加法律规制的必要性同时存在于技术层面和法律层面。在技术层面,这种必要性体现在立法性算法权力基于自身技术特性具有负外部性影响;在法律层面,这种必要性体现在立法性算法权力对依法行政原则、立法权分配格局产生根本动摇。对立法性算法权力进行法律规制,需要汲取当下算法规制的理论基础与制度实践,并结合立法性算法权力的自身特征,着眼于权力内容的实体限定与权力行使方式的程序限定。     

算法决策规制——以算法“解释权”为中心

算法决策正成为经济与社会体系的一部分,一方面,它创造了显著的社会与经济价值,但另一方面,不公不义的预测或推断会损及个人自主与尊严从而使算法备受质疑。由于算法无法解决自身导致的妨害问题,且算法控制者与数据主体间存在明显的信息或权力不对称,因此,有必要赋予个人一项具体的数据权利——算法“解释权”,以强化其对于己不利的算法决策提出异议的权利,进而促进算法正义、保护个人自主与尊严。不过,利用“解释权”对抗算法妨害虽然必要但并不充分,其在技术上面临可解释性难题,且与商业秘密存在紧张关系。因此,算法决策需要统合规制,需要进一步增强算法决策的社会控制,优化算法应用监管。     

风险规制与行政法治

随着风险成为现代社会的重要特征,风险规制上升为现代政府的一项重要任务。风险预防原则在实证法上的出现标志着立法者将风险规制纳入行政法规范体系之内的努力。但是,由于不得不决策于不确定性之中,风险规制实践对传统行政法治理念构成重大挑战。有必要发展"软法之治"和"参与型行政"等新的制度技术,以求得风险规制与行政法治之间的平衡。     

通过算法审计规制自动化决策以社会技术系统理论为视角

自动化决策并非纯粹的技术工具,而是一种社会技术系统,由社会子系统和技术子系统构成,其引发的风险具备社会性,有必要进行规制。以个体赋权、信息规制、技术问责为代表的传统规制路径缺乏社会技术思维,容易陷入“破损谬误”泥淖,难以因应自动化决策的风险与挑战,无法有效实现法律及伦理规范提出的规制目标。算法审计作为一种社会技术方法,能够很好地契合自动化决策的社会技术系统属性,具备诸多方法论优势和国际实践经验。从建构社会技术系统工程的角度出发,根据审计学的一般原理,我国可以从规范指引、实施主体、方法选择和实施结果四个方面推动算法审计实现制度化发展,并在此基础上探索基于场景的算法审计,实现可信赖的自动化决策。     

论环境行政决策的法律规制

环境问题的复杂性、代际性、多元性以及环境行政决策所具有的科技关联性和利益冲突性等特点，印证了对于政府及其部门的环境行政决策行为法律规制的必要性。然而此种法律规制不是消极的控权，而是在环境行政决策中增加对公众环境权益的考量以及符合相关技术标准后所谓的综合决策机制，同时考虑激励机制。