人工智能司法决策的可解释性及其路径研究

人工智能在司法领域获得诸多应用。智能司法应用通常具有的不可解释性存在过程审查无法进行、加剧算法歧视等内部隐忧,以及司法系统内部关联断裂的外部风险,因而遭遇诸多质疑。究其根本,算法技术的内在机理以及法律与技术的职业障碍、智慧司法的技术瓶颈是人工智能司法决策可解释性缺失的缘由。随着世界范围内智能司法可解释性相关制度文件的出台,以及算法可解释性与准确性可兼容并存的认知革新,人工智能司法决策的解释路径与透明化势在必行。提高技术应用深度、借鉴已有的技术解释路径针对性研发智慧司法应用的解释方法,能够促进人工智能司法决策可解释性的有效提升,助力司法公正。     

“聪明技术”如何“更聪明”——算法推荐的伦理与治理

作为一种运用人工智能让计算机“教会”自己不断进阶并寻找新数据以做出判断的“聪明技术”,算法推荐技术内蕴着摆脱人类控制的倾向和“从人指向物”的特定关系模式,具有高度伦理敏感性,并带来认知性与规范性两个方面的伦理风险。应对技术伦理挑战,展开算法推荐的伦理治理有三方面要求:一是以伦理先行的自觉,明确算法推荐的伦理规制原则,发挥伦理原则的路标作用;二是确立分布式道德责任,重塑算法推荐的责任主体,促进算法的负责任创新;三是优化算法推荐的伦理治理结构,展开敏捷治理,实现技术向善与技术赋能的契合。     

算法规制的法律困境与消解路径

算法的透明规则、反歧视规则和自动化决策解释规则,基本构成了《个人信息保护法》的算法治理规则体系。但是,算法商业秘密的权利保护与相对人知情权之间的矛盾、算法歧视的合理性标准与治理模式选择,以及自动化决策权和拒绝权的矛盾,在该算法治理规则体系中并没有得到解决。在合理解释上述规则的基础上,应通过治理算法黑箱实现对算法透明的制度构建,差异化治理算法歧视以选择适宜的监管模式,规制算法自动化决策和重点权利保障领域来完善算法的反自动化决策规则。     

智慧司法中技术依赖的隐忧及应对

技术被广泛应用于司法裁判相关信息的收集处理、支持具体的司法决策、支撑智慧司法系统建设。在智慧司法变革中,人(司法机关)与技术的关系从技术辅助走向技术主导,进而存在滑向技术依赖的隐忧：法官在具体司法决策中对技术过度依赖;司法机关在智慧司法建设中困于自身技术力量,对技术公司按需求设计开发、日常维护运行、系统升级改造形成技术依赖循环。这种依赖关系也带来权力专属原则存疑、质量技术标准缺失、责任链条分配存在困境等挑战。应及时勘定技术嵌入司法活动的边界：采取信息准入与流出的控制机制,限制技术在司法裁判相关信息的收集与公开中的运用;合理分配人类与机器的决策分工,保证人机混合司法决策中人类的实质性参与;谨慎应对公权力与技术权力的共建,建立合理的责任分配与追责机制。     

算法社会的技术内涵、演化过程与治理创新

新一代人工智能技术创新背景下,算法作为人类生产生活新规则的重要性日益凸显,并推动社会形态演化进入算法社会的新阶段。算法社会不仅意味着算法作为追求效率的技术工具的普及应用,更重要的还在于其体现出的主体特征并嵌入人类生产关系以及与其他要素产生的相互影响。可以从技术内涵、演化过程和治理创新三个方面揭示算法社会的运行逻辑。公理化和计算化数学思想分野下,“算法”已经不能被视为中立性的技术产品,而应被理解为纳入环境、系统因素考量的“技术-社会”体系,其本身具有的多重可能性将在与其他社会因素互动进程中不断演化并产生政治影响。生命政治概念下的安全机制和规训机制解释了算法产生政治影响的原因,以及代码作为“治理术”的具体作用,而可计算性争论构成了讨论算法规范性力量限度与范围的起点。在此基础上,提出应以整体性、系统性、关联性视角探索治理创新路径,以便在释放算法变革潜力的同时控制应用风险。     

算法决策权的异化及其矫正

算法决策权的异化使得决策的初衷为技术权力所干扰,决策权强力扩张、权力制衡机制失灵、个人自由与权利受到侵蚀.对此,应将算法决策权与个人权利的新型动态平衡作为矫正权力异化的规制目标,一方面尽快采取即时矫正措施:从决策权让渡规则、决策能力相当性评测和正当程序原则三个层面搭建束状权力结构,分别对决策的范围、主体和程序做出限制;...     

智媒体的发展路径与探索突破

人工智能技术促使传媒业提高了内容生产率、用户到达率,增强了传受互动,改善了阅读体验。但智媒体的快速发展存在挤占专业媒体的信息发布权、挑战社会共识的形成、引发"信息茧房"效应等隐忧。政府、传媒和公众需要共同协作,在人机协同、以人为本的前提下,将正确的价值观和舆论导向融入算法设计,促使智媒体在构建新型主流媒体平台,推进国家治理体系和治理能力现代化中发挥更大的作用。     

警用装备仓储自动化货架分配方法研究

为了提高管理人员的工作效率,满足现代警用装备仓储物资管理的需要,实现装备入库和出库的货架自动化分配管理,基于传感器技术,利用就近入库和出库的分配原则,提出一种警用装备仓储管理领域自动化的货架分配方法,及一种库存装备的整理算法。装备在入库时贴上传感器,且同一种类型的装备采用相同类型的传感器,并在仓库中设置一个监测装置,实时监测装备存储位置。通过监测数据分析库存中同类装备的分布指标,超过阈值则调用装备整理算法调整装备存储位置,从而达到提高装备出库效率的效果。经模拟,本方法能够显著提高装备出库效率。     

惯习与资本:算法消费者个人信息保护的困境与突破

近年来,互联网经营者实施算法价格歧视行为产生的算法消费者个人信息保护问题引起广泛关注。布迪厄场域理论的引入,可以对算法价格歧视涉及的多方主体加以研究。探究算法价格歧视场域内算法消费者个人信息保护存在困境的深层原因,即会了解惯习与资本配置产生异化,以及算法消费者难以与算法经营者进行博弈现象。实现算法消费者个人信息保护困境的突破,需要对算法价格歧视场域内的惯习与资本配置进行优化:在惯习层面,重塑消费者个人信息保护理念,同时加强消费者教育;在资本层面,引入场景与风险管理新理念对告知-同意规则进行补正,构建经营者信息信义义务并对相应的诉讼救济制度予以完善。     

浅谈数据挖掘技术在公安领域中的应用

当前,我国各类公安信息化系统在警务数据处理与查询方面发挥了重要作用,但信息的深层次挖掘很不充分,分析功能相当欠缺。通过决策树在犯罪风险模型和关联规则在公安出入境数据的挖掘,发现、提取出有价值的知识和规则,为辅助决策和参考提供科学依据。