公共领域算法决策的几个问题探讨

在技术驱动和公共管理职能转变的需求下,公共领域算法决策得到广泛应用,其在管理职能和方式中的独特性是规则调整的前提。算法决策同公共权力的结合,使得技术发展无法中立,且在机会平等表象下可能造成对权力秩序的冲击和对个体权利的侵害。传统的法学调整方法面临分散的个体发展同民主秩序稳定、风险预测与因果关系、权力赋予与权利保障等矛盾的协调问题。公共领域算法决策的法律规制必须在算法系统、价值选择、制度构建和评估标准层面进行引导。     

竞速统治与后民主政治——人工智能时代的政治哲学反思

"人工智能"已成为定义这个时代的关键词之一,它已经深层次地"介入"当下世界,在教育、健康、金融、零售、交通、制造、服务等各个社会领域做出了强有力的赋能。人们正在把越来越多的决策权交给人工智能算法,而这又导致其决策更容易被算法处理。人工智能算法的全面赋能,恰恰意味着人类这种"生物化学算法"的全面赋闲。人工智能技术的指数级发展,使人类以同样快的速度陷入"不被需要"的政治困境,其价值正在被数据所取代。与之相应地,民主则正在被算法权力实质性地掏空。民众时代正在迈向黄昏,我们在政治哲学层面上不得不面对思考"后民主政治"的任务。     

算法和应用的深度整合加速智能视频分析的应用

<正>传统视频监控系统,无论是模拟系统、模拟数字混合系统还是数字系统,其数据流遵循的是采集、传输、显示、存储的流程。显然中间只有信息的获取,并没有对获取的信息进行理解。传统的视频监控系统是依靠值班人员盯住视频画面,发现异常并处理的。这对值班人员是个挑     

论电商平台用户画像行为立法之应有规制

电子商务经营者的用户画像行为存在着信息收集范围过宽、大数据“杀熟”侵害消费者权益以及个人隐私保护不力等问题,导致消费者与电子商务经营者之间产生信任危机。由于“算法黑箱”与信息不对称并行存在,现有立法规范存在供给不足,“告知—同意”模式难以适应实践对信息的大量需求,政府监管效率尚未达到预期。因此,以“选择—退出”作为经营者个人信息采集方式,通过信用承诺、信用评价等信用工具规制用户画像的生成与应用过程,能够减少政府监管成本、提高监管效率,有效消除信息不对称等问题。     

推进网络意识形态安全治理现代化

互联网已经成为意识形态斗争的主阵地、主战场和最前沿。网络意识形态安全治理对于营造风清气正网络空间、国家治理现代化以及巩固党长期执政地位具有重要意义。当前治理面临的问题突出表现在碎片化传播方式弱化意识形态凝聚力、信息算法推荐技术削弱意识形态认同度的风险、西方媒介霸权威胁意识形态权威性等方面,为此需要从构建治理格局、完善治理制度、创新治理技术、增强治理能力等方面加强治理,不断推进网络意识形态安全治理的现代化。     

算法权力下的劳动控制——基于秀场主播劳动过程的研究

随着算法推荐机制普遍嵌入平台劳动过程,平台资本通过数字技术塑造着新的劳动秩序,直播平台也通过算法重新定义秀场主播的劳动过程以及分配劳动控制权的新机制。算法技术弱化了主播与公会间的雇佣关系,增强了主播在劳动过程中的自主性。高度嵌入的算法机制通过平行和纵向的数据收集,将秀场主播的劳动成果转化为可视化极高的数据,加强了对秀场主播各个劳动环节的算法规训。控制权的重新分配与高度内化的算法规训转移了劳资矛盾,并且必须通过平台来调节矛盾。然而在劳动过程中,秀场主播逐渐熟悉算法规律,不断找寻适合自身发展的自主性策略,尝试着在一定程度上摆脱算法的控制。     

智能医疗算法审查的融合型立法研究

算法不应成为法外之域,算法审查亦不应采取机械化、概括式或单向度规制的路径,而应立足“领域法”的特殊性,通过嵌入式的智能医疗算法审查融合立法,精准识别智能医疗算法系统的潜在安全隐患,通过传统风险与新兴风险立法的融合,防控智能医疗算法决策引发的叠加型医源型与药源型安全风险。通过管理型立法与促进型立法的融合,处理智能医疗算法分发对健康公平产生的双向影响效应;通过技术治理与组织治理领域立法融合,有效应对医疗健康及生物识别信息安全隐患;通过控制者义务与外部算法审查相结合,增设智能医疗算法决策风险最小化的命令性规范、智能医疗算法应用的动态分级授权制度、预警及诊疗算法模块信息爬取的限制性规范,为人民生命健康提供有力法治保障。     

人工智能时代算法性别歧视的类型界分与公平治理

在人工智能时代,算法、大数据已经渗透到日常生活的方方面面,智能化正在急速改变我们的工作和生活方式。尽管算法使生活便捷高效,但算法作为一种新型社会权力,给女性的数字化生存带来广泛而系统的性别歧视风险。算法决策下的性别歧视包括镜像同构、耦合互动、关联交叉三种类型,相较于传统歧视行为具有高度隐蔽性、系统性和反复性特征,造成了放大性别歧视和结构性锁定女性不利地位的后果。算法性别歧视风险存在于算法全生命周期的各个环节。技术性偏见和社会性偏见的耦合交织,反歧视规范体系的应对失效以及软法体系缺位形成的“治理真空”使得歧视风险向实害结果转化。治理算法性别歧视,应以算法公平理念为指引、以算法生命周期为节点有效开展歧视风险管理,结构性扩容反歧视规范体系并培育公平向善的算法运行生态。     

算法公平与诉权保障——性别平等保护视角下智慧司法的规制路径

在算法决策中,尽管数据模型经大量数据训练后的处理效率和准确性都高于人类决策,但在智慧司法背景下,刑事诉讼中算法预测模型存在相关性偏差、差异效度和多维歧视等性别歧视性风险。现行法规缺少应对性别歧视的综合性法律制度、算法工具在模型形成的各个阶段没有公平概念及相关标准的统一约束以及算法黑箱、诉讼信息和自由裁量等方面的司法不透明等,均是算法形成性别歧视性风险的原因。在性别平等保护视角下规制智慧司法的发展,应在规范维度将平权伦理纳入针对智慧司法的特定规则之中,规范算法系统中的公平性概念;在算法维度设置平权算法模型、构建算法解释,并在诉讼维度明确知情权利束、倒置举证责任,以促进对被追诉人的权利保障。     

数据自由和算法保护

应否设立数据财产权是影响“数据流通和资源化”的关键问题。数据财产权论的支持者以洛克劳动财产论或市场激励原则为基础,主张现有制度对数据保护的不足将导致数据收集者动机受损和市场失灵,但以数据服务为核心的数据流通市场并未失灵。数据收集和处理者可以通过技术、持续更新数据等手段对数据事实上排他,并在限制性合同与反不正当竞争法的保护下开展交易,收回投资成本。况且在制度设计层面,劳动财产论也无法准确界定数据财产权的主体、客体、权利内容和保护期限。若以算法和数据的关系作为数据配置规则的切入点,数据自由和算法保护可以实现经营者利益和公共利益的平衡。数据自由可以保障经营者具有开发算法的公平竞争机会;算法保护则又保障经营者从收集的数据中获得持续性竞争优势。二者的结合还能防范算法决策风险,成为算法治理的新方向。