生成式人工智能的安全风险与法律规制

由专用向通用迈进是生成式人工智能的发展现状,由赋能向赋智转变对应了生成式人工智能的应用场景。然而,生成式人工智能带来变革的同时,也存在安全风险,包括人机关系暗藏的伦理风险、人机交互面临的侵权风险、生成内容潜在的失控风险。防范化解风险的法律规制路径,应将辅助原则确立为规范人工智能研发和应用的基本原则、运用比例原则平衡人机交互的价值冲突、健全生成式人工智能的标准化安全评估体系。     

生成式人工智能的反垄断规制

ChatGPT类生成式人工智能基础模型的公共属性预示着其将成为人工智能时代的新型数字基础设施,引发模型共谋、数据剥削、歧视性模型许可和模型独家许可型集中等多重垄断风险,同时在“资本-技术”和“算法-数据”双循环中形成结构性壁垒和生态型垄断。现行反垄断法律规则在主体、行为及规制能力等方面无法有效应对生成式人工智能所带来的垄断风险。鉴于此,有必要从立法和执法两个层面建立软法优先硬法和包容优先刚性的基本准则,同时在具体规则层面完善相关市场及市场支配地位认定,增加模型问责的反垄断程序性执法权,细化数据剥削和模型优待的行为类型,以及增加模型独家许可的并购反垄断申报。     

从传统治理到敏捷治理：生成式人工智能的治理范式革新

ChatGPT类生成式人工智能改变了人工智能治理的底层逻辑,人工智能技术应用由个性化向普适化方向发展,风险的不确定性从外部延伸至内部,未来人工智能技术的迭代周期将越来越短,这使得传统治理范式适用于生成式人工智能治理时存在诸多局限。基于对象场景的分散治理难以统筹生成式人工智能治理全局,基于风险预防的事前治理难以精准预测风险并提前预防,基于法律规范的硬性治理难以提升治理实效。作为一种快速适应环境变化的动态治理范式,敏捷治理契合生成式人工智能治理需求,与我国一直推行的包容审慎监管具有理念上的一致性。基于敏捷治理的全面性、适应性与灵活性,我国生成式人工智能治理应秉持包容审慎的监管理念,依据模型产业架构,形成“基础模型-专业模型-服务应用”的全面性治理格局;划分已知与未知风险,构建事前预防与事后应对相结合的适应性治理机制;综合运用技术、法律等灵活性治理工具,实现生成式人工智能治理范式革新,促进科技向上向善发展。     

生成式人工智能的变革影响及其风险规制

ChatGPT的横空出世激起了新一轮人工智能发展的热潮,其实质是生成式人工智能技术的巨大突破。从技术层面来看,以目前生成式人工智能的发展态势可以预见,越来越强大的生成式人工智能必将拓展越来越广泛的应用场景,变革现有的人机关系,并对其社会化应用产生深远影响。在数字化技能日臻成熟并日益渗透人类生活的趋势下,如何理解生成式人工智能将带来的重塑性变革成为目前研究的重要课题。     

新一代人工智能技术社会化应用的脆弱性风险及其韧性治理研究——以ChatGPT为例

以ChatGPT为代表的生成式人工智能技术应用的出现引发众多领域的革命性影响。生成式人工智能技术在社会化应用中也彰显出从用户体验“使用”到行业领域“适用”再到算法技术“实用”的三维演进式“韧性”社会价值。而针对其中伴生的群体能力退化、道德伦理异化、行业圈层泛化、信息资源极化等“脆弱性”风险,需要以“韧性治理”范式进行系统化规制。结合TOE分析框架,在韧性技术层面,需要以“技术”治理“技术”,通过发挥类ChatGPT正向效能,促进技术的自适改进与融合赋能;在韧性组织层面,需要以“组织”协作引领“组织”决策,通过强化多方协同赋能,推进组织化的优势互补及科学施策;在韧性环境层面,需要以“环境”营建应对“环境”挑战,通过建立健全保障机制,实现发展环境的全面优化和长期平衡。“韧性-脆弱性-韧性治理”可作为类ChatGPT社会化应用的学理解构与系统架构,有助于人工智能技术更具“韧性”地持续迭代升级,赋能人类社会的高质量发展。     

互联网平台数据垄断的规制困境与治理机制

随着以互联网平台为代表的数据型经营者向深度演进,互联网平台逐步显现出既具有促进市场经济创新发展的正外部性,也可能具有阻碍市场经济公平发展的负外部性,最典型的负外部性莫过于垄断。当前,互联网平台衍生了以算法合谋为主要形式的垄断协议、利用数据资源滥用市场支配地位、数据驱动型经营者集中等新型数据垄断形式,给我国反垄断规制带来了诸多困扰。尽管我国对反垄断做了较多努力并修订了《反垄断法》,但是互联网平台数据垄断的治理机制仍有待完善,要探索多维的反垄断治理机制:在治理原则上,应当坚持市场化与法治化原则;在治理路径上,需要从政府规制向多元治理(企业自治、政府规制与社会监督)转变,完善互联网平台数据垄断的治理路径。     

由“急用先行”走向“逐步完善”：生成式人工智能治理体系的构建

当前,生成式人工智能的治理沿用了人工智能1.0时代的分领域差异化监管模式,陷入碎片化、条块化、部门化的困境,无法应对层出不穷的AI技术和应用场景,相关治理规则缺乏稳定性和连续性。通过探究生成式人工智能的技术机理,明确该技术在释放技术红利的同时极易造成虚假信息泛滥、网络安全失控、生成内容侵权等风险。对此,生成式人工智能的治理应进行系统性改革,遵循“急用先行、逐步完善”两步走的思路。一是规范事项急用先行,根据产业链上主体的生态位区别设置风险防范义务与法律责任,并容许各方在满足最低限度的合规要求后,自主约定责任分配,及时回应技术发展应用过程中的突出问题;二是引入“技术之治”,并在规制时机、问责主体、归责标准等诸多争论趋于共识后逐步完善“制度之治”,更好地驾驭生成式人工智能的变革性收益与复杂性风险。     

生成式人工智能的社会伦理风险及其治理——基于行动者网络理论的探讨

基于行动者网络理论视角,生成式人工智能的社会伦理风险可以认为是在技术应用过程中由人类行动者和非人类行动者开展行动者转译和网络建构所造成的。从行动者转译与网络建构来看,生成式人工智能可能带来的主要社会伦理风险包括:智能互联下的行动者之“恶”传播风险加剧、行动者社会分工体系的结构性危机加剧、行动者转译的技术异化问题更为严峻、“行动者网络”下的数字安全风险增大、行动者“五际”关系维度的数字平权问题凸显。基于此,从合理界定行动者主体的权责关系、加强行动者转译的全过程算法治理、构建人机“共善”的行动者治理共同体等方面推进生成式人工智能的社会伦理风险治理,确保科技向善健康发展。     

论刑事证据的审查与运用

如何开展对刑事证据的审查与运用,使案件的处理最大限度地实现公平与正义,一直是学术界和实务界的热门话题。笔者在认真学习学术专家著作的基础上,结合多年从事刑事检察工作的实践,分别从刑事证据审查目的和任务、审查评判证据的规则、审查评判证据的要点和方法、运用证据的技巧与方法等四个方面来浅谈对刑事证据的审查与运用之观点。     

宽严相济刑事政策的理解与运用

宽严相济刑事政策是当前我国主要的刑事政策如何理解其准确含义,并在实践中灵活运用是当前亟待解决的问题.本文从审判实践出发,针对审判实践问题,提出运用该政策应坚持的原则及应注意和完善的问题.     

企业数据权益：赋权和行为规制保护的审视与进路

随着企业积累的大数据资产价值不断增长,为企业数据权益建立法律保护机制已成为企业法律实践中亟待解决的问题。就企业数据的保护模式而言,权利赋予和行为规制虽各有其弊,但二者之间的关系并非水火不容,而是具有潜在的互补性。应以增值处理作为企业数据初始阶段与增值阶段的判断标准,以独创性作为衍生数据的阻隔考量要素,在类型化的基础上,将“准财产权”作为非独创性衍生数据权益属性定性的选择方案,体现了此类新兴资产属性范围演化的渐进特点,而特殊数据的保护则需要结合知识产权与商业秘密的保护路径进行叠加操作。通过相对渐进的理论定位与不同权利保护路径的选择相结合,以实现权益保护的最优效果。     

网络刑事司法数据监管机制的内在机理与建构路径

刑事司法数字化带来数据安全保护问题。数据监管作为网络刑事司法数据保护中的重要一环,在其中发挥重要作用。现行《数据安全法》坚持以“保障数据安全”“维护个人、组织和国家的合法利益”为宗旨,并在第四章专章规定数据安全保护义务。就网络刑事司法领域的数据监管而言,现行制度规定略有不足。因此,有必要在检视现行司法信息化活动中数据应用及数据安全风险的基础之上,明确网络刑事司法数据监管的基本思路。在规避数据风险、保障数据应用得以有效进行的基础上,探索网络刑事司法中数据安全保护的监管机制。     

算法规制与权利生产:政府数据确权的反向路径

政府数据是政府行使行政管理职权的核心资源,其权属确认难题严重影响着政府履职效能。当前,学界对正向给予政府数据权利方式的研究尚未提出适应中国数据治理实践的较为清晰的路径方案。研究尝试从反向路径进行思考,通过界定政府数据采集与使用的禁止情形,而确定政府数据权利生存空间和涵摄范围。算法及其规制输出便是反向确权路径的核心要素,即应以算法本身为确权基础、以算法规制的价值判断结论为确权标准,明确政府享有数据权利的场域与谱系。具体而言,如果算法规制不合法或不符合公民利益,政府就不享有数据权利;只要合法并以公民利益为目的规制算法,在这个空间范围内政府对其数据就享有权利。     

新时代我国互联网金融治理——基于政府规制的反思与优化

我国经济自改革开放以来取得了巨大成就,传统金融制度和体系提供的金融供给显然已难以满足社会发展需求,我国的互联网金融便在这种环境下横空出世并以井喷态势发展,与此同时暴露出的很多问题也亟需妥善治理。而政府作为社会的天然代表以及市场的总代表理应当仁不让地承担起这份责任,对互联网金融展开规制,其具有充分的正当性与必要性。不过,我国目前的政府规制依然存在政府定位不清晰、央地权力划分不科学、问责机制不健全等尚待完善之处。所以,优化进路务必以认清经济国家下的法治政府内涵为基础,建立起央地双层金融规制体制,激励政府官员在概括授权与动态问责的约束下相机抉择、能动有为,以此实现新时代我国互联网金融的有效治理。     

刑事治理现代化视域下速裁程序的检视与完善

刑事治理现代化是国家治理体系和治理能力现代化的重要方面,其具有适度性、协同性、层次性等特征。速裁程序是简易程序的再简易,它的出现有着司法现实依据,是犯罪数量增加、犯罪结构变化与认罪认罚从宽制度碰撞交织的结果。速裁程序对于保障被追诉人权益、缓解办案机关“案多人少”的压力具有重要作用。但是,从刑事治理现代化视域出发检视速裁程序可以发现,审判程序简化难以发挥庭审功能、加快诉讼程序影响案件办理质量、制度之间配合不佳等问题依旧存在。为此,需要从案件办理的全流程系统视角进一步厘清审判程序的改革思路,并从建立“快慢分道”的速裁程序、重构速裁程序的配套制度等方面对其未来走向做出校正。     

大数据时代网络社交平台风险治理的国际政策比较与启示

随着社交网络的不断发展,网络社交平台在给用户带来便利的同时,其安全威胁也随之凸显。脸书泄密门等事件已显现出大数据时代网络社交平台风险的新向度,加强网络社交平台风险治理已经引起世界各国的普遍重视。在此背景下,本文通过研究世界主要国家网络社交平台治理的相关政策法规、机构设置及其治理实践,发现各国均注重网络社交平台的监管立法,并设立专门的机构负责网络社交平台监管,同时也引导网络社交平台自治、鼓励多主体共同监管。目前,我国网络社交平台的法律监管体系有待完善,多主体治理机制尚不成熟,存在较大的网络社交平台风险问题。可能的应对策略包括:进一步完善网络社交平台监管法律体系,推进技术手段的深入运用,加强政府引导,鼓励多主体参与,注重培养网络社交平台自治和用户自律意识等。     

面向公共价值创造的算法治理与算法规制

对算法“技术赋能”与“技术负外部性”的不同关注使学术研究产生了算法治理与算法规制的不同路径,却因此忽视了二者的有机联系。本文通过引入公共价值理论,构建算法治理与算法规制的整合性分析框架。其中,算法治理创造绩效价值,算法规制创造程序价值。在二者关系上,算法治理催生算法规制,算法规制规范算法治理,二者的整合有助于实现公共价值最大化,促进“善治”的实现。从公共价值视角厘清算法治理与算法规制的逻辑关系以后,政府可以积极利用算法治理创造绩效价值,构建“算法问责制”创造程序价值,以公共价值最大化为标准推进算法应用,并倡导多元社会主体参与公共价值创造。     

数据技术赋能城市基层治理的趋向、困境及其消解

以数据技术赋能驱动基层治理创新已成为共识性的趋势。它给城市基层治理结构和功能带来巨大变革,使其呈现出“技术治理”与“整体主义治理”的双重趋向。但调研也发现,数据技术赋能并未如预期般地获得基层政府和公众的充分认可与接纳,相反二者呈现明显的紧张关系,包括数据技术赋能的“刚性”与基层治理事项模糊性之间的矛盾、数据技术赋能的“全面感知”与治理对象隐私安全之间的矛盾、数据技术赋能的“理性设计”与基层社会包容发展之间的矛盾、数据治理的“整体性”与基层多元共治缺失之间的矛盾。要消弭上述矛盾和冲突,必须从价值、技术、制度和社会生态四个维度同时着力。     

“数据的流动”：数字技术驱动城市韧性治理的理路探析

在数字化城市构建中,“技术赋能”作为理解数字时代下城市公共安全建设的技术分析框架,日益难以解释在实践应用中所涌现的新现象和新问题。聚焦电子数据的流动,有助于理解数字技术嵌入城市韧性建设的过程。基于“流动空间”理论框架,城市韧性数字化建设中的数据流动可以划分为三个层面：数据支撑层、应用平台层和数字空间层。这些层面的交叠与循环展示了数据流动的复杂性。在韧性城市建设过程中,多维数据流动不仅增强城市系统对各种风险的快速响应能力,也促进跨部门之间的紧密协作,并且深化治理体系的参与程度。此外,数据流动通过数字技术为城市韧性建设注入了新的活力,包括敏捷的透视能力、高效的协同整合能力以及深层次的参与能力,为城市的可持续发展和应对未来挑战提供支持。