生成式人工智能的双重法律规制理路

ChatGPT等强人工智能时代,技术和风险的复杂性和不可预测性攀升均加剧了法律的不确定性。全球生成式人工智能监管态势下,在激励创新中统筹规范发展应成为我国现阶段的规制目标,对其规制应注意包容性与灵活性的制度安排。特别在当前生成式人工智能面临前所未有的技术规制挑战、监管挑战和问责挑战冲击,规制生成式人工智能应避免过度倚赖传统以政府为中心的规制方式,而应采取“有效市场”与“有为政府”协同发力、过程合规激励和结果威慑效应齐彰,且深度融合法律逻辑、技术逻辑与产业逻辑的双重法律规制理路。该规制理路以敏捷治理理论及元规制理论为理据,以聚焦于市场主体本质与能动性的过程性规制为主导,结果性规制为补充,对生成式人工智能的模型、数据和生成内容等从技术过程到行为结果形成各有侧重且协调配合的系统规制进路。同时还需相应的配套法律制度保障,尤其是有必要从风险化解和权益保障入手进行责任松绑和规制补强,引入安全港规则及发展保障基金制度,实现立法上的先进性和运用上的有效性。     

人工智能敏捷治理实践：分类监管思路与政策工具箱构建

纷繁复杂的人工智能应用风险在带来监管挑战的同时,也让追求敏捷成为当前人工智能治理的共识性理念。但如何在具体路径、机制、工具上实现真正的敏捷监管尚缺乏系统的学理分析与实践指引。遵循科层体系运作逻辑的监管部门在克服制度张力和应对不确定性方面存在天然不足,实践改革因此普遍将“分类”视为一种适应复杂性与提升敏捷性的潜在思路。通过对人工智能多领域业态发展模式与技术创新规律的比较分析,以及综合人工智能各领域现有国际治理经验,本文构建了人工智能治理风险的关键分类维度及与之相适应的全谱系政策工具箱。研究试图为监管实践者提供一个合意的分类思路与政策工具组合指引,使监管实践可从产业特征标定分类治理对象,并在对应的政策工具箱中寻找政策组合。     

由“急用先行”走向“逐步完善”：生成式人工智能治理体系的构建

当前,生成式人工智能的治理沿用了人工智能1.0时代的分领域差异化监管模式,陷入碎片化、条块化、部门化的困境,无法应对层出不穷的AI技术和应用场景,相关治理规则缺乏稳定性和连续性。通过探究生成式人工智能的技术机理,明确该技术在释放技术红利的同时极易造成虚假信息泛滥、网络安全失控、生成内容侵权等风险。对此,生成式人工智能的治理应进行系统性改革,遵循“急用先行、逐步完善”两步走的思路。一是规范事项急用先行,根据产业链上主体的生态位区别设置风险防范义务与法律责任,并容许各方在满足最低限度的合规要求后,自主约定责任分配,及时回应技术发展应用过程中的突出问题;二是引入“技术之治”,并在规制时机、问责主体、归责标准等诸多争论趋于共识后逐步完善“制度之治”,更好地驾驭生成式人工智能的变革性收益与复杂性风险。     

生成式人工智能的社会伦理风险及其治理——基于行动者网络理论的探讨

基于行动者网络理论视角,生成式人工智能的社会伦理风险可以认为是在技术应用过程中由人类行动者和非人类行动者开展行动者转译和网络建构所造成的。从行动者转译与网络建构来看,生成式人工智能可能带来的主要社会伦理风险包括:智能互联下的行动者之“恶”传播风险加剧、行动者社会分工体系的结构性危机加剧、行动者转译的技术异化问题更为严峻、“行动者网络”下的数字安全风险增大、行动者“五际”关系维度的数字平权问题凸显。基于此,从合理界定行动者主体的权责关系、加强行动者转译的全过程算法治理、构建人机“共善”的行动者治理共同体等方面推进生成式人工智能的社会伦理风险治理,确保科技向善健康发展。     

生成式人工智能的反垄断规制

ChatGPT类生成式人工智能基础模型的公共属性预示着其将成为人工智能时代的新型数字基础设施,引发模型共谋、数据剥削、歧视性模型许可和模型独家许可型集中等多重垄断风险,同时在“资本-技术”和“算法-数据”双循环中形成结构性壁垒和生态型垄断。现行反垄断法律规则在主体、行为及规制能力等方面无法有效应对生成式人工智能所带来的垄断风险。鉴于此,有必要从立法和执法两个层面建立软法优先硬法和包容优先刚性的基本准则,同时在具体规则层面完善相关市场及市场支配地位认定,增加模型问责的反垄断程序性执法权,细化数据剥削和模型优待的行为类型,以及增加模型独家许可的并购反垄断申报。     

公共管理敏捷革命：中国城市治理数字化转型的交叉案例研究

公共管理敏捷革命并非效率革命,而是治理数字化转型阶段政府治理能级升维。敏捷治理以在敏捷性中捍卫可治理性为使命。依据可治理性寻求之进路（制度或技术）与机理（确定性或灵活性）,可将敏捷治理实践划分为“制度创新-确定性寻求型”“制度创新-灵活性寻求型”“技术赋能-确定性寻求型”以及“技术赋能-灵活性寻求型”等四种类型。基于交叉案例研究发现,作为系统工程,公共管理敏捷革命是全要素、全周期、全方位敏捷的产物,强调以贯通政府敏捷与社会敏捷为方法。理想形态的城市敏捷治理体系构建需以平台化运作为基础,有机黏合并支撑起“想要敏捷”“能够敏捷”以及“必须敏捷”等完备要素体系,并以控制论为指导,将有效的反馈控制循环植入其中,确保城市治理体系以灵活迭代的方式保持持续敏捷。     

生成式人工智能安全风险与综合治理研究——以ChatGPT为例

生成式人工智能作为人工智能技术的新主流形态,具有决策式人工智能所不具备的人格化表象突出、数据挖掘能力提升、算法黑箱凸显、数据垄断深化等鲜明特征。随着生成式人工智能的不断迭代,虚假误导与无意义信息致人损害、模型训练与知识重组忽视知识产权、恶意滥用与算法黑箱削弱监管体系等安全风险不断凸显。在治理路径上,需要由直接规制风险逐步转向“科技—社会—法律”三元综合治理,从建设内容模型训练管理体系、厘清程序运行的知识产权边界、强化算法黑箱与恶意滥用综合治理能力、深化“科技—社会—法律”三元综合治理模式等方面着力,在规制风险的同时促进生成式人工智能安全发展。     

生成式人工智能辅助行政决策的算法隐患及其治理路径

生成式人工智能(Generative AI)作为最新一代的人工智能技术,一经问世便引发各行各业的关注和担忧。就行政决策而言,生成式人工智能能够帮助行政主体实施社会数据采集分析、行为预测、方案演绎,进而辅助行政决策的信息采集、关键问题识别以及决策方案的最优化实现。但是,在生成式人工智能参与行政决策的三个阶段也存在不同程度的隐患：训练数据库的片面性可能会导致信息的不公正、对技术的过度依赖可能会导致安全风险、算法黑箱可能会引发公众对行政决策透明性的质疑。若要最大限度发挥生成式人工智能辅助行政决策的积极作用,应当强化算法歧视治理、明确技术的辅助性地位、增强算法的参与性,以此规范生成式人工智能在行政决策中的作用,促进生成式人工智能与行政决策的深度融合。     

新一代人工智能技术社会化应用的脆弱性风险及其韧性治理研究——以ChatGPT为例

以ChatGPT为代表的生成式人工智能技术应用的出现引发众多领域的革命性影响。生成式人工智能技术在社会化应用中也彰显出从用户体验“使用”到行业领域“适用”再到算法技术“实用”的三维演进式“韧性”社会价值。而针对其中伴生的群体能力退化、道德伦理异化、行业圈层泛化、信息资源极化等“脆弱性”风险,需要以“韧性治理”范式进行系统化规制。结合TOE分析框架,在韧性技术层面,需要以“技术”治理“技术”,通过发挥类ChatGPT正向效能,促进技术的自适改进与融合赋能;在韧性组织层面,需要以“组织”协作引领“组织”决策,通过强化多方协同赋能,推进组织化的优势互补及科学施策;在韧性环境层面,需要以“环境”营建应对“环境”挑战,通过建立健全保障机制,实现发展环境的全面优化和长期平衡。“韧性-脆弱性-韧性治理”可作为类ChatGPT社会化应用的学理解构与系统架构,有助于人工智能技术更具“韧性”地持续迭代升级,赋能人类社会的高质量发展。     

基于公共责任的人工智能监管：美国的关键做法及启示

随着人类社会智能化程度不断提升,人工智能的普及、更新与迭代在极大提高其运行效率的同时,也带来了新的监管困境与治理风险——如何保证人工智能系统的应用是可追溯的、负责任的、公平的,目前我国学术界对这一问题的探讨仍显不足。以公共责任为导向的美国《人工智能监管框架》,在推动各主体在治理中更负责任地使用人工智能系统,确保人工智能治理符合公共责任目标等方面发挥了积极作用。本文通过剖析《框架》的基本理念与关键做法,从构建治理框架,统一基本监管过程和治理结构;完善数字人才队伍,提升实体职业素养和创新能力;编写说明文档,增强系统的解释性和可预测性;推进分级治理,明晰包容治理和审慎监管边界四个方面,论述实现负责任的人工智能治理的中国方案。     

迈向虚实融合时代的元宇宙治理：内涵、向度、风险与进路

元宇宙打造的虚实相融新世界描绘了人类数字化的未来趋势。元宇宙治理是这一新生世界的重要产物,意指政府利用元宇宙内嵌的技术要素,通过与企业、公众以及其他人造物的协作,共同维护虚实空间的公共秩序,实现人类永续发展的一种新型治理形态。元宇宙治理在变革政府所处的治理情境、政府组织形态以及治理绩效的同时,也潜藏了巨大风险,包括来自虚拟世界的原生性和脱轨性风险,虚实互动中的外延性和工具性风险,以及对现实世界的挤压性和替代性风险。我国应建立以人为本、鼓励创新与包容审慎为主的理念路径,以夯实算力、优化算法与丰富场景为主的技术路径,以顶层设计、体制机制与标准体系为主的制度路径,以及以多元协同、公众参与元宇宙共享为主的社会路径,全方位保障元宇宙治理的健康有序发展。     

类ChatGPT人工智能技术嵌入数字政府治理：价值、风险及其防控

瞬间爆火的ChatGPT受到社会各界高度关注,具有嵌入数字政府治理的诸多可能。类ChatGPT人工智能技术嵌入数字政府治理体现出极高的价值,能够有效控制数字政府规模、助力数字政府治理决策、提升数字政府治理效率、降低数字政府治理成本、推动数字政府治理精细化、强化数字政府监管,这充分证明类ChatGPT有必要嵌入数字政府治理领域。但是类ChatGPT同样给数字政府治理带来诸多风险,会加剧数字政府治理的技术风险、引发数字政府治理的安全风险、冲击数字政府治理的行政伦理、带来数字政府治理的新问题、扩大数字政府治理的人才瓶颈。建议坚持包容审慎原则来看待类ChatGPT,并应从管理机制、安全保障体系、自有技术与人才资源等方面入手,采用一系列举措来防范类ChatGPT嵌入数字政府治理的诸多风险,以更好地发挥类ChatGPT对数字政府治理的赋能效用。     

数字经济监管体制创新的导向与路径

数字经济发展要求对传统监管体制进行重构,通过监管体制创新来促进数字经济高质量发展。数字经济监管体制创新的基本导向为:始终坚持审慎包容的基本原则,将促进开放共享和鼓励创新作为政策基点、维护市场竞争作为政策重心、确保监管体制与政策动态有效作为政策理念。中国数字经济监管体制创新的基本路径为:建立相对完善的监管法律体系,构建"平台+政府"双中心协同监管的治理主体结构,形成与数字经济相适应的监管机构体制,实现审慎包容监管原则制度化,创新监管实施体制和政策手段。     

技术治理视角下公共安全治理现代化的逻辑、风险与防范

随着大数据、人工智能等信息技术在维护公共安全中的广泛应用，技术治理成为公共安全治理现代化的显著趋势。技术治理促进公共安全治理开放化、规范化和法治化，是提升公共安全治理水平、建设更高水平的平安中国的关键。技术治理是新时代满足人民群众安全需要的必然选择，是充分利用信息科技手段实现精细化治理的客观要求，是响应基层社会由总体支配到技术治理的重要工具。然而技术治理在创新公共治理方式、增进社会安全稳定的同时，也存在技术发展滞后安全需求、“技术利维坦”、治理共同体缺失、技术革新代替体制变革等风险。因此，建议采取加强技术创新，完善技术监管，健全公共安全治理共同体，加强制度建设等风险防范策略，规范公共安全治理行为，化解技术治理风险，建构契合公共安全治理现代化要求的技术治理新模式。     

生成式人工智能的教育应用

智能化时代，加速加深智能技术与教育的融合是保障教育高质量发展的必由之路。生成式人工智能（GAI）作为一种突破性技术工具，正逐渐在教育领域崭露头角。GAI具有赋能教育质量、教育效率和教育公平三大方面的显著优势，然而也在知识生产、学习陪伴、育人职能、教育治理等方面存在潜在风险。基于其核心价值和潜在风险，需要提升理念认识、构建弹性体系、完善制度保障，同时丰富育人内涵、加速方法创新、优化治理效能，以确保生成式人工智能可以最大限度发挥其教育作用，激发教育创新，促进教育高质量发展。     

前瞻性治理:风险社会背景下我国政府治理范式的有效选择

随着全球化的不断深入和转型期社会公共事务和风险治理难度的不断增加,传统的回应式政府治理范式已难以有效适应当前的时代需要,探索和构建具有前瞻能力的政府治理范式势在必行。因此笔者提出"前瞻性治理"的概念,具备现代政府运行特质。面对风险社会治理的挑战,前瞻性治理要以民众需求和实现公共利益为价值导向、以培育政府行政人员前瞻能力为抓手、以转变政府职能为关键、以现代信息技术平台为支撑、以风险治理常态化为重要举措、以跨域联动机制为手段、以健全法律制度为保障等路径构建得以实现。因此,前瞻性治理是风险社会背景下我国政府治理范式的有效选择。     

个人信息保护的整体性治理：立法、行政与司法的协同

数字时代个人信息国家保护义务的实现需要立法、行政和司法以宪法上的个人信息权作为其行为指南和价值基础,并且这几个方面须努力配合。采用整体性治理理论框架,能够很好地契合个人信息国家保护义务的整合作用,并且能够有效因应当前个人信息保护的理念、机制、手段的碎片化治理问题,有利于增强个人信息保护治理机制的系统性与稳定性。为了推进个人信息保护整体性治理,充分实现个人信息国家保护义务,我国需要树立风险控制与激励驱动的保护理念,搭建正式的和非正式的沟通协调网络,制定多元化的法律规范体系,促进行政监管与第三方监管的协同,健全个人信息保护中的司法救济措施。     

新时代如何走好智慧治理之路

智慧治理紧随云计算、大数据、人工智能与互联网技术发展而形成,是国家治理现代化模式变革的必然选择与国家治理现代化水平提升的源头驱动。智慧治理助力国家治理现代化再上新台阶,仍需确立新理念、新思维,探索基层治理体制,构建相应立法规制,建立技术伦理规范与风险控制机制。     

人工智能引发的治理挑战及其应对

人工智能在助推社会生产力发展和经济增长方面具有重大优势,但其对人类社会也具有深层次和颠覆性的挑战。当前,人工智能面临技术扩散难以管控、人工智能风险源的不可预知性以及人工智能治理的责任主体的边界不清晰等根源问题。虽然当前世界各国都不同程度地提出了对人工智能发展的引导规范,但人工智能治理体系尚未达成普遍共识和一致性框架,因此仍然需要进一步强化和提升对于人工智能治理体系在理论与实践两方面的探索。一方面要梳理人工智能治理的可行路径,同时也需要加强在实践层面的应对措施。     

从ChatGPT到GovGPT：生成式人工智能驱动的政务服务生态系统构建

随着人工智能技术的创新迭代,生成式人工智能（AIGC）正在成为塑造政务服务智能体的新型引擎,构思并衍生出行政领域的人工智能通用大模型——GovGPT。生成式人工智能驱动的政务服务主要体现在：空间场景的虚拟,政务情境的自动化与虚实共生;虚拟公务员的兴起,政务管理的无人化与政府“智”转;组织和资源要素的集成,政务运作的整合化与无缝隙政府;政务服务的技术主义范式,服务供给的智能化与需求革命。生成式人工智能技术虽然塑造了政务服务智能体的通用模型,作为推动数字政府“智能化”建设的先导和理念,其仍有赖健全的行政生态维系,唯有如此才能有效融入新一轮政府数字化转型中。从ChatGPT到GovGPT,需要树立数智化政务服务生态的理念,构建智能政务服务生态的行动共同体,促进政务运作的虚实共生与智能联动,打造全方位智能政务服务生态的安全保障体系。