生成式人工智能安全风险与综合治理研究——以ChatGPT为例

生成式人工智能作为人工智能技术的新主流形态,具有决策式人工智能所不具备的人格化表象突出、数据挖掘能力提升、算法黑箱凸显、数据垄断深化等鲜明特征。随着生成式人工智能的不断迭代,虚假误导与无意义信息致人损害、模型训练与知识重组忽视知识产权、恶意滥用与算法黑箱削弱监管体系等安全风险不断凸显。在治理路径上,需要由直接规制风险逐步转向“科技—社会—法律”三元综合治理,从建设内容模型训练管理体系、厘清程序运行的知识产权边界、强化算法黑箱与恶意滥用综合治理能力、深化“科技—社会—法律”三元综合治理模式等方面着力,在规制风险的同时促进生成式人工智能安全发展。     

新一代人工智能技术与大国博弈新边疆

<正>作为新一代生成式人工智能技术的代表产物，ChatGPT通过连接大量的语料库来进行模型训练，并进行深度学习，其公开发布和应用推广在产生“技术奇点”的同时，也正在引发一场人工智能技术新革命。人工智能大模型技术（transformer）路线，包括其取得的生成式人工智能技术进步，展示出的通用人工智能（AGI）特征，使人们看到了强人工智能时代的开启，并引发了技术进步主义者与技术规范主义者之间的激烈争论，进而引发人类开发工具与工具脱离人类控制的悖论性命题。     

人工智能司法应用的间接审理主义风险及其破解

人工智能在审判阶段主要通过证据审查、类案推送和量刑辅助等功能发挥辅助作用。其采取大数据分析、要素式比对的运行方式对现有案件关注不足,自身的算法程序在实际运行过程不公开不透明,并在辅助决策过程中弱化了法官主体地位。这些现实因素使审判产生出间接审理主义,降低公民对司法权力主体的接受程度,并影响裁判的正确结果,进而引发程序和实体正义的风险。应当从算法、程序、体制3个方面完善相关制度,推进人工智能司法应用的算法公开与功能完善,保障辩方知情和有效参与,确保法官主导审判。     

生成式人工智能的变革影响及其风险规制

ChatGPT的横空出世激起了新一轮人工智能发展的热潮,其实质是生成式人工智能技术的巨大突破。从技术层面来看,以目前生成式人工智能的发展态势可以预见,越来越强大的生成式人工智能必将拓展越来越广泛的应用场景,变革现有的人机关系,并对其社会化应用产生深远影响。在数字化技能日臻成熟并日益渗透人类生活的趋势下,如何理解生成式人工智能将带来的重塑性变革成为目前研究的重要课题。     

生成式人工智能的安全风险与法律规制

由专用向通用迈进是生成式人工智能的发展现状，由赋能向赋智转变对应了生成式人工智能的应用场景。然而，生成式人工智能带来变革的同时，也存在安全风险，包括人机关系暗藏的伦理风险、人机交互面临的侵权风险、生成内容潜在的失控风险。防范化解风险的法律规制路径，应将辅助原则确立为规范人工智能研发和应用的基本原则、运用比例原则平衡人机交互的价值冲突、健全生成式人工智能的标准化安全评估体系。     

新一代人工智能技术社会化应用的脆弱性风险及其韧性治理研究——以ChatGPT为例

以ChatGPT为代表的生成式人工智能技术应用的出现引发众多领域的革命性影响。生成式人工智能技术在社会化应用中也彰显出从用户体验“使用”到行业领域“适用”再到算法技术“实用”的三维演进式“韧性”社会价值。而针对其中伴生的群体能力退化、道德伦理异化、行业圈层泛化、信息资源极化等“脆弱性”风险,需要以“韧性治理”范式进行系统化规制。结合TOE分析框架,在韧性技术层面,需要以“技术”治理“技术”,通过发挥类ChatGPT正向效能,促进技术的自适改进与融合赋能;在韧性组织层面,需要以“组织”协作引领“组织”决策,通过强化多方协同赋能,推进组织化的优势互补及科学施策;在韧性环境层面,需要以“环境”营建应对“环境”挑战,通过建立健全保障机制,实现发展环境的全面优化和长期平衡。“韧性-脆弱性-韧性治理”可作为类ChatGPT社会化应用的学理解构与系统架构,有助于人工智能技术更具“韧性”地持续迭代升级,赋能人类社会的高质量发展。     

从ChatGPT到GovGPT：生成式人工智能驱动的政务服务生态系统构建

随着人工智能技术的创新迭代,生成式人工智能（AIGC）正在成为塑造政务服务智能体的新型引擎,构思并衍生出行政领域的人工智能通用大模型——GovGPT。生成式人工智能驱动的政务服务主要体现在：空间场景的虚拟,政务情境的自动化与虚实共生;虚拟公务员的兴起,政务管理的无人化与政府“智”转;组织和资源要素的集成,政务运作的整合化与无缝隙政府;政务服务的技术主义范式,服务供给的智能化与需求革命。生成式人工智能技术虽然塑造了政务服务智能体的通用模型,作为推动数字政府“智能化”建设的先导和理念,其仍有赖健全的行政生态维系,唯有如此才能有效融入新一轮政府数字化转型中。从ChatGPT到GovGPT,需要树立数智化政务服务生态的理念,构建智能政务服务生态的行动共同体,促进政务运作的虚实共生与智能联动,打造全方位智能政务服务生态的安全保障体系。     

生成式人工智能的反垄断规制

ChatGPT类生成式人工智能基础模型的公共属性预示着其将成为人工智能时代的新型数字基础设施,引发模型共谋、数据剥削、歧视性模型许可和模型独家许可型集中等多重垄断风险,同时在“资本-技术”和“算法-数据”双循环中形成结构性壁垒和生态型垄断。现行反垄断法律规则在主体、行为及规制能力等方面无法有效应对生成式人工智能所带来的垄断风险。鉴于此,有必要从立法和执法两个层面建立软法优先硬法和包容优先刚性的基本准则,同时在具体规则层面完善相关市场及市场支配地位认定,增加模型问责的反垄断程序性执法权,细化数据剥削和模型优待的行为类型,以及增加模型独家许可的并购反垄断申报。     

从传统治理到敏捷治理：生成式人工智能的治理范式革新

ChatGPT类生成式人工智能改变了人工智能治理的底层逻辑,人工智能技术应用由个性化向普适化方向发展,风险的不确定性从外部延伸至内部,未来人工智能技术的迭代周期将越来越短,这使得传统治理范式适用于生成式人工智能治理时存在诸多局限。基于对象场景的分散治理难以统筹生成式人工智能治理全局,基于风险预防的事前治理难以精准预测风险并提前预防,基于法律规范的硬性治理难以提升治理实效。作为一种快速适应环境变化的动态治理范式,敏捷治理契合生成式人工智能治理需求,与我国一直推行的包容审慎监管具有理念上的一致性。基于敏捷治理的全面性、适应性与灵活性,我国生成式人工智能治理应秉持包容审慎的监管理念,依据模型产业架构,形成“基础模型-专业模型-服务应用”的全面性治理格局;划分已知与未知风险,构建事前预防与事后应对相结合的适应性治理机制;综合运用技术、法律等灵活性治理工具,实现生成式人工智能治理范式革新,促进科技向上向善发展。     

生成式人工智能的社会伦理风险及其治理——基于行动者网络理论的探讨

基于行动者网络理论视角,生成式人工智能的社会伦理风险可以认为是在技术应用过程中由人类行动者和非人类行动者开展行动者转译和网络建构所造成的。从行动者转译与网络建构来看,生成式人工智能可能带来的主要社会伦理风险包括:智能互联下的行动者之“恶”传播风险加剧、行动者社会分工体系的结构性危机加剧、行动者转译的技术异化问题更为严峻、“行动者网络”下的数字安全风险增大、行动者“五际”关系维度的数字平权问题凸显。基于此,从合理界定行动者主体的权责关系、加强行动者转译的全过程算法治理、构建人机“共善”的行动者治理共同体等方面推进生成式人工智能的社会伦理风险治理,确保科技向善健康发展。     

由“急用先行”走向“逐步完善”：生成式人工智能治理体系的构建

当前,生成式人工智能的治理沿用了人工智能1.0时代的分领域差异化监管模式,陷入碎片化、条块化、部门化的困境,无法应对层出不穷的AI技术和应用场景,相关治理规则缺乏稳定性和连续性。通过探究生成式人工智能的技术机理,明确该技术在释放技术红利的同时极易造成虚假信息泛滥、网络安全失控、生成内容侵权等风险。对此,生成式人工智能的治理应进行系统性改革,遵循“急用先行、逐步完善”两步走的思路。一是规范事项急用先行,根据产业链上主体的生态位区别设置风险防范义务与法律责任,并容许各方在满足最低限度的合规要求后,自主约定责任分配,及时回应技术发展应用过程中的突出问题;二是引入“技术之治”,并在规制时机、问责主体、归责标准等诸多争论趋于共识后逐步完善“制度之治”,更好地驾驭生成式人工智能的变革性收益与复杂性风险。     

智能政务ChatGPT化的前景与隐忧

作为全新的人工智能聊天机器人,ChatGPT将会推动全球科技创新竞争进入新的赛道,而这种技术的跨越必然带来越来越多的Chat GPT化应用场景。在政府治理领域,智能政务Chat GPT化会在强化科学行政、提升工作效率和降低行政成本方面发挥着应有的作用。由于以Chat GPT为代表的人工智能应用具备强大的语言理解和文本生成等功能,因而在智能决策、智能管理、智能服务和智能监管等政务服务场景中具有极大的发展前景。尽管我们对Chat GPT等人工智能技术在智能政务领域的广泛应用充满着期待,但仍然需要注意就业排斥、知识产权、算法歧视、技术依赖和责任界定等系列问题的产生。基于此,需要采取相应的优化措施推动智能政务的升级和改进,以创造更加健康、稳健和可持续的智能政务生态。     

算法自动化决策多元主体间的分配正义

大数据时代,以算法自动化决策为代表人工智能深度学习技术引发了“算法歧视”现象。主流的规制路径,像创设算法解释权、传统私法规制路径以及公权力监管路径都有其适用困境。自动化决策的规制涉及多元主体间的利益协调。因此,不应对其单一静态的规制,而应通过分配正义构建多元主体法律关系框架,利用社会主义制度优势,通过公私法协同共治、多元主体间配合等方式,实现算法自动化决策多元主体间的分配正义。     

生成式人工智能的双重法律规制理路

ChatGPT等强人工智能时代,技术和风险的复杂性和不可预测性攀升均加剧了法律的不确定性。全球生成式人工智能监管态势下,在激励创新中统筹规范发展应成为我国现阶段的规制目标,对其规制应注意包容性与灵活性的制度安排。特别在当前生成式人工智能面临前所未有的技术规制挑战、监管挑战和问责挑战冲击,规制生成式人工智能应避免过度倚赖传统以政府为中心的规制方式,而应采取“有效市场”与“有为政府”协同发力、过程合规激励和结果威慑效应齐彰,且深度融合法律逻辑、技术逻辑与产业逻辑的双重法律规制理路。该规制理路以敏捷治理理论及元规制理论为理据,以聚焦于市场主体本质与能动性的过程性规制为主导,结果性规制为补充,对生成式人工智能的模型、数据和生成内容等从技术过程到行为结果形成各有侧重且协调配合的系统规制进路。同时还需相应的配套法律制度保障,尤其是有必要从风险化解和权益保障入手进行责任松绑和规制补强,引入安全港规则及发展保障基金制度,实现立法上的先进性和运用上的有效性。     

生成式人工智能（AIGC）犯罪风险及应对研究

生成式人工智能技术的快速发展，使其应用场景日趋广泛，也带来了内容创作突破、产业升级等生产力的变革。然而，随着相关技术的开放式发展，在带来时代发展机遇的同时，与之伴随的风险也逐渐凸显。本文主要分析了，在生成式人工智能技术日益成熟、不断升级迭代的背景下，其现状与发展趋势以及其可能产生的法律、犯罪风险，并提出了相应的防范对策。     

公共法律服务智能应用新视野——以人工智能技术与审判辅助办案机制建构为中心

人工智能技术应用于审判辅助智能化办案体系机制建构,必须确立与审判工作具有关联性的大数据分析理论系统,将此系统与审判工作中的决策、监督、管理、流程、程序等基础理论相结合进行综合分析研判,技术应用同时还需要与审判人员和技术研发人员的教育培训相结合,人工智能辅助办案规则体系和培训教育模式。全面考察研究我国法院系统信息化建设实践基础,结合审判工作特殊规律及其培训教学实践,人工智能辅助审判办案机制建构以及人工智能技术在审判中推广应用需要拓展全新视野,力求从人工智能技术在公共法律服务的应用层面推进审判体系和审判能力现代化,促进人工智能技术与审判辅助办案机制的深度融合。     

人工智能时代公安机关参与社会治理的机遇、挑战与变革

人工智能技术在公安机关参与社会治理中的应用,可以缓解警力不足,优化执法行政流程,提升治理精细化和公安决策质量,促进警民关系和谐发展.但人工智能固有的技术缺陷会给公安机关带来治理风险和行政伦理等问题.因此,公安机关应优化公安组织体制和警务机制,加强人工智能技术管控和数据安全监控,创新警企合作机制,探索警察行政伦理和规范体系,以促进人工智能与公安机关参与社会治理深度融合.     

生成式人工智能的教育应用

智能化时代，加速加深智能技术与教育的融合是保障教育高质量发展的必由之路。生成式人工智能（GAI）作为一种突破性技术工具，正逐渐在教育领域崭露头角。GAI具有赋能教育质量、教育效率和教育公平三大方面的显著优势，然而也在知识生产、学习陪伴、育人职能、教育治理等方面存在潜在风险。基于其核心价值和潜在风险，需要提升理念认识、构建弹性体系、完善制度保障，同时丰富育人内涵、加速方法创新、优化治理效能，以确保生成式人工智能可以最大限度发挥其教育作用，激发教育创新，促进教育高质量发展。     

自主生成式亲密关系：青年与人工智能伴侣的互动体验

人工智能正在推动情感消费的转变,青年通过使用人工智能伴侣自主生成亲密关系,重塑了亲密关系的边界。本研究通过考察青年与人工智能伴侣的互动体验尝试理解自主生成式亲密关系的建构逻辑与现实影响。研究发现,青年使用人工智能伴侣的目的包括生成情感代餐、关系克隆和生成原生伴侣;在共享和独享两种情境中,青年通过训练智能体、调整预期和转换角色等策略主动控制与人工智能伴侣的亲密程度,最终形成了与智能体退出互动、间断互动和持续互动三种结果。文章最后讨论了自主生成式亲密关系实践与现实关系的互构过程,分析自主生成式亲密关系带来的影响与潜在风险。     

算法化行政：技术何以提升城市公共问题解决效率？

本文系统分析了上海J区“一网统管”模式如何对接市民“12345”民情诉求热线，如何处置网格员通过政务APP以及传感器设备发现的城市治理问题，旨在揭示技术提升城市公共问题解决效率的内在机制。研究发现：这一过程主要通过算法化观测、算法化决策、算法化控制、算法化考核等四个环节得以实现。算法平台拟合出城市公共问题解决的“最优”方案并对行政过程进行标准化控制，促使行政过程按照“最优”方案执行，以此实现城市公共问题的高效解决。在此过程中，算法全面嵌入公共行政系统，挑战了传统公共行政中人—人交互的关系样态，构建了人—机互动的新样态，全方位重塑了传统公共行政中的权力关系、组织关系和运行过程。然而，受限于技术基础设施和制度等因素，技术提升城市公共问题解决效率的作用并未充分发挥。未来行政改革应注重数字化转型的技术和制度配套，推动传统管理模式与数字治理模式的协同。