类ChatGPT人工智能技术嵌入数字政府治理：价值、风险及其防控

瞬间爆火的ChatGPT受到社会各界高度关注,具有嵌入数字政府治理的诸多可能。类ChatGPT人工智能技术嵌入数字政府治理体现出极高的价值,能够有效控制数字政府规模、助力数字政府治理决策、提升数字政府治理效率、降低数字政府治理成本、推动数字政府治理精细化、强化数字政府监管,这充分证明类ChatGPT有必要嵌入数字政府治理领域。但是类ChatGPT同样给数字政府治理带来诸多风险,会加剧数字政府治理的技术风险、引发数字政府治理的安全风险、冲击数字政府治理的行政伦理、带来数字政府治理的新问题、扩大数字政府治理的人才瓶颈。建议坚持包容审慎原则来看待类ChatGPT,并应从管理机制、安全保障体系、自有技术与人才资源等方面入手,采用一系列举措来防范类ChatGPT嵌入数字政府治理的诸多风险,以更好地发挥类ChatGPT对数字政府治理的赋能效用。     

人工智能内容生产：功能张力、发展趋势及监管策略——以ChatGPT为分析起点

人类一边担心人工智能的风险,一边快速推动智能革命的发生。人工智能内容生产是融合人类和“类人”智能的新生产模式。人工智能内容生产技术内含不可化约的功能张力。一方面,ChatGPT等智能生产平台兼具对话功能和内容生产功能,拥有提升数字生产力、增强决策能力,加速社会组织化、扩大社会动员能力等社会功能;另一方面,人工智能内容生产者可能导致多领域劳动者价格为零,还会带来对话风险、信用风险、政治风险和“存在”风险,这些是其“反社会”功能。人工智能内容生产是人类和“类人”的合作生产,随着新内容生产主体的涌现,人工智能文明的出现便有了新迹象。科学、有效监管人工智能内容生产是高难度、复杂性行动,政府、平台、用户和社会等多元主体要坚持包容审慎的监管原则,协同监管,从而最大限度地促进社会发展、社会公正、社会透明和社会责任落实。正确的人工智能功能观、发展观,决定了人工智能内容生产能走多远。     

新一代人工智能技术社会化应用的脆弱性风险及其韧性治理研究——以ChatGPT为例

以ChatGPT为代表的生成式人工智能技术应用的出现引发众多领域的革命性影响。生成式人工智能技术在社会化应用中也彰显出从用户体验“使用”到行业领域“适用”再到算法技术“实用”的三维演进式“韧性”社会价值。而针对其中伴生的群体能力退化、道德伦理异化、行业圈层泛化、信息资源极化等“脆弱性”风险,需要以“韧性治理”范式进行系统化规制。结合TOE分析框架,在韧性技术层面,需要以“技术”治理“技术”,通过发挥类ChatGPT正向效能,促进技术的自适改进与融合赋能;在韧性组织层面,需要以“组织”协作引领“组织”决策,通过强化多方协同赋能,推进组织化的优势互补及科学施策;在韧性环境层面,需要以“环境”营建应对“环境”挑战,通过建立健全保障机制,实现发展环境的全面优化和长期平衡。“韧性-脆弱性-韧性治理”可作为类ChatGPT社会化应用的学理解构与系统架构,有助于人工智能技术更具“韧性”地持续迭代升级,赋能人类社会的高质量发展。     

智能政务ChatGPT化的前景与隐忧

作为全新的人工智能聊天机器人,ChatGPT将会推动全球科技创新竞争进入新的赛道,而这种技术的跨越必然带来越来越多的Chat GPT化应用场景。在政府治理领域,智能政务Chat GPT化会在强化科学行政、提升工作效率和降低行政成本方面发挥着应有的作用。由于以Chat GPT为代表的人工智能应用具备强大的语言理解和文本生成等功能,因而在智能决策、智能管理、智能服务和智能监管等政务服务场景中具有极大的发展前景。尽管我们对Chat GPT等人工智能技术在智能政务领域的广泛应用充满着期待,但仍然需要注意就业排斥、知识产权、算法歧视、技术依赖和责任界定等系列问题的产生。基于此,需要采取相应的优化措施推动智能政务的升级和改进,以创造更加健康、稳健和可持续的智能政务生态。     

从传统治理到敏捷治理：生成式人工智能的治理范式革新

ChatGPT类生成式人工智能改变了人工智能治理的底层逻辑,人工智能技术应用由个性化向普适化方向发展,风险的不确定性从外部延伸至内部,未来人工智能技术的迭代周期将越来越短,这使得传统治理范式适用于生成式人工智能治理时存在诸多局限。基于对象场景的分散治理难以统筹生成式人工智能治理全局,基于风险预防的事前治理难以精准预测风险并提前预防,基于法律规范的硬性治理难以提升治理实效。作为一种快速适应环境变化的动态治理范式,敏捷治理契合生成式人工智能治理需求,与我国一直推行的包容审慎监管具有理念上的一致性。基于敏捷治理的全面性、适应性与灵活性,我国生成式人工智能治理应秉持包容审慎的监管理念,依据模型产业架构,形成“基础模型-专业模型-服务应用”的全面性治理格局;划分已知与未知风险,构建事前预防与事后应对相结合的适应性治理机制;综合运用技术、法律等灵活性治理工具,实现生成式人工智能治理范式革新,促进科技向上向善发展。     

生成式人工智能的反垄断规制

ChatGPT类生成式人工智能基础模型的公共属性预示着其将成为人工智能时代的新型数字基础设施,引发模型共谋、数据剥削、歧视性模型许可和模型独家许可型集中等多重垄断风险,同时在“资本-技术”和“算法-数据”双循环中形成结构性壁垒和生态型垄断。现行反垄断法律规则在主体、行为及规制能力等方面无法有效应对生成式人工智能所带来的垄断风险。鉴于此,有必要从立法和执法两个层面建立软法优先硬法和包容优先刚性的基本准则,同时在具体规则层面完善相关市场及市场支配地位认定,增加模型问责的反垄断程序性执法权,细化数据剥削和模型优待的行为类型,以及增加模型独家许可的并购反垄断申报。     

由“急用先行”走向“逐步完善”：生成式人工智能治理体系的构建

当前,生成式人工智能的治理沿用了人工智能1.0时代的分领域差异化监管模式,陷入碎片化、条块化、部门化的困境,无法应对层出不穷的AI技术和应用场景,相关治理规则缺乏稳定性和连续性。通过探究生成式人工智能的技术机理,明确该技术在释放技术红利的同时极易造成虚假信息泛滥、网络安全失控、生成内容侵权等风险。对此,生成式人工智能的治理应进行系统性改革,遵循“急用先行、逐步完善”两步走的思路。一是规范事项急用先行,根据产业链上主体的生态位区别设置风险防范义务与法律责任,并容许各方在满足最低限度的合规要求后,自主约定责任分配,及时回应技术发展应用过程中的突出问题;二是引入“技术之治”,并在规制时机、问责主体、归责标准等诸多争论趋于共识后逐步完善“制度之治”,更好地驾驭生成式人工智能的变革性收益与复杂性风险。     

从ChatGPT到GovGPT：生成式人工智能驱动的政务服务生态系统构建

随着人工智能技术的创新迭代,生成式人工智能（AIGC）正在成为塑造政务服务智能体的新型引擎,构思并衍生出行政领域的人工智能通用大模型——GovGPT。生成式人工智能驱动的政务服务主要体现在：空间场景的虚拟,政务情境的自动化与虚实共生;虚拟公务员的兴起,政务管理的无人化与政府“智”转;组织和资源要素的集成,政务运作的整合化与无缝隙政府;政务服务的技术主义范式,服务供给的智能化与需求革命。生成式人工智能技术虽然塑造了政务服务智能体的通用模型,作为推动数字政府“智能化”建设的先导和理念,其仍有赖健全的行政生态维系,唯有如此才能有效融入新一轮政府数字化转型中。从ChatGPT到GovGPT,需要树立数智化政务服务生态的理念,构建智能政务服务生态的行动共同体,促进政务运作的虚实共生与智能联动,打造全方位智能政务服务生态的安全保障体系。     

“向善”且“为善”:人工智能时代的算法治理与社会科学的源头参与

在人工智能成为新基建重要内容的时代,面对与算法如影随行的社会风险问题,如何规训算法使其"向善",又如何驾驭算法使能"为善",日益成为政府、社会和学术界所关注的重要议题。在讨论算法治理现有进展和现实困境的基础上,需要立足于中国本土的具体情况,从技术架构和社会环境的角度分析算法生态供给侧的社会化生产路径及其治理在人工智能时代的特殊性。在中国人工智能头部企业的行动研究案例说明,社会科学在将计算的社会化生产和社会风险作为重要的研究内容时,以源头参与、多方合作的方式推进算法治理能够降低人工智能可能带来的社会风险,创造出更多的社会价值。     

人工智能时代的行政价值:变革与调适

行政价值是公共行政的核心与灵魂。随着人工智能技术的发展与突破。行政价值的生成基础、内容体系、结构功能等随之发生变革。面对人工智能浪潮,新时代行政价值应重新确认行政价值取向、有效转换行政价值认知范式和叙事方式、厘清智能技术嵌入行政价值的边界,以满足政府全面深化改革的需要、回应国家治理现代化的诉求。     

人工智能敏捷治理实践：分类监管思路与政策工具箱构建

纷繁复杂的人工智能应用风险在带来监管挑战的同时,也让追求敏捷成为当前人工智能治理的共识性理念。但如何在具体路径、机制、工具上实现真正的敏捷监管尚缺乏系统的学理分析与实践指引。遵循科层体系运作逻辑的监管部门在克服制度张力和应对不确定性方面存在天然不足,实践改革因此普遍将“分类”视为一种适应复杂性与提升敏捷性的潜在思路。通过对人工智能多领域业态发展模式与技术创新规律的比较分析,以及综合人工智能各领域现有国际治理经验,本文构建了人工智能治理风险的关键分类维度及与之相适应的全谱系政策工具箱。研究试图为监管实践者提供一个合意的分类思路与政策工具组合指引,使监管实践可从产业特征标定分类治理对象,并在对应的政策工具箱中寻找政策组合。     

为何担心人工智能冲击国际安全

近年来关于人工智能挑战国际安全的讨论已成为一个热点话题。人工智能技术及其应用中产生的各种不确定性,正在对国际安全形成巨大冲击,而人们对这些不确定性的认知也正经历着动态变化。人工智能技术在给国际安全带来冲击的同时,也蕴含了国际治理演化创新和发展的稳定性前景。置于我们眼前的应该是慎重而明智的抉择,而不是不确定性带来的恐惧和绝望。人工智能最终将化身为给人类带来灭顶之灾的“终结者”,还是推动人类文明发展的“蒸汽机”,取决于人类如何认识和利用它。     

生成式人工智能的社会伦理风险及其治理——基于行动者网络理论的探讨

基于行动者网络理论视角,生成式人工智能的社会伦理风险可以认为是在技术应用过程中由人类行动者和非人类行动者开展行动者转译和网络建构所造成的。从行动者转译与网络建构来看,生成式人工智能可能带来的主要社会伦理风险包括:智能互联下的行动者之“恶”传播风险加剧、行动者社会分工体系的结构性危机加剧、行动者转译的技术异化问题更为严峻、“行动者网络”下的数字安全风险增大、行动者“五际”关系维度的数字平权问题凸显。基于此,从合理界定行动者主体的权责关系、加强行动者转译的全过程算法治理、构建人机“共善”的行动者治理共同体等方面推进生成式人工智能的社会伦理风险治理,确保科技向善健康发展。     

生成式人工智能的双重法律规制理路

ChatGPT等强人工智能时代,技术和风险的复杂性和不可预测性攀升均加剧了法律的不确定性。全球生成式人工智能监管态势下,在激励创新中统筹规范发展应成为我国现阶段的规制目标,对其规制应注意包容性与灵活性的制度安排。特别在当前生成式人工智能面临前所未有的技术规制挑战、监管挑战和问责挑战冲击,规制生成式人工智能应避免过度倚赖传统以政府为中心的规制方式,而应采取“有效市场”与“有为政府”协同发力、过程合规激励和结果威慑效应齐彰,且深度融合法律逻辑、技术逻辑与产业逻辑的双重法律规制理路。该规制理路以敏捷治理理论及元规制理论为理据,以聚焦于市场主体本质与能动性的过程性规制为主导,结果性规制为补充,对生成式人工智能的模型、数据和生成内容等从技术过程到行为结果形成各有侧重且协调配合的系统规制进路。同时还需相应的配套法律制度保障,尤其是有必要从风险化解和权益保障入手进行责任松绑和规制补强,引入安全港规则及发展保障基金制度,实现立法上的先进性和运用上的有效性。     

人工智能驱动下智能化社会治理:技术逻辑与机制创新

以算法为内在发展逻辑的人工智能技术开启了社会治理的智能化转向。技术进步和社会治理变迁,与生产力性质和主导技术工具及其段位保持着同向递进关系。一方面,技术段位的优先性会倒逼社会治理创新;另一方面,社会发展的阶段性与情境性决定了对社会治理工具的抉择。这种技术逻辑下的社会治理智能化必然要求政府建构以兼容"数据、算法、技术、服务和秩序"五要素机制保障下的智能化社会治理机制,以适应人工智能时代技术兴起对传统社会治理带来的挑战。     

ChatGPT冲击波：类人恐惧与异化危机

以ChatGPT为代表的生成式人工智能正迅速崛起并广泛参与应用，其不仅遵循“智能逻辑”对社会生产、生活带来颠覆性和革命性的影响，而且从根本上重塑着人本身。特别是在资本逻辑的操控下，人工智能正在演变为一种新的异己的力量，把作为主体的人本身、人的交往活动、人的劳动生产和日常生活等逐渐推向异化的“深渊”。扬弃人工智能造成的新异化，必须坚持以人为中心的智能科技发展理念，限制资本无序扩张；遵循技术向善的价值原则，规范人工智能的创新与应用；推动个人转变传统观念，利用智能科技在全民终身学习、自我深度学习中持续提升和完善自我，从而令人工智能彻底摆脱资本的桎梏，成为不断推动人的个性解放和自由全面发展的有利技术条件。     

人工智能嵌入公共服务治理的风险挑战

人工智能技术的迅速发展推动了公共服务治理革新的同时,也出现诸多不容忽视的风险挑战。在应用范围上,人工智能于社会治安、交通基建、市场监管、反腐倡廉、应急管理、医疗保障、文化教育、能源管理等公共服务领域的应用,提高了公共服务决策能力、公共服务组织的管理效能、公共服务的质量与效率、公共服务组织与服务对象互动,以及强化了公共服务组织的内外部监督。但人工智能嵌入公共服务治理也面临着数据质量不足、技能人才短缺、统筹规划抵牾、数字鸿沟庞大、解释问责模糊、伦理冲突激化、安全隐私脆弱、就业收入分化等风险挑战。于公共服务治理场域中克服这些困境与问题,是发展具有创新性、可靠性、安全性的人工智能嵌入模式的必由之路。在收益与风险间寻求平衡,可以有效促进以证据为主导和以数据为支撑的公共服务治理路径的创新。     

对ChatGPT等生成式人工智能的三个刑法追问

ChatGPT的强大算力和拟人化逻辑思维方式,让人们在感叹人工智能科技迅猛发展的同时,也产生了更多思考。从刑法学者视角看,这些探究包括三个方面,一是ChatGPT是否已经成为能够承担刑事责任的强人工智能,刑法人类中心主义是否是不可变的;二是具备强大算力和丰富数据库的ChatGPT4.0是否存在侵害法益的危险,可能会引发哪些犯罪;三是人工智能的刑事风险研究是否可能,研究人工智能刑事风险的目的何在。回应这些问题,不仅有利于厘清ChatGPT本身可能带来的刑事风险,还有利于进一步明确未来人工智能刑法风险研究的方向。     

地方立法的人工智能应用风险与规制研究

地方立法应用人工智能可以在立法资料检索、立法项目论证、法律草案编纂、法律备案和立法后评估等方面降低立法成本，提高地方立法的质量和效率。随着技术进步，人工智能在地方立法程序的参与程度将会愈加深入。然而，在享受和展望人工智能带来的技术红利的同时，更要警惕地方立法在应用人工智能过程中给立法本身带来的的合法性、民主性和科学性风险以及给数据管理造成的挑战，并以审慎科学的态度接纳负面影响，在协同治理框架的基础上，适度使用智能立法产品，坚持人工智能的辅助地位，构建伦理算法，实现人工智能辅助地方立法安全与发展价值的平衡。     

人工智能时代公安机关参与社会治理的机遇、挑战与变革

人工智能技术在公安机关参与社会治理中的应用,可以缓解警力不足,优化执法行政流程,提升治理精细化和公安决策质量,促进警民关系和谐发展.但人工智能固有的技术缺陷会给公安机关带来治理风险和行政伦理等问题.因此,公安机关应优化公安组织体制和警务机制,加强人工智能技术管控和数据安全监控,创新警企合作机制,探索警察行政伦理和规范体系,以促进人工智能与公安机关参与社会治理深度融合.