生成式人工智能的变革影响及其风险规制

ChatGPT的横空出世激起了新一轮人工智能发展的热潮,其实质是生成式人工智能技术的巨大突破。从技术层面来看,以目前生成式人工智能的发展态势可以预见,越来越强大的生成式人工智能必将拓展越来越广泛的应用场景,变革现有的人机关系,并对其社会化应用产生深远影响。在数字化技能日臻成熟并日益渗透人类生活的趋势下,如何理解生成式人工智能将带来的重塑性变革成为目前研究的重要课题。     

生成式人工智能辅助行政决策的算法隐患及其治理路径

生成式人工智能(Generative AI)作为最新一代的人工智能技术,一经问世便引发各行各业的关注和担忧。就行政决策而言,生成式人工智能能够帮助行政主体实施社会数据采集分析、行为预测、方案演绎,进而辅助行政决策的信息采集、关键问题识别以及决策方案的最优化实现。但是,在生成式人工智能参与行政决策的三个阶段也存在不同程度的隐患：训练数据库的片面性可能会导致信息的不公正、对技术的过度依赖可能会导致安全风险、算法黑箱可能会引发公众对行政决策透明性的质疑。若要最大限度发挥生成式人工智能辅助行政决策的积极作用,应当强化算法歧视治理、明确技术的辅助性地位、增强算法的参与性,以此规范生成式人工智能在行政决策中的作用,促进生成式人工智能与行政决策的深度融合。     

生成式人工智能（AIGC）犯罪风险及应对研究

生成式人工智能技术的快速发展，使其应用场景日趋广泛，也带来了内容创作突破、产业升级等生产力的变革。然而，随着相关技术的开放式发展，在带来时代发展机遇的同时，与之伴随的风险也逐渐凸显。本文主要分析了，在生成式人工智能技术日益成熟、不断升级迭代的背景下，其现状与发展趋势以及其可能产生的法律、犯罪风险，并提出了相应的防范对策。     

生成式人工智能的教育应用

智能化时代，加速加深智能技术与教育的融合是保障教育高质量发展的必由之路。生成式人工智能（GAI）作为一种突破性技术工具，正逐渐在教育领域崭露头角。GAI具有赋能教育质量、教育效率和教育公平三大方面的显著优势，然而也在知识生产、学习陪伴、育人职能、教育治理等方面存在潜在风险。基于其核心价值和潜在风险，需要提升理念认识、构建弹性体系、完善制度保障，同时丰富育人内涵、加速方法创新、优化治理效能，以确保生成式人工智能可以最大限度发挥其教育作用，激发教育创新，促进教育高质量发展。     

由“急用先行”走向“逐步完善”：生成式人工智能治理体系的构建

当前,生成式人工智能的治理沿用了人工智能1.0时代的分领域差异化监管模式,陷入碎片化、条块化、部门化的困境,无法应对层出不穷的AI技术和应用场景,相关治理规则缺乏稳定性和连续性。通过探究生成式人工智能的技术机理,明确该技术在释放技术红利的同时极易造成虚假信息泛滥、网络安全失控、生成内容侵权等风险。对此,生成式人工智能的治理应进行系统性改革,遵循“急用先行、逐步完善”两步走的思路。一是规范事项急用先行,根据产业链上主体的生态位区别设置风险防范义务与法律责任,并容许各方在满足最低限度的合规要求后,自主约定责任分配,及时回应技术发展应用过程中的突出问题;二是引入“技术之治”,并在规制时机、问责主体、归责标准等诸多争论趋于共识后逐步完善“制度之治”,更好地驾驭生成式人工智能的变革性收益与复杂性风险。     

情感劳动：人工智能劳动的限度及风险

人工智能技术不断取得新突破，人类替换成为持续争论的话题，生成式人工智能的出现更是加速了替换的可能。从情感劳动视角看，在个体能力层面，人工智能并不拥有真实情感、自我意识和情感理解的能力；在实践基础方面，人工智能不具有具身性、社会性和共情实践的基础。因此，人类情感劳动具有不可替代性，人工智能无法实现人类替换。当前的并非真实的人工情感劳动也具有一系列的潜在风险，包括人的价值和伦理危机、消解人际关系、冲击人的情感认同等。     

生成式人工智能浪潮下主流媒体的边界重塑

<正>从1950年图灵提出“机器能否思考”这一命题到2016年Alpha Go击败人类职业围棋手，人工智能(AI)在70余年的进化中已对各行业产生了颠覆性影响。即便如此，2022年底ChatGPT的问世依然让社会各界陷入对生成式AI的应用场景和伦理边界的思考。高盛研究部近期报告预测，“未来全球平均18%的工作岗位或由AI自动化完成。”这只是生成式AI的起点。2023年5月，谷歌发布其最新AI语言模型PaLM 2,     

生成式人工智能的双重法律规制理路

ChatGPT等强人工智能时代,技术和风险的复杂性和不可预测性攀升均加剧了法律的不确定性。全球生成式人工智能监管态势下,在激励创新中统筹规范发展应成为我国现阶段的规制目标,对其规制应注意包容性与灵活性的制度安排。特别在当前生成式人工智能面临前所未有的技术规制挑战、监管挑战和问责挑战冲击,规制生成式人工智能应避免过度倚赖传统以政府为中心的规制方式,而应采取“有效市场”与“有为政府”协同发力、过程合规激励和结果威慑效应齐彰,且深度融合法律逻辑、技术逻辑与产业逻辑的双重法律规制理路。该规制理路以敏捷治理理论及元规制理论为理据,以聚焦于市场主体本质与能动性的过程性规制为主导,结果性规制为补充,对生成式人工智能的模型、数据和生成内容等从技术过程到行为结果形成各有侧重且协调配合的系统规制进路。同时还需相应的配套法律制度保障,尤其是有必要从风险化解和权益保障入手进行责任松绑和规制补强,引入安全港规则及发展保障基金制度,实现立法上的先进性和运用上的有效性。     

生成式人工智能的安全风险与法律规制

由专用向通用迈进是生成式人工智能的发展现状，由赋能向赋智转变对应了生成式人工智能的应用场景。然而，生成式人工智能带来变革的同时，也存在安全风险，包括人机关系暗藏的伦理风险、人机交互面临的侵权风险、生成内容潜在的失控风险。防范化解风险的法律规制路径，应将辅助原则确立为规范人工智能研发和应用的基本原则、运用比例原则平衡人机交互的价值冲突、健全生成式人工智能的标准化安全评估体系。     

准确研判生成式人工智能的社会伦理风险

<正>基于大规模预训练语言模型的生成式与对话式人工智能在涌现出强大能力的同时也产生了巨大争议，需要我们在加速创新和有序发展之间作出更具系统性和预见性的研判近年来，数据驱动的人工智能及其社会应用取得迅猛发展，呈现出诸多具有颠覆性社会影响的创新前景，迫使我们不得不思考如何认识其可能带来的社会、伦理乃至安全风险，进而采取合理的应对之策。     

生成式人工智能的社会伦理风险及其治理——基于行动者网络理论的探讨

基于行动者网络理论视角,生成式人工智能的社会伦理风险可以认为是在技术应用过程中由人类行动者和非人类行动者开展行动者转译和网络建构所造成的。从行动者转译与网络建构来看,生成式人工智能可能带来的主要社会伦理风险包括:智能互联下的行动者之“恶”传播风险加剧、行动者社会分工体系的结构性危机加剧、行动者转译的技术异化问题更为严峻、“行动者网络”下的数字安全风险增大、行动者“五际”关系维度的数字平权问题凸显。基于此,从合理界定行动者主体的权责关系、加强行动者转译的全过程算法治理、构建人机“共善”的行动者治理共同体等方面推进生成式人工智能的社会伦理风险治理,确保科技向善健康发展。     

自主生成式亲密关系：青年与人工智能伴侣的互动体验

人工智能正在推动情感消费的转变,青年通过使用人工智能伴侣自主生成亲密关系,重塑了亲密关系的边界。本研究通过考察青年与人工智能伴侣的互动体验尝试理解自主生成式亲密关系的建构逻辑与现实影响。研究发现,青年使用人工智能伴侣的目的包括生成情感代餐、关系克隆和生成原生伴侣;在共享和独享两种情境中,青年通过训练智能体、调整预期和转换角色等策略主动控制与人工智能伴侣的亲密程度,最终形成了与智能体退出互动、间断互动和持续互动三种结果。文章最后讨论了自主生成式亲密关系实践与现实关系的互构过程,分析自主生成式亲密关系带来的影响与潜在风险。     

异化抑或解放：人工智能的马克思主义现代性批判

作为第三次科技革命的最新技术样态,人工智能的加速发展,在促进社会生产力进步的同时,也不可避免地产生了与人的主体性相对立的现代性危机,表现为对人的选择性淘汰与社会生活的排他性增强;社会的规模性结构性失业与贫富分化的加剧;过度的技术依赖(物化)与人自身能力的退化;社会风险的激增与人的现代性焦虑的上升。在如何看待人工智能不断浮现的现代性负面效应这一问题上,马克思主义突破了西方马克思主义和西方技术哲学的纯粹技术批判和哲理思辨的路径,从政治经济学的观察视角,将人工智能的"技术异化"和由此引发的人的主体性丧失的现代性危机归咎于资本逻辑,认为人工智能只有摆脱资本逻辑的控制与束缚,才能真正造福于全人类,从而提供了分析和解决人工智能现代性危机的正确图式。具体而言,在马克思主义看来,要避免人工智能由"技术异化"导致"人的异化",使人工智能朝着造福人类和实现人类解放的方向前进,就必须驾驭和超越资本逻辑,推动人类社会生产关系的适应性变革,努力构建科学合理的生产资料所有制结构、社会分配结构和劳动分工结构。     

生成式人工智能技术赋能新质生产力涌现：价值意蕴、运行机理与实践路径

新质生产力是经济发展的新起点、新动能。生成式人工智能（AIGC）技术赋能新质生产力涌现具有多维价值意蕴,是助力经济高质量发展的新引擎、促进数据交流共享的新介质、推动区域协调发展的新动力、实现中国式现代化的新优势。凭借AIGC自动化处理技术、深度学习神经网络、人类反馈强化学习、多模态大模型架构等技术优势,能实现数据感知、智能认知、动态决策、精准执行等环节数字化、智能化,进而通过战略决策创新、生产制造创新、营销服务创新和组织结构创新,最大化发挥AIGC技术在生成和发展新质生产力中的赋能作用。为确保AIGC技术赋能新质生产力充分涌流,要坚持技术导向,筑牢发展根基;坚持统筹全局,聚焦关键领域;坚持自主创新,促进虚实融合;坚持互动协同,优化产业布局;坚持人才赋能,培养新型人才。     

ChatGPT冲击波：类人恐惧与异化危机

以ChatGPT为代表的生成式人工智能正迅速崛起并广泛参与应用，其不仅遵循“智能逻辑”对社会生产、生活带来颠覆性和革命性的影响，而且从根本上重塑着人本身。特别是在资本逻辑的操控下，人工智能正在演变为一种新的异己的力量，把作为主体的人本身、人的交往活动、人的劳动生产和日常生活等逐渐推向异化的“深渊”。扬弃人工智能造成的新异化，必须坚持以人为中心的智能科技发展理念，限制资本无序扩张；遵循技术向善的价值原则，规范人工智能的创新与应用；推动个人转变传统观念，利用智能科技在全民终身学习、自我深度学习中持续提升和完善自我，从而令人工智能彻底摆脱资本的桎梏，成为不断推动人的个性解放和自由全面发展的有利技术条件。     

欲辨真意——ChatGPT创新的意识思考

<正>ChatGPT是生成式人工智能(Generative AI)的里程碑,目前已经更新到GPT-4。GPT-4采用的语言模型训练数据截止到2021年9月,尚未对之后发生的事件进行更新。但3月24日其已经开始联网,通过插件加入广泛的专用数据库,如Wolfram(智能计算编程框架),开始成为难以想象的巨大通用智能体,有了眼睛和耳朵,极大可能彻底改变人类创作内容和体验文明的方式。ChatGPT能生成文本和语言交流,能够进行艺术创作,能够学习和研究;随着分布式计算的充分部署,智能体将可以下载和连接,拥有手和脚。那么,在这种情况下,人类还剩下什么,值得我们每个人深思。     

人工智能是否应具有法律主体地位

人工智能技术发展如火如荼,也引发了相关法律问题的激烈讨论。面对人工智能带来的新型权利分配和责任承担问题,有人提出应赋予强人工智能,甚至是特定的弱人工智能以某种形式的法律主体地位来应对。然而这一路径看似便捷,却忽视了人工智能无法充分承担责任的情形,也未充分考虑人工智能发展与人类中心主义的社会规则产生的冲突。     

人工智能是否应具有法律主体地位

人工智能技术发展如火如荼,也引发了相关法律问题的激烈讨论。面对人工智能带来的新型权利分配和责任承担问题,有人提出应赋予强人工智能,甚至是特定的弱人工智能以某种形式的法律主体地位来应对。然而这一路径看似便捷,却忽视了人工智能无法充分承担责任的情形,也未充分考虑人工智能发展与人类中心主义的社会规则产生的冲突。     

物联网:从联接万物到联生价值

物联网（Internet of Everything简称IOT）引发的第四次工业革命正悄然到来.物联网所引发的不仅是第四次工业革命,其对农业、服务业等人类社会基本业态,都会产生深远影响和飞速进步,从而对整个人类社会的生产和生活方式带来革命性影响.     

人工智能助力中国智造

人工智能作为一种工具来延展智能并提升我们认识世界和改造世界的能力,助力国家产业转型升级,产生一种全新的人工智能经济形态;未来人工智能还将深刻地改变我们的生活。所以说,人工智能的进步与发展不仅仅是科技的创新,最终更会带来人类社会发展的变革。