下篇:人工智能,人类的朋友还是敌人

正从实验室到流水线,从科研精尖到大众生活,从技术突破到创业风口,人工智能悄然改变着我们的生活。人工智能成为国际竞争的新焦点、经济发展的新引擎,带来社会建设的新机遇,但同时人工智能发展的不确定性也带来新挑战。在这些新挑战中,最令普通人关注的,或许就是人工智能时代的"人机关系":高阶人工智能有没有失控风险?未来的机器会不会挑战人类社会的秩序,甚至获得自主塑造和控制未来的能力?其实人工智能到底是人类的朋友还是敌人,取决于人类自己。未来,应通过对人工智能相关法律、伦理和社会     

论人工智能法律主体资格

随着人工智能技术的不断发展,其在造福社会的同时也加剧了社会风险,人类必须面对新的伦理规范和法律难题。对于人工智能的法律主体资格问题,必须做好相关的法律研究和探讨。承认并确立人工智能民事法律主体资格具有其必然性。承认并确立人工智能的刑事法律主体资格仍存在巨大争议。立法机关需要针对人工智能的法律主体资格、权利义务、法律责任等方面的内容进行深入研究。     

人工智能之于法律的可能影响

人工智能技术在给人们的生产生活带来便利的同时,也给整个法律规范体系带来了挑战。让法律更加"智能"地应对人工智能化,应构建技术和法律为主导的风险控制机制,制定和完善相关的道德法律准则,促使人工智能推动人类社会文明进步。     

人工智能内容生产：功能张力、发展趋势及监管策略——以ChatGPT为分析起点

人类一边担心人工智能的风险,一边快速推动智能革命的发生。人工智能内容生产是融合人类和“类人”智能的新生产模式。人工智能内容生产技术内含不可化约的功能张力。一方面,ChatGPT等智能生产平台兼具对话功能和内容生产功能,拥有提升数字生产力、增强决策能力,加速社会组织化、扩大社会动员能力等社会功能;另一方面,人工智能内容生产者可能导致多领域劳动者价格为零,还会带来对话风险、信用风险、政治风险和“存在”风险,这些是其“反社会”功能。人工智能内容生产是人类和“类人”的合作生产,随着新内容生产主体的涌现,人工智能文明的出现便有了新迹象。科学、有效监管人工智能内容生产是高难度、复杂性行动,政府、平台、用户和社会等多元主体要坚持包容审慎的监管原则,协同监管,从而最大限度地促进社会发展、社会公正、社会透明和社会责任落实。正确的人工智能功能观、发展观,决定了人工智能内容生产能走多远。     

人工智能时代的社会治理:机遇、挑战与总体框架设计

人工智能为社会治理带来了新的机遇,能为社会热点难点问题提供新的解决方案,其将全面提升社会治理的现代化水平,精准预测公共需求,助推公共服务供给侧改革,提高公共服务质量和效率;但人工智能也给社会治理带来了新的挑战,人工智能发展的不确定性对现有社会伦理和法律规范产生了冲击,对信息安全也提出了更高的要求,还可能导致失业率上升而引发社会问题。因此,人工智能与社会治理的结合是社会治理系统优化的一项庞大工程,需要科学的系统框架,这一框架主要由现代化的治理理念、有利AI健康发展的环境、完善的信息资源体系架构、科学合理的AI技术架构、广泛应用的AI社会治理平台五个部分构成。     

生成式人工智能安全风险与综合治理研究——以ChatGPT为例

生成式人工智能作为人工智能技术的新主流形态,具有决策式人工智能所不具备的人格化表象突出、数据挖掘能力提升、算法黑箱凸显、数据垄断深化等鲜明特征。随着生成式人工智能的不断迭代,虚假误导与无意义信息致人损害、模型训练与知识重组忽视知识产权、恶意滥用与算法黑箱削弱监管体系等安全风险不断凸显。在治理路径上,需要由直接规制风险逐步转向“科技—社会—法律”三元综合治理,从建设内容模型训练管理体系、厘清程序运行的知识产权边界、强化算法黑箱与恶意滥用综合治理能力、深化“科技—社会—法律”三元综合治理模式等方面着力,在规制风险的同时促进生成式人工智能安全发展。     

数智文明：人类文明新形态——基于技术、制度、文化、道德与治理视角

以互联网、大数据、人工智能为代表的数智技术的快速发展使得人类正在进入新的社会阶段并催生出新的人类文明形态——数智文明。一个文明由技术、制度、文化三个显性维度和道德隐性维度共同构成和标度,数智文明的技术基础是以网络数字化和人工智能为核心的人类科技体系的普遍数智化,从而支撑整个社会生产生活的数智化。数智文明的制度架构是依托于充分数智化改造的制度体系,以消减传统时代人类科层官僚治理体系的种种弊病。数智文明的文化是建立在打破地域界限而形成的充分交流基础上的世界范围内的文化重组,形成主体认同、尊重个性多元化的文化共同体。数智文明的道德体现为个人道德发展与社会道德发展的趋同,形成合理的利己和积极利他的共同发展。数智文明的治理则要充分结合数智时代的技术、制度与文化变革,形成基于普遍个体参与和泛在智能辅助的多元平等高效民主法治的新的治理体系。     

人脸识别治理的国际经验与中国模式

人脸识别是人工智能技术发展的重要应用。人脸识别应用为公共安全、法律执行及社会管理带来诸多便利,但其也可能对个人隐私与自由、人格尊严、人身及财产安全带来风险。因此,这一技术在许多国家的法律上仍存在争议。基于我国经济和社会发展实际情况,不宜采取一刀切式禁止,而应充分考虑其所可能带来的风险,由法律进行严格规制。     

生成式人工智能的社会伦理风险及其治理——基于行动者网络理论的探讨

基于行动者网络理论视角,生成式人工智能的社会伦理风险可以认为是在技术应用过程中由人类行动者和非人类行动者开展行动者转译和网络建构所造成的。从行动者转译与网络建构来看,生成式人工智能可能带来的主要社会伦理风险包括:智能互联下的行动者之“恶”传播风险加剧、行动者社会分工体系的结构性危机加剧、行动者转译的技术异化问题更为严峻、“行动者网络”下的数字安全风险增大、行动者“五际”关系维度的数字平权问题凸显。基于此,从合理界定行动者主体的权责关系、加强行动者转译的全过程算法治理、构建人机“共善”的行动者治理共同体等方面推进生成式人工智能的社会伦理风险治理,确保科技向善健康发展。     

为何担心人工智能冲击国际安全

近年来关于人工智能挑战国际安全的讨论已成为一个热点话题。人工智能技术及其应用中产生的各种不确定性,正在对国际安全形成巨大冲击,而人们对这些不确定性的认知也正经历着动态变化。人工智能技术在给国际安全带来冲击的同时,也蕴含了国际治理演化创新和发展的稳定性前景。置于我们眼前的应该是慎重而明智的抉择,而不是不确定性带来的恐惧和绝望。人工智能最终将化身为给人类带来灭顶之灾的“终结者”,还是推动人类文明发展的“蒸汽机”,取决于人类如何认识和利用它。     

人工智能是否应具有法律主体地位

人工智能技术发展如火如荼,也引发了相关法律问题的激烈讨论。面对人工智能带来的新型权利分配和责任承担问题,有人提出应赋予强人工智能,甚至是特定的弱人工智能以某种形式的法律主体地位来应对。然而这一路径看似便捷,却忽视了人工智能无法充分承担责任的情形,也未充分考虑人工智能发展与人类中心主义的社会规则产生的冲突。     

人工智能是否应具有法律主体地位

人工智能技术发展如火如荼,也引发了相关法律问题的激烈讨论。面对人工智能带来的新型权利分配和责任承担问题,有人提出应赋予强人工智能,甚至是特定的弱人工智能以某种形式的法律主体地位来应对。然而这一路径看似便捷,却忽视了人工智能无法充分承担责任的情形,也未充分考虑人工智能发展与人类中心主义的社会规则产生的冲突。     

人类基因编辑行为治理研究

人类基因编辑作为新的社会现象,在有助于人类发展的同时,也具有非常巨大的伦理风险、技术风险、社会风险。从现实情况看,人类基因编辑的潜在风险和规制漏洞值得警惕和反思。要客观评价人类基因编辑行为,严格区分治疗与改进的不同用途,确立以治疗为目的的人类基因编辑原则,对治疗予以有条件认可,对改进予以严格禁止。要正视现有制度的不足,明确行为界限,强化主体的内在约束,进一步健全人类基因编辑的法律体系、监管体系,确保人类基因编辑既能规避各类风险,又能增进人类健康。     

深度伪造技术的监管困境及其法律应对

深度伪造(Deepfake)技术是基于人工智能深度学习算法,模拟、伪造人类生物和行为特征生成影像信息的技术。它会对国家法律法规、制度造成一定程度的威胁和挑战,增加网络公共空间信息骚扰、网络诈骗等违法行为的辨识和整治难度,给个人的社会信息安全和合法权益带来风险,针对政治人物的深度伪造则会扰乱公共秩序,甚至威胁国家安全。构建以科学引导、正确应用、有效监管为指向的风险评估应用监管体系,科学评估深度伪造技术存在的破坏潜力和发展趋势,将其应用于医学成像、影视制作等领域,在发挥其积极效用的同时,提升辨伪能力,应对深度伪造技术恶意使用所造成的威胁和破坏,以规避其现存法律风险,破解其可能面临的监管困境。     

上市公司法律风险传导机制研究

上市公司诸多风险中,法律风险是其中影响广泛、影响力大的主要风险之一。文章分析了上市公司特有的法律风险机制和风险传导特征。其中上市公司法律风险主要涉及：企业信息披露风险、内幕交易风险、关联交易风险、股权管理风险、信用风险等。法律风险传导特征包括了普遍存在性、不确定性、复杂性、传导迅速,过半数属于操作性风险。文章探讨了上市公司法律风险传导载体和流程,最后提出上市公司法律风险控制对策,企业可以通过建立一整套法律风险管理体系对法律风险进行预警和预控管理。     

生成式人工智能的安全风险与法律规制

由专用向通用迈进是生成式人工智能的发展现状，由赋能向赋智转变对应了生成式人工智能的应用场景。然而，生成式人工智能带来变革的同时，也存在安全风险，包括人机关系暗藏的伦理风险、人机交互面临的侵权风险、生成内容潜在的失控风险。防范化解风险的法律规制路径，应将辅助原则确立为规范人工智能研发和应用的基本原则、运用比例原则平衡人机交互的价值冲突、健全生成式人工智能的标准化安全评估体系。     

试论全面建成小康社会背景下我国面临的发展风险

中共十八大提出到2020年实现全面建成小康社会的宏伟目标,我们既要把握机遇,又要看到我们可能面临的发展风险。发展风险主要包括经济风险、政治风险、社会风险、生态风险、文化风险。发展风险形成的根源主要包括:风险本身的不确定性、发展环境的双重性、发展方式的低效性、发展动力的不可持续性。要正确应对发展风险,首先,要树立风险意识;其次,要研究风险规律;最后,要探索风险最小化的发展道路。     

人工智能开发企业社会责任及其法律规制

迅速迭代的人工智能技术与滞后的法律规范之间的矛盾冲突导致人工智能开发活动在制度层面产生巨大的规制窠臼。面对开发企业将道德和法律嵌入代码系统的过程中充斥的背离数据保护原则、冲击个人尊严、破坏民主诚信、削弱社会公允等现实风险,亟待从企业社会责任的内在逻辑入手,在借鉴相关国际经验的基础上,勾勒我国人工智能开发企业社会责任法律规制的具体方案,推动智能产品和服务开发遵循造福人类的可持续发展模式。     

人工智能在法律服务领域的应用

作为三大尖端技术之一,人工智能在众多领域蓬勃发展,取得了令人瞩目的成果。随着人工智能不断与法律融合,法律服务领域的思维方式和行为模式也随之发生巨大变革,从传统的“互联网+法律”正逐渐向新兴的“人工智能+法律”转变。人工智能运用于法律服务领域已成为趋势,原本由初级律师承担的工作正在逐渐自动化。人工智能在法律服务领域应用既有优势,也有风险,应当注意平衡人工智能与律师关系、堵塞信息漏洞、系统防范恶意利用。     

我国市政收益债券运作的理论分析与法律制度建构

市政收益债券作为投融资新渠道,可以避免地方公债可能带来的巨大风险,解决城市基础设施建设的融资问题和地方政府财政危机,是现阶段城市化进程中符合中国国情的最优选择.但是现有对于市政收益债券的研究中基于法律角度出发较少,受《预算法》等法律制约,收益债券在中国的发展存在发行主体及利息免税等制度障碍,因此在市政收益债券的运作中需要强调对其功能定位、风险监管、债券保险等制度设计的作用,在专项立法基础上完善相关配套法律法规,为市政收益债券的规范运作提供充分的法律保障.