由技术伦理向法律规范演进:国外人工智能应用规范研究综述

人工智能技术引发各类伦理与法律问题，对人工智能进行规范已经成为世界共识。基于此，各国学者针对人工智能应用规范展开研究，呈现出从伦理规范研究向法律规范研究演进的态势。当前，国外人工智能应用规范研究已经取得多项共识，同时也存在诸多争议。主要共识包括三点：一是人工智能伦理研究的方向应为社会伦理，二是基于确定的人工智能伦理，研究重点应当进一步转向技术实现，三是人工智能伦理规范具有局限性，未经法律规范的人工智能具有侵权风险。现有争议主要集中在人工智能立法的重点问题、人工智能治理的重要方向、人工智能法律体系的构建取向上。主要争议问题包括：人工智能是否具有法律主体资格、人工智能应用侵权的法律责任、人工智能治理中的发展与规范冲突、人工智能治理中的预防与监管平衡、人工智能特殊法律体系构建的主要方向等。未来研究应当立足现有对伦理原则的共识和对重点法律问题的讨论，从系统视角设计人工智能法律规范体系，同时在方法上注意融入计算机领域的研究方法，强化人工智能的技术属性。     

人工智能时代的主体性之忧:法理学如何回应

近代以来,人超越于他物的主体性得以确立,其内容包括不可侵犯的人格尊严、自主决定、在社会和政治生活中具有重要性以及基于自身目的利用自然。然而,人工智能已经从以下方面挑战了人的主体性:冲击了人格尊严的基础,削弱了自主决定,降低了人在社会生活中的重要性。因此,亟需法理学基于整体性反思和价值视角予以回应。法理学应采取的立场包括:注重人的道德主体性以彰显其独特性,明确反对赋予人工智能法律人格,坚持对人工智能涉主体性应用的合法性审查。     

生成式人工智能的法律规制——以ChatGPT为视角

以ChatGPT为代表的生成式人工智能技术落地与大规模应用，改变了人类与人工智能的传统交互模式，对社会生产方式产生了重大变革。国际国内都出现了对人工智能主体地位及法律规制等方面的学术探讨，以应对生成式人工智能引发的伦理道德、知识产权保护、隐私与数据保护、市场垄断、网络犯罪和数据安全等一系列风险。在现阶段，我国生成式人工智能治理，应坚持安全与发展相平衡的理念，在以人为本的原则统领下设计人工智能伦理准则，推动构建以通用人工智能立法为基础，以生成式人工智能专门性管理办法为补充，以既有法律规范为根本的系统性人工智能法律规范体系。     

生成式人工智能的风险规制困境及其化解：以ChatGPT的规制为视角

以ChatGPT为代表的生成式人工智能技术产生，在极大地提升人们工作效率的同时，也在相关领域带来了诸多法律风险。这种风险具体表现为：数据使用风险、生成内容滥用风险、算法滥用风险以及其他风险。目前我国虽然已经初步具备了有关人工智能的基本治理框架，但相关的理论以及实践仍在治理主体、治理规范设置、治理手段以及治理规则适用等方案上存在不足。生成式人工智能的出现，凸显了科技进步迭代过程中产生的“破坏性创新”现象，这也倒逼我国当前的人工智能治理模式需要从回应型治理、集中型治理向敏捷型治理转换。这要求我国在总体上坚持包容审慎的治理态度，具体包括从法律层面的制度构建、软法规范层面的填补式风险治理以及通过监管沙盒实现敏捷型风险治理等三方面来完善现有的人工智能风险治理体系，在技术创新与风险治理之间寻求平衡，从而实现数字经济的健康持续发展。     

生成式人工智能的法律定位与分层治理

生成式人工智能改变了数字社会的生产架构,向既有的技术治理体系提出挑战。一是生成式人工智能呈现“基础模型—专业模型—服务应用”的分层业态,无法在现有的“技术支持者—服务提供者—内容生产者”监管框架中找到适配的法律定位;二是其传播模式和技术指标使得原有规制工具难以适用。生成式人工智能治理应符合其功能业态的技术逻辑,也应基于其在数字社会生产的地位,重新认识和调整生成式人工智能的法律定位,将模型作为新型的法律治理对象。生成式人工智能的基础模型因可接入千行百业而具有通用性,因同时提供信息内容与机器所需合成数据而具有强大赋能性,是人工智能时代的新型数字基础设施。应构建“基础模型—专业模型—服务应用”的分层治理体系,在不同的层次适配不同的规制思路与工具。在基础模型层以发展为导向,将其作为数字社会新型基础设施设置法律制度;在专业模型层以审慎包容为理念,进行分级分类并设置合理避风港规则;在服务应用层实施敏捷治理,建立合理容错制度。由此,我国得以从单一场景的算法治理发展为适应不同治理目标的复合型系统性治理。     

论证券投资基金的法律地位

正确认识证券投资基金的法律地位是进行证券投资基金立法和理论研究的基础。笔者在找出我国理论界对证券投资基金性质及法律地位认识分歧的根源之后,简要论述了公司型基金的法律主体地位,并从投资基金的社会主体性和法律主体性两个层次、事实判断和价值判断两个方面,详细论证了信托型基金的法律地位,指出我国的投资基金立法应从主体角度对信托型基金进行规范,同时希望立法大胆创新,把信托型基金列为与自然人、法人具有平等地位的第三民事主体。     

司法实践中人工智能运用的现实与前瞻 ——以上海法院行政案件智能辅助办案系统为参照

人工智能已经在司法审判中开始了初期应用，上海于2017年初启动了司法审判人工智能辅助系统的开发。上海法院行政案件智能辅助办案系统前期以政府信息公开案件为基础案由，构建了智能阅卷、智能归纳、智能辅助、庭审评议等模块组成的系统总体架构。在法律人工智能辅助系统开发的同时，我们需要对法律与人工智能的交互关系、人工智能对司法审判决策过程的积极作用，立足于人工智能的技术本质和既有条件进行更为深入的认识。人工智能在改变司法审判过程的直觉主义，推动法律符号系统的完善方面有独特的作用。当然，人工智能进一步在法律领域产生深远影响，仍然需要跨越一些障碍，比如人工智能任务模式、通用性方面的问题。建立法律术语语义网络并完善法律知识库体系，可能是下一步法律人工智能发展的基础。     

论人工智能刑法规制中的技术规范

技术规范是有关人类在利用各类技术时应当遵守的行为准则,由于技术的高度专业性,传统刑法规范难以完全适用其中,因此必要时技术规范也可以进入刑法规制.普通法律规范规制“信息技术”可能产生的漏洞与风险,人工智能刑法规制中涉及的高度技术性及其专业性,人工智能时代面临着未来刑法规范的必要转型.未来人工智能刑法规制中“技术规范”的拓展至全方位动态技术监管体系,需要进一步固定与设计技术法律规范的概念标准,需要进一步完善和加强技术法律规范的具体制度,在搭建起数据安全动态监管框架的基础之上,需要考虑进行框架内具体的技术规范制度设计与填充.为避免数据安全技术法律规范原则性的概括指导,应对人工智能技术特征、行为模式、侵害后果进行全面而具体的把握,设计一整套全方位、综合性的技术规范,以期实现数据安全风险的最小化.     

整体性环境责任与社会源危险废物的法律治理

社会源危险废物的法律治理必须结合整体性的环境责任,使法律责任与伦理道德责任具有价值层面的一致性.整体性环境责任蕴含了道德基础规范,证成了社会源危险废物法律治理的正当性.治理制度的构建应注重程序的正当性、追求道德共识,使大多数人在情感上接受法律治理规范;治理制度的运行应使常态执法饱含尊重与关怀,逐渐消减违法者的负面情感,最终使得强制性法律责任能够促成人们自愿守法.     

论人工智能的法律人格制度需求与多层应对

人工智能的法律人格需求是伴随着自动化技术的发展而产生的,是智能社会治理中许多具体问题都会触及的理论假设.自1992年人工智能法律人格设想被首次提出以来,它成为理论研究、立法建议和司法实践中普遍关注的话题,人工智能生成物的著作权归属、人工智能担任人类工作角色和欧洲的立法动议更促进了这一问题的讨论.人工智能的法律人格具有多维度的需求.既包括明确侵权责任、塑造权利能力等具体需求,也包括以构建社会治理新范式为目标的根本需求.不能简单地从概念上直接排除人工智能具有法律人格的可能性,也不能认为授予法律人格是唯一或者更佳的解决办法.人工智能法律人格是智能社会发展中新型治理模式的选项,以功能主义的态度来进行解释论或立法论的探讨是看待人工智能法律人格问题的正确视角,可以分别按照财产、类推适用代理、借用公司或财产法人、设立新的法律主体等方式回应人工智能带来的法律问题和挑战.即便不设立新的法律人格,在人工智能的侵权责任、合同缔约程序、代理关系认定等方面也需要作出必要的补充规定.     

论法律人工智能的法理逻辑

法律人工智能的法理是"实践之法理",是证成法律人工智能实践之正当性的理据,它反映人工智能的技术理性与法律实践理性相融合以揭示法律运行的规律和特征,是"法外之理"的又一阐释。法律人工智能的法理逻辑在于辩护和证成,其价值不仅为法律人工智能提供法理解释和学理支撑,还在于规范和引导法律人工智能的发展。法律融合人工智能有其天然条件,探究其蕴含之法理是法律融合科技之法理的新命题,法理形式理性是辩护法律人工智能之法理的本质特征。法理之要义应在于指导人工智能理解和遵循立法及司法规律,符合法律任务的特征,满足法律实践的需求,定位和发挥"辅助手"的作用,最大限度地发挥人工智能的技术优势。     

大型语言模型的法律风险与治理路径

大型语言模型促进了生成式人工智能的蓬勃发展。大型语言模型通常作为通用生成式人工智能的技术底层发挥作用,具备信息价值、情感价值、思维价值和劳动价值,也包含信息内容风险、数据与算法安全风险、侵权风险、诚信风险等系列法律风险。大型语言模型及相关应用的法律风险治理面临微观和宏观层面的系列挑战,需要平衡多方面的目标,应当基于包容审慎监管、分层治理、深度治理和敏捷治理的路径对大型语言模型的法律风险治理开展谨慎、灵活的探索性制度实践,进而逐步完善生成式人工智能的风险治理体系。     

人工智能司法的可解释性困境及其纾解

加强对人工智能司法发展及风险的研究是时代课题,其中人工智能司法的可解释性困境尤为关键。人工智能司法可解释性指的是司法决策或行为的可理解与透明性,涉及基础数据、目标任务、算法模型以及人的认知这四类关键要素。不可解释困境主要是由数据失效、算法黑箱、智能技术局限、决策程序和价值缺失等因素所致。但是,人工智能司法的不可解释困境其实是一个伪命题,可解释性具备认知层面和制度层面两方面基础。纾解困境的具体策略包括：构建司法信息公开共享制度,提高有用数据的甄别与利用效率;从软硬法结合视角建构司法系统的运行标准与制度规则;从全过程视角强化主体之间的协同治理;通过指导性案例和司法解释赋权法官的司法解释空间,提高法律解释技术;强化交叉学科人才建设,提高对人工智能司法决策模型的引领;发挥法官的自律与能动性,实现司法智能决策的人机协同。未来,不仅需要把握司法价值与技术理性的平衡,还需考虑人工智能对司法的差异化介入,推动人工智能司法战略目标实现。     

制度变迁史视域下人工智能法律主体地位的法理诠释

随着人工智能对政治体制、经济模式及文化图景影响的不断加强,关于人工智能法律问题的研究日渐显得兴趣盎然,其对传统法律主体理论的冲击加深了这一热度。对于人工智能是否具有法律主体地位,肯定观、否定观和有限人格观作了回应,但观点分别存在基本要件及构成要素不整全、论证理由与现实相悖、立场缺乏正当性的情形。通过制度变迁史的理论分析,审视法律主体地位的认定标准,从具备理性能力的实质要件、权利能力的形式要件及符合社会功能的价值取向三部分来证立人工智能的主体资格,各部分的具体论述能够对人工智能的主体性予以凸显。     

有限法律人格视角下人工智能创作物的著作权保护路径

信息技术突飞猛进的今天,借助于大数据与算法,人工智能已经成为引领新技术的弄潮儿,被越来越广泛地应用于各领域各行业。对人工智能应在其创作物层面认可主体性,从权利归属和纠纷解决的层面上认可其有限法律人格,以此确定人工智能创作物著作权的权利主体归于所有人或实际使用人,确定保护范围和保护期限则是保护人工智能创作物的具体路径。     

人工智能有限法律人格审视

现行法律体系下对于人工智能的法律人格规制缺位,造成实践应用缺乏法律价值指引,人工智能的法律地位与具体规制亟待明晰.人工智能具有独立自主的行为能力,有资格享有法律权利并承担责任义务,人工智能应当具有法律人格.但由于人工智能承担行为能力的后果有限,人工智能适用特殊的法律规范与侵权责任体系安排,其具有的法律人格是有限的法律人格,域外法律对此已有立法借鉴.为调整适应人工智能有限法律人格的规制安排,必须明确人工智能归责原则,通过强制投保责任险、确立以人为本的监管体系、加速《人工智能发展法》立法等体系性安排促进人工智能在可控的范围内发展.     

法律原则的规范性研究

规范性主要是对合法权威与守法主体之间相互关系的一种认识。对理解规范性问题来说,规范性强度是一个重要的概念。法律原则的规范性追问这样两个问题：原则何以成为法律？为何具有指引、约束司法裁判的规范效力？法律原则的规范性包括形式渊源、价值理据、规范特征三个方面的意涵。对法律原则规范性的追问,考问着国家司法权威的公信力。法律原则构成了人之为人的主体性根基。晚近学界对分类式法概念的批判不能替代也不应阻断对法律原则的定性,即对法律原则规范性的追问。     

从人的生物性和伦理性考察法律人格的确认

人的生物性和伦理性体现了人的主体性本质,及其对权利的要求。生物意义上的人被确认成法律意义上的"自然人",是法律对人的"主体性"本质的尊重,是主体法权要求的确认;而法人人格的生成更是法律对社会物质条件法权的尊重。因此,赋予社会交往参加者以法律人格,是法律发展的趋势。     

论算法认知偏差对人工智能法律规制的负面影响及其矫正

算法认知偏差不仅扭曲事实,还影响人工智能法律规制质效。法学文献中的“算法”常用于指代影响权益的人工智能系统。不同于传统编程,机器学习算法是通过向数据学习以形成模型。数据、算力、AI框架、模型框架、人为干预等因素深刻影响算法作用的发挥。算法并不是对利益得失的精巧算计。大部分算法也不具有排他性的财产属性。算法是人工智能体系中相对透明和确定的因素。“算法黑箱”并非人为“黑幕”,而是因基本原理所限导致的验证性和解释性的不足。滥用算法概念会导致人工智能法律规制的失焦、失据、失鹄、失度。数据法与专门立法相结合是人工智能规制的恰当立法形态。过度强调算法不仅造成权利、产业和科技目标难以调和,还可能导致过度监管。算法只有在以人的责任为基础的人工智能系统中才能得到稳妥规制。我国未来应该制定人工智能专门立法。业已开展的算法治理不宜过度冒进,宜审慎处理好当前与未来、名义与实质、规范与发展的关系。在准确的算法认知指导下,算法备案和公示的问题能够得到良好解释和妥善解决。     

权利的人本主义解释

以人为本意味着个人主体性的凸显以及对于他人主体性的尊重。个人对其利益的追求促使人们积极地改变社会,而权利是个人利益正当化的依据和体现,是利益的法律性表述。社会正义的实现与社会和谐的保障依然离不开个人权利的昌明和社会权对弱者的保护。权利观念中渗透着个人主体性与社会性的统一,体现出法律对于＂自尊并尊人＂和＂互为主体＂观念的保护。以人为本实现的基础就是法律的现代化,要实现法律现代化就必须重视现代法律文化系统的建构,而现代法律文化系统的根基就是权利意识和国家对权利的有力保障。