新加坡人工智能犯罪生态治理的实践与探索

<正>技术天然具有两面性特征,类Chat GPT生成式人工智能在给人们带来便利和美好憧憬的同时,也蕴含着犯罪风险。帕加洛在《法律与人工智能高级导论》中指出,“人工智能可能具有特定形式的犯罪人格,考虑到人工智能的灵活性,可塑造机器人和人工智能系统,以从事输入、输出和逻辑操作的连接为特征的活动……人工智能犯罪新场景的唯一限制是人类的想象力”。     

论人工智能时代的机器人权利及其风险规制

机器人权利的产生是社会实力不断提升的结果.而权利发展史也证明,机器人权利主体地位符合权利发展的历史规律.作为一种社会活动的产物,机器人权利有别于人类的"自然权利",它具有法律拟制性、利他性以及功能性等权利属性.由此也形成了数据共享权、个体数据专有权、基于功能约束的自由权以及获得法律救济权四项基本权利类型.同时,机器人权利也对我国的法律体系提出了严峻的挑战,并引发了诸多新型权利纠纷.因此,在应对机器人权利所带来的社会风险上,我国应明确机器人权利的边界及法律保留事项、加强法律与机器人伦理规范的衔接、建立机器人监管机制,从而引领人机关系走向正常化、法治化.     

由技术伦理向法律规范演进:国外人工智能应用规范研究综述

人工智能技术引发各类伦理与法律问题，对人工智能进行规范已经成为世界共识。基于此，各国学者针对人工智能应用规范展开研究，呈现出从伦理规范研究向法律规范研究演进的态势。当前，国外人工智能应用规范研究已经取得多项共识，同时也存在诸多争议。主要共识包括三点：一是人工智能伦理研究的方向应为社会伦理，二是基于确定的人工智能伦理，研究重点应当进一步转向技术实现，三是人工智能伦理规范具有局限性，未经法律规范的人工智能具有侵权风险。现有争议主要集中在人工智能立法的重点问题、人工智能治理的重要方向、人工智能法律体系的构建取向上。主要争议问题包括：人工智能是否具有法律主体资格、人工智能应用侵权的法律责任、人工智能治理中的发展与规范冲突、人工智能治理中的预防与监管平衡、人工智能特殊法律体系构建的主要方向等。未来研究应当立足现有对伦理原则的共识和对重点法律问题的讨论，从系统视角设计人工智能法律规范体系，同时在方法上注意融入计算机领域的研究方法，强化人工智能的技术属性。     

生成式人工智能的法律定位与分层治理

生成式人工智能改变了数字社会的生产架构,向既有的技术治理体系提出挑战。一是生成式人工智能呈现“基础模型—专业模型—服务应用”的分层业态,无法在现有的“技术支持者—服务提供者—内容生产者”监管框架中找到适配的法律定位;二是其传播模式和技术指标使得原有规制工具难以适用。生成式人工智能治理应符合其功能业态的技术逻辑,也应基于其在数字社会生产的地位,重新认识和调整生成式人工智能的法律定位,将模型作为新型的法律治理对象。生成式人工智能的基础模型因可接入千行百业而具有通用性,因同时提供信息内容与机器所需合成数据而具有强大赋能性,是人工智能时代的新型数字基础设施。应构建“基础模型—专业模型—服务应用”的分层治理体系,在不同的层次适配不同的规制思路与工具。在基础模型层以发展为导向,将其作为数字社会新型基础设施设置法律制度;在专业模型层以审慎包容为理念,进行分级分类并设置合理避风港规则;在服务应用层实施敏捷治理,建立合理容错制度。由此,我国得以从单一场景的算法治理发展为适应不同治理目标的复合型系统性治理。     

生成式人工智能的法律风险及其规制

生成式人工智能技术作为一种“破坏性创新”,在推动技术变革的同时,也因其独特的技术逻辑带来了诸多治理风险。如生成式人工智能巨量化数据的训练模式存在数据侵权风险,基于人类反馈的强化学习模式则可能加剧虚假信息的生成和传播,其技术壁垒又会强化互联网巨头的垄断地位,进而带来一系列风险。而我国现行法律对生成式人工智能的规制虽然形成了初步框架,但仍在宏观和微观方面存在困境,以欧盟和美国的监管措施为镜鉴,我国应当秉持包容审慎的理念,协同多元主体对生成式人工智能进行共商共管,通过“共建”“共治”实现成果“共享”。     

生成式人工智能的风险规制困境及其化解：以ChatGPT的规制为视角

以ChatGPT为代表的生成式人工智能技术产生，在极大地提升人们工作效率的同时，也在相关领域带来了诸多法律风险。这种风险具体表现为：数据使用风险、生成内容滥用风险、算法滥用风险以及其他风险。目前我国虽然已经初步具备了有关人工智能的基本治理框架，但相关的理论以及实践仍在治理主体、治理规范设置、治理手段以及治理规则适用等方案上存在不足。生成式人工智能的出现，凸显了科技进步迭代过程中产生的“破坏性创新”现象，这也倒逼我国当前的人工智能治理模式需要从回应型治理、集中型治理向敏捷型治理转换。这要求我国在总体上坚持包容审慎的治理态度，具体包括从法律层面的制度构建、软法规范层面的填补式风险治理以及通过监管沙盒实现敏捷型风险治理等三方面来完善现有的人工智能风险治理体系，在技术创新与风险治理之间寻求平衡，从而实现数字经济的健康持续发展。     

生成式人工智能的法律规制——以ChatGPT为视角

以ChatGPT为代表的生成式人工智能技术落地与大规模应用，改变了人类与人工智能的传统交互模式，对社会生产方式产生了重大变革。国际国内都出现了对人工智能主体地位及法律规制等方面的学术探讨，以应对生成式人工智能引发的伦理道德、知识产权保护、隐私与数据保护、市场垄断、网络犯罪和数据安全等一系列风险。在现阶段，我国生成式人工智能治理，应坚持安全与发展相平衡的理念，在以人为本的原则统领下设计人工智能伦理准则，推动构建以通用人工智能立法为基础，以生成式人工智能专门性管理办法为补充，以既有法律规范为根本的系统性人工智能法律规范体系。     

有限理性存在者：智能机器人成为权利主体的理论基石

技术的发展隐藏着对人类主体的消解。智能机器人的诞生既是文明的进步,也带来了法律和伦理的风险,带来了对“人何以为人”的重新思考。在诸多人工智能法律问题中,智能机器人的权利主体问题是最亟待厘清的核心问题。“有限理性存在者”平衡了主体的本真性和理性的有限性,以“范畴差异”的模型统御了自由意志。具有“反事实”因果能力的智能机器人能够借此分析路径融贯的纳入权利主体理论,并且根据人类尊严和法律需求设置不同的权利主体层级。     

人工智能生成技术方案的专利法规制 ——理论争议、实践难题与法律对策

人工智能生成技术方案的出现,使专利法面临着诸多方面的挑战。理论层面,鉴于人工智能法律主体资格的缺失,无论是以洛克劳动学说和黑格尔人格学说为代表的“自然权利论”,还是以实现利益最大化为基础的“创新激励论”,都无法为人工智能生成技术方案的专利保护正当性提供充分的理论证成。实践层面,由于相关法律关系的复杂性,人工智能生成技术方案的专利法规制中,则存在着在可专利性判断标准的失灵问题、获得专利保护后的权责分配问题以及进入公有领域后的风险控制问题等一系列实践难题。因此,有必要通过引入人工智能作为技术“发明人”的制度设计、创立人工智能生成技术方案的可专利性标准、构建人工智能生成专利技术的权责分配规则、设置人工智能生成现有技术的风险防范机制等法律对策,消除理论争议并化解实践难题,以此实现专利法对人工智能生成技术方案的有效规制。     

意大利人工智能犯罪现状及治理

<正>作为全球经济和文化中心之一,意大利的科技发展水平居于世界前列。随着“第四次工业革命”的到来,人工智能技术所带来的进步在极大地推动了意大利社会和经济发展的同时,也催生了新的犯罪形式——人工智能犯罪。所谓人工智能犯罪,是指利用人工智能技术进行的非法行为或对人工智能系统的恶意操作。其反映了信息时代技术发展与犯罪活动之间的交织,给传统的法律和治理体系带来了前所未有之挑战。因此,人工智能犯罪的治理成为当前维护意大利社会稳定的重要方面。     

类ChatGPT模型在数字检察中的应用前景及规制

类ChatGPT模型作为多模态大模型，相较于传统人工智能，在数据分析与处理能力、专业素养、自然语言生成及理解能力等多个方面表现出色，这为我国数字检察实践提供了诸多机遇。但类ChatGPT模型也可能带来法律伦理与责任、技术可靠性以及数据安全等问题。为应对类ChatGPT模型给数字检察带来的风险，需要确立人工智能技术应用于数字检察的一般性原则；建立问责制度，促进司法人工智能应用的规范化、法治化；建立审查制度；建立数据安全制度，保障国家数据安全与公民个人信息安全。     

试论我国社会法的基本范畴

社会法,是指调整国家和人民之间社会给付权利义务关系的法律规范的总称。社会法是在社会保障法的基础上发展起来,并超越了社会保障法的给付模式和给付水平。社会法在性质上属于公法,并且以社会给付为核心。我国社会法的体系宜分为“社会预防制度”、“社会扶助制度”、“社会促进制度”与“社会补偿制度”四大板块,这四大板块与社会给付程序法及社会救济法构成了一个有机的社会法体系。它们在维护社会安全、促进社会公正上发挥着相互衔接、互相补充的功能,并形成一张安全网,保障个人在遭受各种风险时的生存和发展机会。     

风险社会与侵权损害救济途径多元化

现代风险社会给人们带来更多的不确定性和不安全感,传统侵权法律制度在面对不断涌现的新型侵权行为以及灾难性、大规模的人身损害事故时存在局限性。对此,我国《侵权责任法》在功能定位、保障范围、加害事由、归责原则等方面的制度设计,对风险社会的现实状况和生活形态作出了回应,尤其强化了侵权法的救济功能。侵权法的这种制度变化改变了我国责任风险的原有形态;同时,在侵权法律体系内也不可能完全解决对受害人的赔偿和救济问题,由此给责任保险和社会保障制度提供了更大的发展空间。在以侵权法、责任保险和社会保障为主体的多元救济体系中,各项制度之间应注意协调,避免赔偿不足或赔偿过度。     

人工智能视野下医疗机器人的侵权责任分配

以人工智能的自主性程度为标准，可将其发展阶段划分为弱人工智能阶段、中人工智能阶段和强人工智能阶段。而伴随智能化程度的不断提升，医务人员对医疗机器人诊疗活动的核查义务也在发生着明显的变化。以医疗机器人在各个阶段法律属性的差异性为基础，结合医疗机构、生产厂商和医疗机器人之间的联系，分别探讨医疗机器人在三个不同发展阶段医疗责任、产品责任以及其他法律制度的适用问题，以期实现对医疗机器人侵权责任的合理分配。     

论人工智能刑法规制中的技术规范

技术规范是有关人类在利用各类技术时应当遵守的行为准则,由于技术的高度专业性,传统刑法规范难以完全适用其中,因此必要时技术规范也可以进入刑法规制.普通法律规范规制“信息技术”可能产生的漏洞与风险,人工智能刑法规制中涉及的高度技术性及其专业性,人工智能时代面临着未来刑法规范的必要转型.未来人工智能刑法规制中“技术规范”的拓展至全方位动态技术监管体系,需要进一步固定与设计技术法律规范的概念标准,需要进一步完善和加强技术法律规范的具体制度,在搭建起数据安全动态监管框架的基础之上,需要考虑进行框架内具体的技术规范制度设计与填充.为避免数据安全技术法律规范原则性的概括指导,应对人工智能技术特征、行为模式、侵害后果进行全面而具体的把握,设计一整套全方位、综合性的技术规范,以期实现数据安全风险的最小化.     

人工智能时代技术风险的刑法应对

人工智能技术应用过程中的风险是人工智能技术的“内在风险”，包括冲击现有的秩序与制度，侵犯公民个人信息与隐私等。人工智能产品风险是人工智能技术的“外在风险”，其可能对人类社会造成威胁甚至实际的危害。人工智能技术风险不同于克隆人技术风险，因为人工智能技术对人类传统的伦理道德并未造成实际的背离，且是被鼓励和支持发展的技术，其发展趋势具有不可预测性，其对人类社会生活的影响是“渗透式”的。面对人工智能时代的技术风险，应追究人工智能缺陷产品研发者的刑事责任，包括故意和过失。应追究利用人工智能技术实施犯罪行为的刑事责任，同时，在刑法中确立智能机器人的刑事责任主体地位，增设删除数据、修改程序、永久销毁等刑罚种类。     

论人工智能的规范构建——以诚实信用原则为依托

人工智能技术研发的重要性不言而喻,其不仅是新兴产业的发展方向,也是经济发展的潜在驱动力.调整和规范人工智能的技术应用是稳定技术成果的价值,更是促进社会发展的必然要求.新技术带来的创新突破有利于经济效益和社会福利的增加,而如何固定新技术带来的经济效益与社会福利则是规范构建的目标.诚实信用原则是民事法律体系中的重要法律原则,调整民事主体行为模式,分配民事权益和利益,构建稳定有序的行为秩序作为基本制度目标.对于人工智能为代表的新技术,诚实信用原则能够通过制度功能协调不同主体参与技术应用的行为模式和利益需求,为人工智能规范构建的具体构建和实施奠定制度基础.     

人工智能时代的隐私保护

伴随大数据、物联网、深度学习等技术的发展，一个“万物互联、人人在线、事事算法”的人工智能时代正在到来。数据是人工智能的基础，算法是人工智能的本质，人工智能越智能就越依赖数据的喂养和算法的支持，由此引发严重的隐私危机。一方面，人工智能极大地增强了隐私入侵的能力，带来了更多的隐私获取性；另一方面，人工智能侵害隐私的行为极具迷惑性，造成的损害后果更加严重。对此，传统隐私保护法律框架显得捉襟见肘，既无法有效保护人们的隐私，也难以充分发挥个人信息的利用价值，而欧盟最新的《一般数据保护法》则做了诸多有益的探索。面对人工智能时代提出的新挑战，我国应当完善隐私保护的法律体系，重视隐私保护的技术路径，探索隐私保护的市场机制，确立隐私保护的伦理原则。     

生成式人工智能机器学习中的著作权风险及其化解路径

作为一种基于机器学习的人工智能技术，生成式人工智能通过大规模数据集的学习训练来生成新的内容。生成式人工智能的快速迭代发展与机器学习的强数据依赖，在带来“创作”便利的同时，也给传统著作权理论带来了挑战。尤其是机器学习中的大规模素材训练所面临的著作权风险，亟待理论上的剖析厘清、司法实践上的准则确立。笔者从生成式人工智能的技术原理出发，通过梳理其素材来源与使用方式，分析机器学习素材训练中的典型侵权类型。并从理论基础、国内司法、欧盟立法等方面分析合理使用制度相对于法定许可制度的可行性。最终提出将生成式人工智能机器学习中的版权作品使用行为纳入合理使用制度范畴，既是当今科技发展浪潮中促进人工智能产业发展的最优解，也是维持“个人利益”与“公共利益”之间平衡的理性考量。     

以融合正义重构人工智能司法的逻辑

我国的人工智能司法发展具有明显的突变特色,缺乏足够的制度和理论调适,广泛应用会带来司法逻辑的内在冲突。司法的社会技术特性和人工智能的自然技术特性之间具有天然的亲和性,为我国人工智能司法广泛应用提供了工具理性基础。但人工智能介入司法会带来原有社会黏合基础改变,无法完全应对司法过程的随机性和偶然性因素,并且会因为技术竞争带来新的不正义。需要扩展法律正义的蕴含,将法律正义的纯粹道德内核扩展为功利-道德内核,将司法从社会技术转换为技术-社会技术;在司法结构上设置技术-社会的双重竞争性机制,以维护基本的演化平衡;通过技术-社会互动的重构实现人工智能介入后的融合正义司法模式。