生成式人工智能的法律定位与分层治理

生成式人工智能改变了数字社会的生产架构,向既有的技术治理体系提出挑战。一是生成式人工智能呈现“基础模型—专业模型—服务应用”的分层业态,无法在现有的“技术支持者—服务提供者—内容生产者”监管框架中找到适配的法律定位;二是其传播模式和技术指标使得原有规制工具难以适用。生成式人工智能治理应符合其功能业态的技术逻辑,也应基于其在数字社会生产的地位,重新认识和调整生成式人工智能的法律定位,将模型作为新型的法律治理对象。生成式人工智能的基础模型因可接入千行百业而具有通用性,因同时提供信息内容与机器所需合成数据而具有强大赋能性,是人工智能时代的新型数字基础设施。应构建“基础模型—专业模型—服务应用”的分层治理体系,在不同的层次适配不同的规制思路与工具。在基础模型层以发展为导向,将其作为数字社会新型基础设施设置法律制度;在专业模型层以审慎包容为理念,进行分级分类并设置合理避风港规则;在服务应用层实施敏捷治理,建立合理容错制度。由此,我国得以从单一场景的算法治理发展为适应不同治理目标的复合型系统性治理。     

生成式人工智能的发展与刑事责任能力的生成

以ChatGPT为代表的新一代生成式人工智能的产生具有革命性和划时代意义。生成式人工智能的存在和发展必然极大程度引发社会生产力的新一轮爆发,进而决定生产关系发生重大改变。时下ChatGPT等生成式人工智能仍然属于弱人工智能范围,但该技术的发展对传统刑法理论已经并将继续造成重大影响。ChatGPT等生成式人工智能可能改变传统犯罪的行为类型、影响刑事责任的分配与转移并且改变现有的刑事责任主体范围。不能因为ChatGPT等生成式人工智能不是人,而就一定不能成为刑事责任主体;不能因为ChatGPT等生成式人工智能没有生命,而就一定不具有刑事责任能力;不能因为ChatGPT等生成式人工智能没有人脑,而就一定不会具有独立意识意志(即辨认、控制能力);不能因为ChatGPT等生成式人工智无法具体适用现行刑法中的刑罚,而就一定不能成为刑事责任主体。ChatGPT等生成式人工智能与人类一样可能是同时受自然法则(他律的、自然律的因果性)和道德法则(自律的、由自由而来的因果性)支配的物种,从而推定其可能拥有自由意志,进而满足承担刑事责任或者成为刑事责任主体的最本质条件。     

生成式人工智能绘画侵权的样态分析与规制路径

生成式人工智能绘画的出现为人工智能行业带来了巨大的发展机遇，但也带来了一系列挑战，如侵权行为的普遍存在、造假行为的猖獗以及生成式人工智能绘画的售卖牟利和侵犯隐私等。这些问题都成为阻碍生成式人工智能绘画产业健康可持续发展的主要因素。生成式人工智能绘画侵权保护是一个包括政策、法律、科技、产业等多个领域和方面的系统性工程，要汇集多种力量共同推进。为了有效地防止生成式人工智能绘画侵权行为，应从生成式人工智能绘画的发展历程出发，系统分析生成式人工智能绘画侵权模式，深入探究生成式人工智能绘画的规制路径，从机制、主体、创新等多方面提出有效的优化策略，以期达到更好的法律规制效果。     

生成式人工智能背景下数据安全的刑法保护困境与应对--以ChatGPT为视角的展开

ChatGPT是基于大型神经网络语言模型并通过强化学习进行训练,能够实现与用户深度交流的生成式人工智能。在人工智能背景下,现行刑法尚不足以抵御生成式人工智能带来的数据安全风险。生成式人工智能对数据的海量获取需求,与刑法中的数据控制保护理念存在天然矛盾;生成式人工智能因其存在自由意志的现实可能性,对传统刑事责任主体的范围也发起了挑战。故应从两方面着手提升刑法对新形势下数据安全的保护能力:一方面刑法对数据安全的保护应从数据控制保护模式转向数据利用保护模式,包括建立非法获取行为的出罪机制、规制数据滥用行为,以及建构专门的数据安全刑法保护体系;另一方面,应考虑人工智能体成为刑事责任主体的可能性,对其自由意志支配下实施的数据侵害行为进行自我答责。     

生成式人工智能版权问题研究

以ChatGPT为代表的生成式人工智能正在引发传统版权领域的诸多挑战,生成式人工智能主体资格、创作内容作品属性、版权侵权责任等问题需要进一步明确。遵循“人类中心主义”,生成式人工智能的主体资格面临既有制度规范、民事基础理论等方面的否定。然而,生成式人工智能创作内容具有可版权性,值得版权保护。为此,需要明晰生成式人工智能创作内容的权利主体,确立以约定优先为原则、以使用者为主导的版权归属路径。同时,构建生成式人工智能的版权侵权责任判定体系,准确划分机器学习行为的合法边界,推动生成式人工智能的创新发展。     

生成式人工智能应用的伦理立场与治理之道：以ChatGPT为例

随着以ChatGPT为代表的生成式人工智能技术的突飞猛进,人工智能的伦理问题受到了广泛关注。生成式人工智能引发了削弱人类主体价值、加剧算法偏见与歧视、过度依赖拟态环境输出结果、人机协作双向价值对齐困难等伦理难题,亟须从人工智能伦理治理组织机制、人工智能伦理规范机制两方面入手,明确生成式人工智能应用中的人本主义立场,建构生成式人工智能治理的伦理规则,为增进人类福祉提供有力的伦理支撑。     

ChatGPT等生成式人工智能的刑事责任问题研究

ChatGPT等生成式人工智能的出现意味着人工智能的“技术奇点”越来越近。GPT-4及更进一步的生成式人工智能已经触及了强人工智能的边缘,使我们真真切切地感受到强人工智能时代“未来已来”。ChatGPT等生成式人工智能具有一定的逻辑推理能力和创造能力,甚至还具有通过其自身独立进行编程的能力,从而拥有脱离人类的独立意识和自主意志的可能性。对ChatGPT等生成式人工智能进行刑法学研究刻不容缓。根据不同的标准,可以对ChatGPT等生成式人工智能可能引发的犯罪类型进行多种分类。以相关行为符合的罪名和行为类型为标准,ChatGPT等生成式人工智能可能涉及的犯罪可分为煽动类犯罪,侵犯知识产权类犯罪,侵犯数据、信息、计算机信息系统类犯罪,侵犯公民人身权利类犯罪,以及传授犯罪方法、提供犯罪程序类犯罪等。比人脑更“聪明”且具有独立意识和自主意识的人工智能无疑会对现有刑法理论和刑罚体系造成巨大冲击。     

人工智能生成内容的著作权保护研究

生成式人工智能的出现,引发了是否需要给予人工智能生成内容（包括图片、文章等）著作权保护的讨论。人工智能生成内容是否构成作品的关键在于外观上是否具备独创性,而无需考虑创作主体和创作过程。但是,著作权法保护的是人类作品,生成式人工智能无法成为适格作者,仅仅是自然人作者实施创作的辅助工具。生成式人工智能使用者的操作过程可以被理解为创作,但是应进行个案判断。使用者基于创作行为取得作者身份和著作权,同时,投资者、开发者、所有者等主体的权益也能够得到充分实现。由于人工智能生成内容的著作权问题尚未形成共识,目前认定第三人侵权时应持审慎态度,赔偿数额宜低不宜高,不宜判处惩罚性赔偿。     

生成式人工智能的刑法规制问题研究

利用生成式人工智能实施诈骗等犯罪的定性较为复杂,实现生成式人工智能提供者与使用者的相关行为合理的刑法规制需要区别对待。针对生成式人工智能提供者,因无法适用《刑法》第285条第3款、第286条之一以及第287条之二,合适的做法是依据新过失论对其适用过失责任,同时通过立法明确生成式人工智能提供者的责任依据;针对生成式人工智能的使用者,因《刑法》第253条之一无法评价“合法获取、非法使用”的情形,使用者不构成侵犯公民个人信息罪,但其使用行为可构成非法利用信息网络罪,若构成非法利用信息网络罪与诈骗罪的牵连,应依据处罚较重的罪名定罪处罚。     

生成式人工智能的法律风险及其规制

生成式人工智能技术作为一种“破坏性创新”,在推动技术变革的同时,也因其独特的技术逻辑带来了诸多治理风险。如生成式人工智能巨量化数据的训练模式存在数据侵权风险,基于人类反馈的强化学习模式则可能加剧虚假信息的生成和传播,其技术壁垒又会强化互联网巨头的垄断地位,进而带来一系列风险。而我国现行法律对生成式人工智能的规制虽然形成了初步框架,但仍在宏观和微观方面存在困境,以欧盟和美国的监管措施为镜鉴,我国应当秉持包容审慎的理念,协同多元主体对生成式人工智能进行共商共管,通过“共建”“共治”实现成果“共享”。     

大型语言模型的法律风险与治理路径

大型语言模型促进了生成式人工智能的蓬勃发展。大型语言模型通常作为通用生成式人工智能的技术底层发挥作用,具备信息价值、情感价值、思维价值和劳动价值,也包含信息内容风险、数据与算法安全风险、侵权风险、诚信风险等系列法律风险。大型语言模型及相关应用的法律风险治理面临微观和宏观层面的系列挑战,需要平衡多方面的目标,应当基于包容审慎监管、分层治理、深度治理和敏捷治理的路径对大型语言模型的法律风险治理开展谨慎、灵活的探索性制度实践,进而逐步完善生成式人工智能的风险治理体系。     

生成式人工智能的法律规制——以ChatGPT为视角

以ChatGPT为代表的生成式人工智能技术落地与大规模应用，改变了人类与人工智能的传统交互模式，对社会生产方式产生了重大变革。国际国内都出现了对人工智能主体地位及法律规制等方面的学术探讨，以应对生成式人工智能引发的伦理道德、知识产权保护、隐私与数据保护、市场垄断、网络犯罪和数据安全等一系列风险。在现阶段，我国生成式人工智能治理，应坚持安全与发展相平衡的理念，在以人为本的原则统领下设计人工智能伦理准则，推动构建以通用人工智能立法为基础，以生成式人工智能专门性管理办法为补充，以既有法律规范为根本的系统性人工智能法律规范体系。     

生成式人工智能机器学习中的著作权风险及其化解路径

作为一种基于机器学习的人工智能技术，生成式人工智能通过大规模数据集的学习训练来生成新的内容。生成式人工智能的快速迭代发展与机器学习的强数据依赖，在带来“创作”便利的同时，也给传统著作权理论带来了挑战。尤其是机器学习中的大规模素材训练所面临的著作权风险，亟待理论上的剖析厘清、司法实践上的准则确立。笔者从生成式人工智能的技术原理出发，通过梳理其素材来源与使用方式，分析机器学习素材训练中的典型侵权类型。并从理论基础、国内司法、欧盟立法等方面分析合理使用制度相对于法定许可制度的可行性。最终提出将生成式人工智能机器学习中的版权作品使用行为纳入合理使用制度范畴，既是当今科技发展浪潮中促进人工智能产业发展的最优解，也是维持“个人利益”与“公共利益”之间平衡的理性考量。     

生成式人工智能中个人信息保护的全流程合规体系构建

在当前生成式人工智能的运行过程中,个人信息面临着收集范围与限度不明、算法违规处理及生成错误结论等问题,因此亟须构建个人信息保护的全流程合规体系。在准备阶段,生成式人工智能应该基于最小必要原则来明确合规收集范围,并将个人信息进行碎片化处理来合规限制收集深度。在运算阶段,生成式人工智能应该在自我学习时通过知识蒸馏构建学生模型来保证算法合规,并进行安全评估与算法备案。对一般类型个人信息、敏感个人信息及生物特征信息采用不同的合规处理模式,并在反馈阶段标注存在风险的个人信息,反向推动算法进行自我改进。在生成阶段,当生成错误结论时,合规监管部门应该分类审查生成式人工智能在个人信息处理上的缺陷,并从合规有效性标准、算法运算逻辑及实质法益损害这三个方面判断平台能否实质出罪。     

论生成式人工智能侵权中服务提供者过错的认定——以“现有技术水平”为标准

从促进和规范人工智能产业发展、鼓励科技创新出发，应当对生成式人工智能致害的侵权责任采过错责任原则。在认定生成式人工智能服务提供者的过错时，应当以现有技术水平作为判断标准，现有技术水平需要考虑时间维度、行业维度和地域维度。在按照现有技术标准认定服务提供者的过错时，应当考虑生成式人工智能服务提供者在输入信息的真实性、输出信息的真实性以及服务提供者违反个人信息安全保证义务等方面，在现有技术条件下是否尽到了采取了必要措施的义务，是否尽到了预防和防范的义务，从而认定其是否具有过错。同时，考虑到现有技术条件下生成式人工智能侵权的特殊性，应当对服务提供者变通适用通知规则。     

人机共融到人机共荣——以ChatGPT为例论生成式人工智能生成物的可著作权性问题

ChatGPT以其高度拟人化的输出结果和对话式的交互方式,模糊了传统劳动工具和劳动主体之间的界限,为我们展示了一种人工智能深度参与人类活动的人机共融情景。但以ChatGPT为典型的生成式人工智能的生成物,其可著作权性问题就因为其在形式上不断接近人类作品,而引起了高度关注。从ChatGPT的运作过程、生成物特点上来看,生成式人工智能生成物在形式表现上与人的作品几乎无异,但人工智能本身却无创作意识也无思想情感。在面临着劳动主体、激励作用和权利桎梏上的赋权困境,生成式人工智能生成物在可见的将来更适合成为公共领域中的开放知识。     

风险与控制：论生成式人工智能应用的个人信息保护

生成式人工智能的技术跃进架空了个人信息处理的告知同意规制和最小必要原则，引发了虚假信息生成和个人信息泄漏的广泛风险迭代问题。传统个人信息的权利保护路径面临认知和结构困境，无法应对生成式人工智能给个人信息保护带来极大挑战。以风险控制为导向的个人信息保护机制不强调信息主体对个人信息的绝对控制，旨在通过识别、评估、分配和管理将风险控制在最小范围内，可以灵活和实用地平衡生成式人工智能应用中的信息利用和风险控制，提供有效的解决方案。在风险控制理念下，对告知同意规则和最小必要原则进行风险化解释与调试，并建立从预防到识别再到控制的虚假信息生成风险的全过程应对机制，以及基于风险的个人信息保护合规管理体系，是当前的最优选择。     

生成式人工智能侵权责任探析

生成式人工智能的侵权责任，在理论上可以从产品责任和一般侵权责任两种路径进行分析。在当前的法律框架下，对于以大语言模型为代表的生成式人工智能系统而言，不宜将其纳入到产品责任的范畴，而宜通过一般侵权责任制度并辅之以过错推定规则，这样既可以解决受害人的举证困难问题，也便于通过司法控制机制对生成式人工智能提供者的责任负担进行动态调整。为了维持生成式人工智能提供者与受害人之间的利益平衡，可以通过“通知—处置”规则对提供者施加消除侵权信息影响并防止系统再次生成侵权信息的义务。     

新加坡人工智能犯罪生态治理的实践与探索

<正>技术天然具有两面性特征,类Chat GPT生成式人工智能在给人们带来便利和美好憧憬的同时,也蕴含着犯罪风险。帕加洛在《法律与人工智能高级导论》中指出,“人工智能可能具有特定形式的犯罪人格,考虑到人工智能的灵活性,可塑造机器人和人工智能系统,以从事输入、输出和逻辑操作的连接为特征的活动……人工智能犯罪新场景的唯一限制是人类的想象力”。     

生成式人工智能及潜在司法应用场景

<正>ChatGPT(Generative Pretrained Transformer的缩写，意为生成式预训练变换模型)是美国人工智能研究实验室OpenAI推出的一种人工智能技术驱动的NLP（自然语言处理）工具。目前，ChatGPT具备语言生成、上下文学习、已知知识储备与输出等功能，一定程度上来说已适应人类的表达预期。随着科技的发展，数字化正在改变我们的生活，也在改变司法工作的方式。如何运用ChatGPT这类新技术，服务司法工作，助力国家治理现代化？上海市人民检察院、同济大学人工智能社会治理协同创新中心、百度智能云、科大讯飞相关专家积极建言献策。