生成式人工智能的发展与刑事责任能力的生成

以ChatGPT为代表的新一代生成式人工智能的产生具有革命性和划时代意义。生成式人工智能的存在和发展必然极大程度引发社会生产力的新一轮爆发,进而决定生产关系发生重大改变。时下ChatGPT等生成式人工智能仍然属于弱人工智能范围,但该技术的发展对传统刑法理论已经并将继续造成重大影响。ChatGPT等生成式人工智能可能改变传统犯罪的行为类型、影响刑事责任的分配与转移并且改变现有的刑事责任主体范围。不能因为ChatGPT等生成式人工智能不是人,而就一定不能成为刑事责任主体;不能因为ChatGPT等生成式人工智能没有生命,而就一定不具有刑事责任能力;不能因为ChatGPT等生成式人工智能没有人脑,而就一定不会具有独立意识意志(即辨认、控制能力);不能因为ChatGPT等生成式人工智无法具体适用现行刑法中的刑罚,而就一定不能成为刑事责任主体。ChatGPT等生成式人工智能与人类一样可能是同时受自然法则(他律的、自然律的因果性)和道德法则(自律的、由自由而来的因果性)支配的物种,从而推定其可能拥有自由意志,进而满足承担刑事责任或者成为刑事责任主体的最本质条件。     

生成式人工智能应用的伦理立场与治理之道：以ChatGPT为例

随着以ChatGPT为代表的生成式人工智能技术的突飞猛进,人工智能的伦理问题受到了广泛关注。生成式人工智能引发了削弱人类主体价值、加剧算法偏见与歧视、过度依赖拟态环境输出结果、人机协作双向价值对齐困难等伦理难题,亟须从人工智能伦理治理组织机制、人工智能伦理规范机制两方面入手,明确生成式人工智能应用中的人本主义立场,建构生成式人工智能治理的伦理规则,为增进人类福祉提供有力的伦理支撑。     

生成式人工智能版权问题研究

以ChatGPT为代表的生成式人工智能正在引发传统版权领域的诸多挑战,生成式人工智能主体资格、创作内容作品属性、版权侵权责任等问题需要进一步明确。遵循“人类中心主义”,生成式人工智能的主体资格面临既有制度规范、民事基础理论等方面的否定。然而,生成式人工智能创作内容具有可版权性,值得版权保护。为此,需要明晰生成式人工智能创作内容的权利主体,确立以约定优先为原则、以使用者为主导的版权归属路径。同时,构建生成式人工智能的版权侵权责任判定体系,准确划分机器学习行为的合法边界,推动生成式人工智能的创新发展。     

ChatGPT等生成式人工智能的刑事责任问题研究

ChatGPT等生成式人工智能的出现意味着人工智能的“技术奇点”越来越近。GPT-4及更进一步的生成式人工智能已经触及了强人工智能的边缘,使我们真真切切地感受到强人工智能时代“未来已来”。ChatGPT等生成式人工智能具有一定的逻辑推理能力和创造能力,甚至还具有通过其自身独立进行编程的能力,从而拥有脱离人类的独立意识和自主意志的可能性。对ChatGPT等生成式人工智能进行刑法学研究刻不容缓。根据不同的标准,可以对ChatGPT等生成式人工智能可能引发的犯罪类型进行多种分类。以相关行为符合的罪名和行为类型为标准,ChatGPT等生成式人工智能可能涉及的犯罪可分为煽动类犯罪,侵犯知识产权类犯罪,侵犯数据、信息、计算机信息系统类犯罪,侵犯公民人身权利类犯罪,以及传授犯罪方法、提供犯罪程序类犯罪等。比人脑更“聪明”且具有独立意识和自主意识的人工智能无疑会对现有刑法理论和刑罚体系造成巨大冲击。     

生成式人工智能的法律规制——以ChatGPT为视角

以ChatGPT为代表的生成式人工智能技术落地与大规模应用，改变了人类与人工智能的传统交互模式，对社会生产方式产生了重大变革。国际国内都出现了对人工智能主体地位及法律规制等方面的学术探讨，以应对生成式人工智能引发的伦理道德、知识产权保护、隐私与数据保护、市场垄断、网络犯罪和数据安全等一系列风险。在现阶段，我国生成式人工智能治理，应坚持安全与发展相平衡的理念，在以人为本的原则统领下设计人工智能伦理准则，推动构建以通用人工智能立法为基础，以生成式人工智能专门性管理办法为补充，以既有法律规范为根本的系统性人工智能法律规范体系。     

以ChatGPT为代表的生成式AI内容的可版权性研究

以ChatGPT为代表的生成式AI内容具有可版权性。就激励创作而言，被激励的对象并非生成式AI本身，而是使用生成式AI创作的人，生成式AI起到的依然是创作工具的作用，依可版权性将生成式AI内容置于版权法体系框架下进行保护符合最便宜保护形式的需要，同时能够为确定生成式AI内容版权侵权的责任主体提供依据。在生成式AI作品认定上，区别于传统作品的认定，应依独创性和实质性贡献来综合判断生成式AI内容是否为著作权法调整的作品。在生成式AI作品版权归属规则上，确定生成式AI作品的版权归属于真正创作该作品的人，即生成式AI的使用者，但允许通过约定的形式，借鉴合作作品权益分享规则，形成生成式AI开发者和使用者共有作品版权的权益归属规则。     

生成式人工智能背景下数据安全的刑法保护困境与应对--以ChatGPT为视角的展开

ChatGPT是基于大型神经网络语言模型并通过强化学习进行训练,能够实现与用户深度交流的生成式人工智能。在人工智能背景下,现行刑法尚不足以抵御生成式人工智能带来的数据安全风险。生成式人工智能对数据的海量获取需求,与刑法中的数据控制保护理念存在天然矛盾;生成式人工智能因其存在自由意志的现实可能性,对传统刑事责任主体的范围也发起了挑战。故应从两方面着手提升刑法对新形势下数据安全的保护能力:一方面刑法对数据安全的保护应从数据控制保护模式转向数据利用保护模式,包括建立非法获取行为的出罪机制、规制数据滥用行为,以及建构专门的数据安全刑法保护体系;另一方面,应考虑人工智能体成为刑事责任主体的可能性,对其自由意志支配下实施的数据侵害行为进行自我答责。     

来自“世界3”的知识欺诈:生成式人工智能的刑事风险应对

ChatGPT的出现标志着生成式人工智能在语义理解和知识创造上逐渐向类似人类的方向进化。通过ChatGPT的知识代理式协助,人类开启了与客观知识世界间的双向交互,这虽然增强了知识获取的灵活性和针对性,但也带来了工具性的技术滥用风险和内因性的数据安全风险。这两类风险加剧了虚假信息传播、犯罪方法传授、用户数据泄露等危害行为的异化,对传统事后回应型治理模式提出挑战。对此,犯罪治理应围绕技术加速迭代与治理资源不足间的显性矛盾,以及平台权力扩张与监管力量失衡间的隐性矛盾,从“看门人义务”的体系性完善和数据安全监管义务的实质性强化出发,将立法导向内嵌于技术理性之中,探索符合人类社会发展需要的生成式人工智能治理机制。     

人工智能生成内容的著作权保护研究

生成式人工智能的出现,引发了是否需要给予人工智能生成内容（包括图片、文章等）著作权保护的讨论。人工智能生成内容是否构成作品的关键在于外观上是否具备独创性,而无需考虑创作主体和创作过程。但是,著作权法保护的是人类作品,生成式人工智能无法成为适格作者,仅仅是自然人作者实施创作的辅助工具。生成式人工智能使用者的操作过程可以被理解为创作,但是应进行个案判断。使用者基于创作行为取得作者身份和著作权,同时,投资者、开发者、所有者等主体的权益也能够得到充分实现。由于人工智能生成内容的著作权问题尚未形成共识,目前认定第三人侵权时应持审慎态度,赔偿数额宜低不宜高,不宜判处惩罚性赔偿。     

生成式人工智能及潜在司法应用场景

<正>ChatGPT(Generative Pretrained Transformer的缩写，意为生成式预训练变换模型)是美国人工智能研究实验室OpenAI推出的一种人工智能技术驱动的NLP（自然语言处理）工具。目前，ChatGPT具备语言生成、上下文学习、已知知识储备与输出等功能，一定程度上来说已适应人类的表达预期。随着科技的发展，数字化正在改变我们的生活，也在改变司法工作的方式。如何运用ChatGPT这类新技术，服务司法工作，助力国家治理现代化？上海市人民检察院、同济大学人工智能社会治理协同创新中心、百度智能云、科大讯飞相关专家积极建言献策。     

生成式人工智能的犯罪风险及刑法规制

以ChatGPT为代表的生成式人工智能在推动生产、生活方式发生颠覆性变革的同时,也给人类社会带来了巨大的技术风险。从刑事法治的角度来看,生成式人工智能数据处理不透明、生成过程不可控、输出内容复合性,以及技术滥用等蕴含着较大的犯罪风险,极易造成严重的危害结果。生成式人工智能带来的犯罪风险使刑法出现了行为规制缺漏、责任判断困难等问题,并对刑法人类中心主义造成了冲击。对此,刑法应当树立与智能时代相适应的基本理念,坚持刑法立法与刑法解释并重,兼顾安全保障与技术进步,在前瞻思考与现实理性之间实现有效平衡。在具体应对路径上,可以通过解释路径解决行为规制和责任归属问题,立法路径弥补现有规范的行为规制漏洞,并在刑法中明确服务提供者的保证人地位和刑事监管义务。     

生成式人工智能的法律风险及其规制

生成式人工智能技术作为一种“破坏性创新”,在推动技术变革的同时,也因其独特的技术逻辑带来了诸多治理风险。如生成式人工智能巨量化数据的训练模式存在数据侵权风险,基于人类反馈的强化学习模式则可能加剧虚假信息的生成和传播,其技术壁垒又会强化互联网巨头的垄断地位,进而带来一系列风险。而我国现行法律对生成式人工智能的规制虽然形成了初步框架,但仍在宏观和微观方面存在困境,以欧盟和美国的监管措施为镜鉴,我国应当秉持包容审慎的理念,协同多元主体对生成式人工智能进行共商共管,通过“共建”“共治”实现成果“共享”。     

人工智能生成物的著作权保护比较法研究——以元宇宙背景为视角

随着元宇宙、赛博朋克等概念日益进入日常生活，对人工智能生成物属性问题的讨论也日益激烈。不同国家对待人工智能生成物的态度存在明显不同，但本质上都强调“人”的主体地位，人工智能必须在人的参与和安排下才有获得著作权法保护的可能性，脱离了人的干预、完全由人工智能自主完成的内容，则不宜视为作品。我国司法实践和理论界对人工智能生成物的属性认定也存在不同认识，而为了更好地促进技术的发展和文化的传播，有必要在现有法律框架下对相关制度进行优化。     

ChatGPT:人工智能的通用性发展及其法律规制

ChatGPT作为一种基础模型,体现出极强的通用性特点,可被用于多个领域和多种任务。这一特点在为社会提供助益的同时也引发了新的法律风险:首先,ChatGPT这种基础模型的同质化与编辑的便利性使得其极易被推广适用并与其他领域的风险叠加,造成系统性的社会风险;其次,ChatGPT产生和运行过程中的多主体性造成了“多手问题”,进而引发责任性上的困境;最后,ChatGPT的迅速推广与广泛的可及性可能引发道德观与价值观的冲突。为此,有必要将责任性作为人工智能规制的核心追求,确立各主体之间的共担责任原则,在此基础上明确人工智能创新与安全并重的规制目标,加强人工智能算法、标识等的透明化程度,健全包括社会影响评估在内的人工智能风险评估机制,促进人工智能与人类的价值融合。     

生成式人工智能绘画侵权的样态分析与规制路径

生成式人工智能绘画的出现为人工智能行业带来了巨大的发展机遇，但也带来了一系列挑战，如侵权行为的普遍存在、造假行为的猖獗以及生成式人工智能绘画的售卖牟利和侵犯隐私等。这些问题都成为阻碍生成式人工智能绘画产业健康可持续发展的主要因素。生成式人工智能绘画侵权保护是一个包括政策、法律、科技、产业等多个领域和方面的系统性工程，要汇集多种力量共同推进。为了有效地防止生成式人工智能绘画侵权行为，应从生成式人工智能绘画的发展历程出发，系统分析生成式人工智能绘画侵权模式，深入探究生成式人工智能绘画的规制路径，从机制、主体、创新等多方面提出有效的优化策略，以期达到更好的法律规制效果。     

生成式人工智能的风险规制困境及其化解：以ChatGPT的规制为视角

以ChatGPT为代表的生成式人工智能技术产生，在极大地提升人们工作效率的同时，也在相关领域带来了诸多法律风险。这种风险具体表现为：数据使用风险、生成内容滥用风险、算法滥用风险以及其他风险。目前我国虽然已经初步具备了有关人工智能的基本治理框架，但相关的理论以及实践仍在治理主体、治理规范设置、治理手段以及治理规则适用等方案上存在不足。生成式人工智能的出现，凸显了科技进步迭代过程中产生的“破坏性创新”现象，这也倒逼我国当前的人工智能治理模式需要从回应型治理、集中型治理向敏捷型治理转换。这要求我国在总体上坚持包容审慎的治理态度，具体包括从法律层面的制度构建、软法规范层面的填补式风险治理以及通过监管沙盒实现敏捷型风险治理等三方面来完善现有的人工智能风险治理体系，在技术创新与风险治理之间寻求平衡，从而实现数字经济的健康持续发展。     

人工智能生成物法律保护模式探索与比较研究

目前,法律对人工智能生成物的保护并无明确规定.由于缺少法律保护机制,人工智能生成物承载的经济价值可能会引发各方主体无序使用,产生纠纷,最终影响文化市场的健康发展和良好运行.因此及早为人工智能生成物找出合理的保护路径,不仅可以起到定分止争的效果,还可以促进人工智能生成物的生产和传播,满足人们日益增长的文化需求.     

生成式人工智能治理的逻辑更新与路径优化——以人机关系为视角

生成式人工智能技术塑造了人机共生的新型关系，不能简单等同于深度合成技术、智能交互技术、高风险人工智能。新型的人机关系中，既存在人的自主性危机，也有被放大的人工智能治理风险。在风险应对的逻辑中，生成式人工智能的定位应从“老师”转向“伙伴”,不应对服务提供者提出过高要求并作简单的结果评价；同时，应将治理维度从算法治理拓展到用户治理之中。在具体的治理路径上，首先应坚持包容审慎原则，设置过程义务及对应的责任豁免规则；其次，在高风险场景中，应持续进行风险影响评估、充分保证人类监督并提升算法透明度；最后，应通过伦理审查、行业自律、数字素养提升的伦理治理方案以捍卫人的自主性。     

论人工智能生成内容的著作权法平等保护

在人工智能时代,人机互动已成为许多作品的常见创作方式,著作权法平等保护就是对人工智能生成内容(AIGC)与人类作品给予相同的制度评价,为此需要解决人工智能生成内容的可版权性问题与著作权归属问题。人工智能生成内容与人类作品在客体外观上具有一致性、在经济利益上具有同质性且符合著作权法激励创新的制度目的,这些是二者得以获得平等保护的前提基础。通过著作权法平等保护,可以降低法律制度摩擦成本、打造统一的著作权交易市场、鼓励标识真实来源并塑造人工智能生成内容市场价值。著作权法平等保护的实现可借鉴法律主体利益实体功能与法律推理功能分离的规范原理,参照著作权二元主体结构机制,将人工智能拟制为形式主体并使著作权利益向人类集中。具体而言,可发挥人工智能形式主体的法律推理功能,将人机互动视为一个创作整体,进而证成人工智能生成内容的独创性,并通过共同创作、委托创作等既有著作权法律关系的权属规则将著作权原始分配给人工智能的人类使用者。     

管窥深度合成技术的法律规制路径

<正>近日，全国多地发生FaceTime诈骗事件，同时有不少苹果用户在社交平台上反映相关问题。作为一种常见的交流方式，线上视频在为人们的工作生活带来极大便利的同时，也存在着诸多个人信息风险。当下，以ChatGPT为代表的生成式人工智能技术的突破，更加凸显出个人信息保护面临的新问题与新挑战。不断迭代的人工智能技术随着信息技术的发展，在线上视频中伪造受害者的人脸已经不是难事，其具体使用的，就是人工智能的深度合成技术。