生成式人工智能的发展与刑事责任能力的生成

以ChatGPT为代表的新一代生成式人工智能的产生具有革命性和划时代意义。生成式人工智能的存在和发展必然极大程度引发社会生产力的新一轮爆发,进而决定生产关系发生重大改变。时下ChatGPT等生成式人工智能仍然属于弱人工智能范围,但该技术的发展对传统刑法理论已经并将继续造成重大影响。ChatGPT等生成式人工智能可能改变传统犯罪的行为类型、影响刑事责任的分配与转移并且改变现有的刑事责任主体范围。不能因为ChatGPT等生成式人工智能不是人,而就一定不能成为刑事责任主体;不能因为ChatGPT等生成式人工智能没有生命,而就一定不具有刑事责任能力;不能因为ChatGPT等生成式人工智能没有人脑,而就一定不会具有独立意识意志(即辨认、控制能力);不能因为ChatGPT等生成式人工智无法具体适用现行刑法中的刑罚,而就一定不能成为刑事责任主体。ChatGPT等生成式人工智能与人类一样可能是同时受自然法则(他律的、自然律的因果性)和道德法则(自律的、由自由而来的因果性)支配的物种,从而推定其可能拥有自由意志,进而满足承担刑事责任或者成为刑事责任主体的最本质条件。     

类ChatGPT模型在数字检察中的应用前景及规制

类ChatGPT模型作为多模态大模型，相较于传统人工智能，在数据分析与处理能力、专业素养、自然语言生成及理解能力等多个方面表现出色，这为我国数字检察实践提供了诸多机遇。但类ChatGPT模型也可能带来法律伦理与责任、技术可靠性以及数据安全等问题。为应对类ChatGPT模型给数字检察带来的风险，需要确立人工智能技术应用于数字检察的一般性原则；建立问责制度，促进司法人工智能应用的规范化、法治化；建立审查制度；建立数据安全制度，保障国家数据安全与公民个人信息安全。     

数字法学若干范畴的思考

<正>人类社会已经步入数字时代。数字技术是颠覆性的通用技术，数字技术发展速度之快、辐射范围之广、影响程度之深前所未有，给人类社会的生产方式、生活方式、治理方式带来全方位、深层次的变革。2022年岁末，美国人工智能研究公司OpenAI开发的聊天机器人ChatGPT的横空出世，引爆新一轮人工智能竞争的风口，数字技术的新应用、新业态、新场景必将风起云涌，给国家治理现代化、特别是为数字法治创造了机遇，也提出了挑战。数字技术改变了我们的生活，改变了我们的思维，也改变了我们的法治观念和法治方式。     

生成式人工智能的法律规制——以ChatGPT为视角

以ChatGPT为代表的生成式人工智能技术落地与大规模应用，改变了人类与人工智能的传统交互模式，对社会生产方式产生了重大变革。国际国内都出现了对人工智能主体地位及法律规制等方面的学术探讨，以应对生成式人工智能引发的伦理道德、知识产权保护、隐私与数据保护、市场垄断、网络犯罪和数据安全等一系列风险。在现阶段，我国生成式人工智能治理，应坚持安全与发展相平衡的理念，在以人为本的原则统领下设计人工智能伦理准则，推动构建以通用人工智能立法为基础，以生成式人工智能专门性管理办法为补充，以既有法律规范为根本的系统性人工智能法律规范体系。     

生成式人工智能应用的伦理立场与治理之道：以ChatGPT为例

随着以ChatGPT为代表的生成式人工智能技术的突飞猛进,人工智能的伦理问题受到了广泛关注。生成式人工智能引发了削弱人类主体价值、加剧算法偏见与歧视、过度依赖拟态环境输出结果、人机协作双向价值对齐困难等伦理难题,亟须从人工智能伦理治理组织机制、人工智能伦理规范机制两方面入手,明确生成式人工智能应用中的人本主义立场,建构生成式人工智能治理的伦理规则,为增进人类福祉提供有力的伦理支撑。     

人机交互决策下的智慧司法

ChatGPT等人工智能技术在多个场景落地,在司法领域却备受争议,其根本原因在于司法具有鲜明的价值判断特征。人工智能司法是一种“规范性科技”支持基础上的司法,而非计算性科技或预测性科技技术本身。人工智能司法在裁判可接受性、信息整全、信息筛选、事实评估等方面有一定优势;人机交互决策不仅可能,而且早已通过各类数据库系统成为现实。不过,人工智能司法却面临规则僵化、人机决策权重如何配置、不同司法层级与不同部门决策趋同、算法黑箱决策等难题。应坚持人工智能司法的辅助性定位,坚持法官与检察官的弥散性决策与主体责任制,允许不同司法机关对人机决策权重进行实验性设置并开展实践探索,坚守基于部门分工与审级分层的制衡决策,促进算法解释的可问责性而非完全公开。智慧司法成功的关键,在于设计符合司法原理的人机交互决策制度。     

ChatGPT技术的犯罪治理前瞻

<正>ChatGPT“生成式”人工智能新技术被互联网专家认为是通用人工智能的奇点，也是未来强人工智能的拐点。⁽(1))它制造了巨大商业价值的同时也在线提供了诸多的“犯罪创意”。该项革命性的技术成果将对法学认知范式产生深刻影响，它所衍生出的网络安全和违法犯罪问题已对现有法律规制逻辑和社会治理机制提出了严峻挑战，正在成为全球聚焦的严肃议题。     

深度合成治理的逻辑更新与体系迭代——ChatGPT等生成型人工智能治理的中国路径

以Deepfake、ChatGPT、元宇宙等为代表的深度合成技术与应用场景,极大地改变了信息获取、人机交互的方式,并成为未来数字空间的基础性技术。我国的深度合成治理已经走在世界前列,但仍主要停留在算法治理衍生出的信息安全层面,偏重服务应用监管而底层技术治理不足,偏重监管服务提供者但监管技术提供者尚不充分,数据与场景分级分类标准繁杂但并未形成有机体系。深度合成治理应在算法治理基础上延伸迭代,将深度合成作为人工智能治理的专门领域,同时通过顶层设计推进基础性人工智能立法,既保障急用先行,又可探索并形成通用人工智能立法的经验。既应发挥中国既有的深度合成治理优势,根据生成型人工智能技术特点更新监管逻辑,基于生成型人工智能技术的通用性实施全链条治理;同时还需立足现行法规中分级分类治理架构,结合技术、产业和应用建立有机体系和设置具体规则,以形成在全球更具影响力的深度合成治理法律制度体系。     

对人工智能产品侵权相关问题的思考

人工智能产品的不断推陈出新特别是ChatGPT的横空出世，给传统侵权责任法的框架体系和司法适用带来的很大冲击。本文结合相关案例和国内外立法，探讨数字时代如何把握人工智能产品的概念，并对各类人工智能产品引发的侵权应适用《民法典》网络侵权条款还是《产品质量法》，以及适用何种归责原则进行讨论，提出应以过错原则作为生成式人工智能侵权的归责原则，应进一步完善侵权免责事由、合理分配举证责任、细化人工智能产品各参与主体的义务和责任，并配套规定强制保险制度和赔偿基金，以完善我国人工智能产品侵权救济体系。     

生成式人工智能的风险规制困境及其化解：以ChatGPT的规制为视角

以ChatGPT为代表的生成式人工智能技术产生，在极大地提升人们工作效率的同时，也在相关领域带来了诸多法律风险。这种风险具体表现为：数据使用风险、生成内容滥用风险、算法滥用风险以及其他风险。目前我国虽然已经初步具备了有关人工智能的基本治理框架，但相关的理论以及实践仍在治理主体、治理规范设置、治理手段以及治理规则适用等方案上存在不足。生成式人工智能的出现，凸显了科技进步迭代过程中产生的“破坏性创新”现象，这也倒逼我国当前的人工智能治理模式需要从回应型治理、集中型治理向敏捷型治理转换。这要求我国在总体上坚持包容审慎的治理态度，具体包括从法律层面的制度构建、软法规范层面的填补式风险治理以及通过监管沙盒实现敏捷型风险治理等三方面来完善现有的人工智能风险治理体系，在技术创新与风险治理之间寻求平衡，从而实现数字经济的健康持续发展。     

会聊天的ChatGPT具有哪些法律风险

<正>它既能写代码写作业,能做题写剧本,还能回答各类话题——它就是美国人工智能研究公司OpenAI刚刚推出的人工智能聊天程序ChatGPT最近,一款新的聊天机器人火了。它既能写代码写作业,能做题写剧本,还能回答各类话题——它就是美国人工智能研究公司OpenAI刚刚推出的人工智能聊天程序ChatGPT。     

ChatGPT等生成式人工智能的刑事责任问题研究

ChatGPT等生成式人工智能的出现意味着人工智能的“技术奇点”越来越近。GPT-4及更进一步的生成式人工智能已经触及了强人工智能的边缘,使我们真真切切地感受到强人工智能时代“未来已来”。ChatGPT等生成式人工智能具有一定的逻辑推理能力和创造能力,甚至还具有通过其自身独立进行编程的能力,从而拥有脱离人类的独立意识和自主意志的可能性。对ChatGPT等生成式人工智能进行刑法学研究刻不容缓。根据不同的标准,可以对ChatGPT等生成式人工智能可能引发的犯罪类型进行多种分类。以相关行为符合的罪名和行为类型为标准,ChatGPT等生成式人工智能可能涉及的犯罪可分为煽动类犯罪,侵犯知识产权类犯罪,侵犯数据、信息、计算机信息系统类犯罪,侵犯公民人身权利类犯罪,以及传授犯罪方法、提供犯罪程序类犯罪等。比人脑更“聪明”且具有独立意识和自主意识的人工智能无疑会对现有刑法理论和刑罚体系造成巨大冲击。     

ChatGPT:人工智能的通用性发展及其法律规制

ChatGPT作为一种基础模型,体现出极强的通用性特点,可被用于多个领域和多种任务。这一特点在为社会提供助益的同时也引发了新的法律风险:首先,ChatGPT这种基础模型的同质化与编辑的便利性使得其极易被推广适用并与其他领域的风险叠加,造成系统性的社会风险;其次,ChatGPT产生和运行过程中的多主体性造成了“多手问题”,进而引发责任性上的困境;最后,ChatGPT的迅速推广与广泛的可及性可能引发道德观与价值观的冲突。为此,有必要将责任性作为人工智能规制的核心追求,确立各主体之间的共担责任原则,在此基础上明确人工智能创新与安全并重的规制目标,加强人工智能算法、标识等的透明化程度,健全包括社会影响评估在内的人工智能风险评估机制,促进人工智能与人类的价值融合。     

生成式人工智能的算法治理挑战与治理型监管

以ChatGPT为代表的大规模预训练语言模型日益展现出通用潜力,其超大规模、超多参数量、超级易扩展性和超级应用场景的技术特性对以算法透明度、算法公平性和算法问责为内核的算法治理体系带来全方位挑战。在全球人工智能治理的主流范式中,欧盟形成了基于风险的治理范式,我国构建了基于主体的治理范式,美国采用了基于应用的治理范式。三种治理范式均形成于传统人工智能的“1.0时代”,与展现通用潜能的新一代人工智能难以充分适配,并在不同维度凸显治理局限。因此,在人工智能技术范式变革之际,应以监管权的开放协同、监管方式的多元融合、监管措施的兼容一致为特征推动监管范式的全面革新,迈向面向人工智能“2.0时代”的“治理型监管”。     

人工智能司法的可解释性困境及其纾解

加强对人工智能司法发展及风险的研究是时代课题,其中人工智能司法的可解释性困境尤为关键。人工智能司法可解释性指的是司法决策或行为的可理解与透明性,涉及基础数据、目标任务、算法模型以及人的认知这四类关键要素。不可解释困境主要是由数据失效、算法黑箱、智能技术局限、决策程序和价值缺失等因素所致。但是,人工智能司法的不可解释困境其实是一个伪命题,可解释性具备认知层面和制度层面两方面基础。纾解困境的具体策略包括：构建司法信息公开共享制度,提高有用数据的甄别与利用效率;从软硬法结合视角建构司法系统的运行标准与制度规则;从全过程视角强化主体之间的协同治理;通过指导性案例和司法解释赋权法官的司法解释空间,提高法律解释技术;强化交叉学科人才建设,提高对人工智能司法决策模型的引领;发挥法官的自律与能动性,实现司法智能决策的人机协同。未来,不仅需要把握司法价值与技术理性的平衡,还需考虑人工智能对司法的差异化介入,推动人工智能司法战略目标实现。     

司法实践中人工智能运用的现实与前瞻 ——以上海法院行政案件智能辅助办案系统为参照

人工智能已经在司法审判中开始了初期应用，上海于2017年初启动了司法审判人工智能辅助系统的开发。上海法院行政案件智能辅助办案系统前期以政府信息公开案件为基础案由，构建了智能阅卷、智能归纳、智能辅助、庭审评议等模块组成的系统总体架构。在法律人工智能辅助系统开发的同时，我们需要对法律与人工智能的交互关系、人工智能对司法审判决策过程的积极作用，立足于人工智能的技术本质和既有条件进行更为深入的认识。人工智能在改变司法审判过程的直觉主义，推动法律符号系统的完善方面有独特的作用。当然，人工智能进一步在法律领域产生深远影响，仍然需要跨越一些障碍，比如人工智能任务模式、通用性方面的问题。建立法律术语语义网络并完善法律知识库体系，可能是下一步法律人工智能发展的基础。     

管窥深度合成技术的法律规制路径

<正>近日，全国多地发生FaceTime诈骗事件，同时有不少苹果用户在社交平台上反映相关问题。作为一种常见的交流方式，线上视频在为人们的工作生活带来极大便利的同时，也存在着诸多个人信息风险。当下，以ChatGPT为代表的生成式人工智能技术的突破，更加凸显出个人信息保护面临的新问题与新挑战。不断迭代的人工智能技术随着信息技术的发展，在线上视频中伪造受害者的人脸已经不是难事，其具体使用的，就是人工智能的深度合成技术。     

来自“世界3”的知识欺诈:生成式人工智能的刑事风险应对

ChatGPT的出现标志着生成式人工智能在语义理解和知识创造上逐渐向类似人类的方向进化。通过ChatGPT的知识代理式协助,人类开启了与客观知识世界间的双向交互,这虽然增强了知识获取的灵活性和针对性,但也带来了工具性的技术滥用风险和内因性的数据安全风险。这两类风险加剧了虚假信息传播、犯罪方法传授、用户数据泄露等危害行为的异化,对传统事后回应型治理模式提出挑战。对此,犯罪治理应围绕技术加速迭代与治理资源不足间的显性矛盾,以及平台权力扩张与监管力量失衡间的隐性矛盾,从“看门人义务”的体系性完善和数据安全监管义务的实质性强化出发,将立法导向内嵌于技术理性之中,探索符合人类社会发展需要的生成式人工智能治理机制。     

面向产业链的治理：人工智能生成内容的技术机理与治理逻辑

以ChatGPT为代表的大型生成式语言模型通过对海量自然语言文本数据的学习，运用统计学和概率分布预测下一个单词或句子，从而实现流畅连贯、语法正确、具备逻辑的文本生成。这一技术机理虽能提升模型性能，但却在内容公平性、真实性和可靠性方面带来治理挑战。概率生成文本的方式存在难以控制内容质量的问题。基于网络文本语料库的训练可能嵌入算法偏见，人类反馈强化学习可能加剧虚假信息的生成与传播风险，模型的涌现性还可能产生意料之外的治理风险。迈向“模型泛在”的人工智能2.0时代，生成式人工智能的治理应遵循敏捷治理与韧性治理并重、精准治理和参与式治理协同的原则。针对“模型即服务”的新型产业生态链，围绕信息生产变迁和产业链变迁的核心特性，构建基于应用程序接口模式的治理、基于插件模式的治理和基于模型垂直部署模式的治理架构。     

人机共融到人机共荣——以ChatGPT为例论生成式人工智能生成物的可著作权性问题

ChatGPT以其高度拟人化的输出结果和对话式的交互方式,模糊了传统劳动工具和劳动主体之间的界限,为我们展示了一种人工智能深度参与人类活动的人机共融情景。但以ChatGPT为典型的生成式人工智能的生成物,其可著作权性问题就因为其在形式上不断接近人类作品,而引起了高度关注。从ChatGPT的运作过程、生成物特点上来看,生成式人工智能生成物在形式表现上与人的作品几乎无异,但人工智能本身却无创作意识也无思想情感。在面临着劳动主体、激励作用和权利桎梏上的赋权困境,生成式人工智能生成物在可见的将来更适合成为公共领域中的开放知识。