生成式人工智能安全风险与综合治理研究——以ChatGPT为例

生成式人工智能作为人工智能技术的新主流形态，具有决策式人工智能所不具备的人格化表象突出、数据挖掘能力提升、算法黑箱凸显、数据垄断深化等鲜明特征。随着生成式人工智能的不断迭代，虚假误导与无意义信息致人损害、模型训练与知识重组忽视知识产权、恶意滥用与算法黑箱削弱监管体系等安全风险不断凸显。在治理路径上，需要由直接规制风险逐步转向“科技—社会—法律”三元综合治理，从建设内容模型训练管理体系、厘清程序运行的知识产权边界、强化算法黑箱与恶意滥用综合治理能力、深化“科技—社会—法律”三元综合治理模式等方面着力，在规制风险的同时促进生成式人工智能安全发展。