“湖心岛”隐喻：人工智能时代的算法伦理入侵

算法伦理是人造智慧体基于大数据和自我训练所生成的一套价值排序规则,采用"最大期望即正义"原则。由于缺乏一个可以与之抗衡的人类伦理的制约,算法伦理一旦出现在人类世界,将打破传统人类伦理的纠缠—均衡态,这一过程与一个外来物种入侵到"湖心岛"上非常相近。如果人们选择过一种便捷的、不思的、被摆置的生活,那么算法伦理将成为终极伦理;如果人们选择过一种理智的、沉思的、自由的生活,那么算法伦理不会成为多数人认同的方案。在被算法伦理入侵的"湖心岛"上,受迫于红皇后假说,每个国家都不得不为人工智能解除元规则的束缚,进而使国民遭到算法伦理的摆置。因此,要想在智能时代继续过伦理的生活,政府就必须积极建立双重围栏来保护传统伦理和限制算法以人形出现。只有算法伦理在人类刻意的训练中演化出伦理特征,才有可能据此探索人机伦理的结合。

The Isolated Island Metaphor: The Invasion of Algorithmic Ethics in the Era of AI