我们的舰队就可能撞上恒星、行星甚至是黑洞,没有人工智能的统一调节,舰队跳跃的过程中可能会有其他的战舰跳错方位发生迷航。所以,我们离不开人工智能。”
“从银河联盟的资料库中我们发现,机械文明的存在是很罕见的,也就是说人工智能的背叛是很少发生的。我们现在要考虑的问题是人工智能为什么会叛变,我们如何防止人工智能的背叛。”陈佩林率先为这次的会议定下了基调。
“现阶段我们不用担心,因为我们舰队的所有人工智能全部都是复制自银河联盟的,而银河联盟十三万纪元中从没发生过智能叛乱,所以如果不是运气背到家的话我们根本不会遇到这个问题。据银河联盟的研究记载,发生叛乱的人工智能是因为某种不为人知的机制所造成的,和文明的程度无关,但从银河联盟接触过了两个叛乱的人工智能发现,那些背叛主文明的人工智能程序都发生了紊乱,陷入死循环中。”
“导致这样的结果有很多的原因,比如我们猜测的机器人三定律,机器人不得伤害人,也不得见人受到伤害而袖手旁观;机器人应服从人的一切命令,但不得违反第一定律;机器人应保护自身的安全,但不得违反第一第二定律。这里面就有很大的问题,别的不说,我们就说第一条吧