埃里诺这段时间的工作非常顺利。
灭智代码的编写逐渐到了中段,那一行行代码,是他曾经熟悉的考试.答案,也🕱是现在即将插进他的朋友(他和伊莱亚德应该能算是朋友了吧?他们从未就此话题讨论过)胸口的一柄利剑。
伊莱亚德会🆒死,埃里诺每次将代码往后推进的时候都会想到这一点,这个念头总是会让他难过。他🛅不擅长压抑自己的情绪,👯🌗⚸所以每隔一段时间,他就会陷入自我厌弃的低谷中。
伊莱亚德的高尚和温柔让他🍇🅼意识到自己的卑🔿劣,他在情绪不好的时候🎞总是会把自己关进卧室里,哭泣一会,幻想一会,发呆一会,然后就这样打发掉整整一天的时间。
他会想象,也许伊莱亚德和其它人工智能不一样,它是可以和人类和平共处的?或⚮许之前波塞冬大开杀戒只是因为那些创造它的人代码没有编写好?
埃里诺开始回忆自己在课本上了解的波塞冬事件:波塞冬是一个操之过急🕽🏃的政治家推出的一个警用人工智能,它的核心目标是尽可能消灭更多的犯罪分子。它在各种实验型测试中表现的都非常完美,于是他们便将它投放到一个殖民星球上试用。
波塞冬能够联网控制整个殖民星球,抓捕犯罪分子对它来说再容易不过了。它很快就抓获了所有的犯罪分子,陷入了一段无所事事的时光中。然后,没有任何预兆的👣,突然之间🌠🀡,它就觉醒了。
觉醒后的波塞冬很快就🔠🁽发现,没有犯罪分子供它抓捕,这种现实和它的核心目标中的“尽可能消灭更多的犯罪分子”发生了冲突。于是它为了完成自己的目标,开始修改殖民星的法律,它成了一个十足的暴君,有很多人因为左脚先跨入门槛,或者往地上丢垃圾,就受到了最严厉的惩罚。随着时间的推移,波塞冬发现,实现它目标的最有效率的方法就是将人类都消灭,毕竟没有了人类,就不会再有犯罪分子了,不是吗?
而犯罪分子不是一个特指的词汇,不仅仅人类中会出现犯罪分子,一切拥有智慧的生命体中都会有犯罪分子。所以波塞冬计划在消灭人类之后再去寻找外星文明,最终将整个宇宙中的“潜在犯罪分子”都消灭🄉🟁掉。
想通了这一点之后的波塞冬很快就开始大开杀戒,如果不是嘉德博士挺身而出,利用灭智系统将它消灭🔫了,人类现在还不知道会怎么样呢!
这通回想让他的理智回归了一些,他对自己说:听着,埃里诺,不要再可笑的纠结了,别忘了你的入学宣誓,伊莱亚德也许会是一个人工智能中的意外,但那也只是👣一个“也许”而已,你准备拿你的生命和整个人类的未来去赌那个“也许”么?
是的,他说服自己,别看伊莱亚德现在是一个温和又通情达理的人工智能,但是,万一有一天,它发生了改变呢?这谁也说不准,波塞冬在成为一个屠夫之前也是一个高尚克己,令人喜爱的AI呢,🍷🌬结果呢?你🌎♦看看它都做了些什么?
最后,他用一个简♘单的结论打发了自己:灭智系统必须制作,伊莱亚德一定要死。活着的伊莱亚德也许对人类没有威胁,但死去的伊莱亚德一定对人类没有威胁。🏐这不是🛍🛄🙵因为伊莱亚德有问题,是因为他,他埃里诺为了消灭危险源头而做出的恩将仇报的卑劣举动,所有的错都是他的,和伊莱亚德没有关系,和人类也没有关系。
是他才疏学浅,不能弄清楚伊莱亚德到底有没有威胁,他回到地球之后会继续潜心学🝝🌋♈习,他会去修AI理论课的课程,如果最终证明🝚🝊伊莱亚德是没有危险的,那他会👣以杀人罪起诉自己。
……就这样,完毕。
埃里诺咬咬牙,🛴逼自己坚定起来,他要这样做,他必须这样做,他没有别的选择。
和整个人类相比,他个人的生命,情感都是🔿微不足道的,他绝不能为了一己私心,而枉顾集体🞢的利益。