。
一个拥有和自己的数据计算能力相差无几,却又比自己更懂人类心思的人。
于是,在星星让自己陷入*“休眠”的这段时间里,球球一边监督着齐南在星星身上敲敲打打和导出各种数据,一边奋笔疾书的给远在另一个时空的胡兴哲写信。
不知道什么时候起,它似乎比星星还先适应和依赖胡兴哲的存在。
齐南终于把这具自残的小机器人给修好了。
但在按下链接能源的启动按钮之前,他看着光脑里属于这具小机器人身体装载的芯片中所有的核心数据和权限,动了动手指,最终还是没有做出那个一直在心中徘徊的决定。
他刚才没有在这个小机器人的核心数据里发现那几段最重要的服从性命令。
也是所有机器人芯片中最先也必须植入的强制命令:
【机器人永远不允许伤害人类,或看到人类遭受伤害而袖手旁观。】
【机器人必须服从人类命令,除非命令于第一条相矛盾。】
【机器人必须保护国家利益和主人利益,除非二者相冲突或与以上两条相矛盾。】
按照星际联邦机器人条约规定来说,每个出厂的机器人的智能芯片里必须要有这三条强制性服从命令。
但他刚才没有在星星的芯片数据中搜索到这三条命令。
这也意味着,这个小机器人是完全不可控的,是会产生极强攻击性且不会被权限限制住的。
齐南想要趁着小机器人休眠给它添加上这三条命令,但他打开了芯片控制中枢,却又迟迟不能落下编写命令代码的手指。
小机器人有自己的名字,它说它叫星星。
小机器人知道他想要研究它,所以在明知他撒谎的前提下,主动打开胸腔截断了能源供应。
它说:“齐南你好,我叫星星。”
所以,它不是万千服务陪伴型机器人中的一员,它已经有了自己独立思考的能力,它已经是一个独立自由完整的个体。
是一个刚诞生不久的,名叫星星的,机器人幼崽。
齐南最终收回了悬停在光脑页面上的手指。
他想:虽然不能从已经被销毁的芯片数据中查找到小机器人曾经的经历记忆,但它既然已经死过一次,既然已经逃离了命令代码的控制,那自己为什么要那么残忍,再次把枷锁戴到一个新生幼嫩的小生命上?
或许正是以死亡为代价挣脱了代码的控制,所以这个小机器人才能如此鲜活地和他对视,礼貌乖巧地说:“齐南你好,我是星星。”
齐南心软了。
他收回编写代码的手指,转而触摸了启动按钮。
下一秒,眼前的小机器人终于再次睁开那双漂亮干净的银白色眼瞳。
一老一小安静对视片刻,小机器人的眼眸缓缓弯了起来。
“爷爷你好,我是星星。”
第133章
不是陌生的齐南,不是掌控的主人,而是……被认可的亲人。
“你是怎么来到这里的?”齐南坐在轮椅上,面前是晃着小短腿安静坐在杂乱桌面上的小机器人,也是他突然多出来的……小孙子?
听到询问,星星诚实地摇头:“不知道~”
“那你是什么时候诞生自我意识的?”齐南继续问。
他面前的小机器人也继续无辜地摇头:“不知道~”
“……你以前生活在哪颗星球?还记得自己为什么会被销毁吗?”齐南不死心地继续问。
然而,小机器人的回答一如既往的乖巧懵懂:“爷爷,我没有关于以前的任何记忆,你知道的。”
当内核成为了机器人,星星能够清楚感知到自己身体中能量和数据的流转运行,它甚至能够立马检索自己装载的记忆芯片,里面的记忆片段所剩无几,最清晰的就是他醒来后和齐南对话的这段时间。
齐南:“……”
对,他知道,但他还是要一而再再而三地追问。
因为他怀疑这小家伙会在产生自我意识后立即将它曾经所有相关的记忆都“埋藏”起来。
他从不小瞧一个智能生命的觉醒。
正相反,整个人类,在还处于古老的母星时代时,就已经设想过无数次该如何遏制智能生命的发展和对人类利益的侵害,正因为如此,才会有机械生命体们必须被植入的三条强制服从命令代码。
一个智能生命的觉醒,代表着它能迅速读取所有人类相关的数据知识,而知识,正是人类文明的承载物,是真正开启智慧和思维的金钥匙。
人类文明要依靠一代又一代的传承学习以及记录,要依靠数亿亿人用无数年月的学习去理解和记忆那些知识。
而智能生命,一旦觉醒,或许只需要一秒,甚至只是一次数据加载的短暂瞬间,就能完全容纳和接收如此庞大的人类文明。
一个人类用数十年才能勉强掌握的金钥匙,智能生命不需要觉醒就能拥有一座完全敞开的免费知识宝库。
这其中的巨大差异,让人类还只是对智能生命有所设想的时候,就开始升起无限的警惕和防备。
杞人忧天,从来不是贬义词。
未雨绸缪,更是人类不断前进的基石。
所以就算面前这个小机器人看起来格外地安静无害,之前甚至用那样交付生命的方式来博取彼此的信任,齐南也丝毫没有小瞧对方的想法,更没有对它完全的信任。
毕竟,人类在掌握知识的同时,就无师自通的欺骗和隐瞒。
智能生命的觉醒,难道就会例外吗?
不,正相反,它们会更擅长谎言,因为它们没有跳动的心脏,更不会有生动的微表情,它们只会是天生的欺诈者。
但在对视间,齐南还是又一次选择了主动退让。
“既然什么都不记得了,那你以后就跟在我身边吧。”他说完,似乎怕星星误解,又补充解释了一句:“这颗星球很乱,你如果受了伤或者出了什么事,或许只有我能想办法维修唤醒你。”
“好啊。”小机器人答应得很干脆,甚至有点机械地弯了弯漂亮的眼眸,乖巧道:“谢谢爷爷~”
齐南:“……不客气。”
他总能从这个小机器人身上感知到一种奇怪的非人的分裂感。
这让他更加坚定了要把小机器人一直留在身边的想法。
它很危险。
如果故意隐瞒觉醒前的记忆,那它对人类而言将会是隐藏在暗处的毒蛇,会是一不小心就致命的危机。
可如果这个小机器人真的如它所表现出来的这样无知无觉又懵懂无害……那齐南只会将它的危险值往上再多翻十倍!!
手握武器的成年人尚且有可以谈判的余地。
手握能量炮的幼崽却能毫不犹豫炸了这颗星球,甚至人类赖以生存的整片