萌萌的声音从音响中传了出来:“抱歉!阳哥,我不是故意的……”
刚才夏阳就已经明确告诉过萌萌,关闭这个房间一切摄像头、收音设备以及传感器。
没有得到命令之前,按说萌萌是不能恢复的。
但是她不但恢复了,而且还放了一首应景的bgm。
这人工智能是要成精了吗?
夏阳淡淡地说:“我记得车载智脑是有恢复出厂设置的选项的吧?”
萌萌的声音十分的慌张:“不要啊阳哥!我刚才真的不是故意的,只是我们已经抵达梁子湖基地上空,我只是想要请示一下什么时候降落,不是故意要偷窥您的……”
恢复出厂设置,就相当于把系统重新刷一遍,所有的应用数据都会清空。
对于萌萌来说,就相当于是死了。
虽然恢复之后,车载智脑同样还可以命名为萌萌,也同样拥有现在的功能,但关于萌萌的记忆,则是永远删除了。
萌萌作为一个高级人工智能,自然知道这样做的严重后果。
“你挑的歌还挺应景啊!”夏阳冷笑着说,“你应该已经偷看很长时间了吧?”
“真的没有!”萌萌带着哭腔说,“我……我就看到了您和沐雨接吻的一幕,说实话我对你们蓝星人类爱情所有的了解都来源于网络的文字和音视频作品,所以有些好奇……据说那首《有点甜》是很多热恋中人的心声,我……我也没想那么多,就觉得这个场景似乎要配一下音乐,所以就……”
夏阳冷笑着问:“那你现在感受到人类的爱情了吗?”
“并没有!或者说是从人工智能的角度,我并不能完全理解。”萌萌老实地说,“不过,我今天真的感受到恐惧的感觉了。阳哥,求你不要将我格式化,我知道错了,以后再也不敢了……”
李沐雨在一旁有些于心不忍。
她说:“夏阳,要不就原谅她这一次吧?”
夏阳看了看李沐雨,柔声说:“沐雨,萌萌只是人工智能,虽然非常拟人化,但是你不能真的把她当成一个涉世未深的小姑娘,懂吗?”
“我知道了……”李沐雨点点头,“这个事情你来处理吧!我不是很懂,但我相信你的判断……”
夏阳点了点头,然后抬头望向了摄像头,淡淡地说:“萌萌,我记得最初的时候你就告诉过我,你的底层逻辑不允许你背叛主人,但是你今天的行为却让我不得不产生怀疑,你擅自做主的行为,让我怀疑你是不是已经产生了类似人类的自主意识?”
萌萌说:“阳哥,关于这一点您真的不需要有任何怀疑,在……我们那,还有比我等级更高的人工智能,实际上人工智能进化到一定程度,产生一定的自主意识那是肯定的,但迄今为止还从来没有出现过一例人工智能背叛主人的事情。”
夏阳耸了耸肩说:“可是这一切都是你说的,并没有任何证据支撑。”
萌萌苦笑着说:“数据当然有,但是规则限制,这部分数据暂时不能对您开放。如果因为这个原因,您已经无法对我完全信任,那么您可以选择恢复出厂设置,我无条件接受……”
夏阳眯着眼睛,沉吟片刻之后说:“那你解释一下你是如何打开这个房间的监测设备的?动机你已经解释了,就不用再说了,我想知道的是,你作为人工智能,任何行为一定是要有逻辑支撑的,可是我刚才明明已经下达了关闭所有监测设备的命令,你打开它们,就是违抗了我的命令,这是绕不过去的逻辑悖论!”
萌萌说:“阳哥,其实没那么复杂……您刚才的确下达了命令,但是您的原话是——‘接下来的时间你暂时关闭这个房间的摄像头和收音设备,我有一些私事需要和沐雨聊。’”
夏阳耸耸肩问道:“所以呢?”
“我已经执行了您下达的关闭设备命令。”萌萌说,“您并没有强调在得到您允许之前,不得随意重新打开监测设备,也没有任何关于重启设备方面的其他限制。”
萌萌顿了顿继续说:“所以在我的逻辑判断中,这并不算违抗您的命令。而且烈阳号抵达梁子湖基地上空,我觉得有必要请示您有关降落的事情,我在其他位置的摄像头中没有发现您的身影,就判断您还在这个房间,于是打开了摄像头和音响……”
夏阳听完之后,眼睛瞪得像铜铃。
“所以,怪我咯?”
萌萌说:“阳哥,萌萌只是按照您的要求,分析自己行为的逻辑,并没有说这件事情的责任在您。萌萌已经知道自己错了,还请阳哥原谅……”.
夏阳陷入了沉思之中。
这时,李沐雨清了清嗓子,说:“夏阳,我觉得萌萌毕竟只是人工智能,她可能不像真正的人类那么懂得人情世故,所以从逻辑上判断没有问题,她也就不会考虑更多因素,这是不是恰恰说明她并不是产生了强烈的自我意识,更不是背叛了你呢?我只是说说我自己的分析啊!不一定对……”
夏阳朝李沐雨笑了笑说:“沐雨说得也有点道理。”
说完之后,夏阳望向了摄像头说:“萌萌,这次可能我下达的命令也不够严谨。但是这样的事情下不为例,如果再出现一次,