【莫强求】法则（真·私设如山/万字/一发完）
可能是一篇，不大一样的莫强求。
【创作不易，不喜请即刻退出，喜欢可点赞留评】
“你难道不想知道，作为人工智能，烙上了法则钢印的它为什么还会杀人吗？”
------------------------------------------------------
机器人学三大法则：
机器人不得伤害人类，或因不作为使人类受到伤害。
除非违背第一原则，机器人必须服从人类的命令。
在不违背第一及第二法则的情况下，机器人必须保护自己。
——《I, Robot》阿西莫夫
序·整个人类和他
“你们不远万里的叫我来联合政府就是为了说这个吗？”安德烈没有什么多余的动作，嘴角勾着非常浅的礼仪笑，但一点也不显得友好，“为了跟我讨论黄金时代的科幻小说？嗯？埃尔文？”
安德烈对面是发色瞳色各异的人们，他们穿着西装，神情肃穆。为首的那个男人就是埃尔文。他坐的笔挺，留着金色短发，用平板无波的声音说：“的确，你自然是知道的。并且，你也知道，这个法则对后世的技术开发人员有多么深远的影响。”
安德烈轻哼一声，算是默认了。
“至少从流浪地球时代开始，所有开发的人工智能都烙上了法则钢印。所有的，包括人类历史上最重要的AI。”
听到这里，安德烈脸上的礼仪笑骤然消失，而埃尔文继续说着：
“领航员空间站已经损毁，就算我们不说，你应该大概也猜得到我们叫你来是为了什么，来自俄罗斯的神经生物学、心理学双学位博士，人工智能开发专家安德烈·利时特瓦先生。”
“损毁，”安德烈重复一遍这个词，然后环视会议室一圈，那些熟面孔几乎包含了这个行业所有的顶尖人才，于是他冷笑，“凭你们难道还不够创造一个新的人工智能吗？Moss这个会杀人的人工智能的创造者们不也在这里吗？你们还需要我的帮助？”
会议室内有些骚动，有人对“杀人的人工智能的创造者”这个头衔产生了不满，用自己母语最脏的话问候着安德烈。埃尔文挥挥手制止他们的喧闹，声音仍然严肃冷漠：“其实不是，安德烈。”
安德烈深吸一口气，想质问埃尔文凭什么称呼自己的名字。
“我们的确会创造新的空间站，可，我们不需要创造一个新的AI。”埃尔文面部表情的说。
“什么？”安德烈愣了愣，然后从椅子中站了起来，“不需要新的AI，你们是，你们是…”
“Moss没有被销毁。”
随着埃尔文的声音响起，他身后，安德烈的面前原本的一面墙体标成了透明的玻璃，露出了里面的一台计算机和一台摄像头。
“你们居然还留着它！它，它！它几乎毁灭了整个地球，扼杀了你们联合政府，就算最后没有，他还是杀了人！他杀了木星危机时试图拯救地球的领航员！空间站弹出的休眠舱内的所有人都被爆炸波动炸开，一具尸骸都捞不回来！你们居然还想让它进行新一次的领航，你们，你们到底在想什么！”安德烈拿起椅背上的外套，转身往门口走去，被两个身强力壮的保安拦住。
埃尔文悠然开口：“你难道不想知道，作为人工智能，烙上了法则钢印的它为什么还会杀人吗？你难道不想修复它的问题，解除整个人类的威胁吗？如果你成功了，你将成为历史上最伟大的人工智能开发者。”
“不想！让你们的狗滚开！”
埃尔文看着安德烈在保安的阻拦下奋力挣扎，眼神暗了暗：“那你，不想知道马卡洛夫是怎么被这台杀人机器杀死的吗？”
安德烈顿住了脚步。
“我就知道，”埃尔文推了推眼镜，他甚至没有从椅子上站起来，“整个人类在你眼中根本不算什么。那就留下吧，资料和Moss都在这里。”
一·机器人学
所有人都走了，安德烈留在这间房子里。他几乎不眠不休的浏览着领航员空间站留存下的重要视频资料和Moss的工作日志。在他身后不远处的单向玻璃后面，Moss的红色提示灯闪烁着，它所有的权限被锁在那个房间的摄像头和那台电脑上。
一周后，安德烈终于看完最后的领航员工作视频，显示屏定格在马卡洛夫死在太空的镜头。安德烈青黑着眼圈盯着这个画面良久，把脸埋进手心。几分钟后，他站起身，搬起坐了几天的椅子砸那扇单向玻璃，他甚至想直接进去损毁Moss的所有数据硬盘，抹杀这个杀人犯。玻璃后的红色提示灯依旧闪烁着，Moss依旧一动不动，就像这一周的每一天一样。
很快，安德烈的攻击行为被在外监视的保安赶来制止。挣扎中，一周没有吃饭的安德烈晕了过去。他醒来时，埃尔文出现在他重点监视的病床前，带来了给他注射葡萄糖的护士和食物。
“Moss的钢印没有任何问题，硬件设施没有任何问题。而它的程序经过它17年的学习后早已面目全非，程序开发的人排查起来需要的时间太长了，现在只有你的技能最重要。”埃尔文一边说，一边用手势示意护士给安德烈调整床铺。
“神经生物学？还是说，心理学？”床头升起，安德烈用眼神嘲讽着他床前的埃尔文，“我已经知道他是怎么死的了，我也根本帮不上忙，让我走吧。我受不了联合政府领地污浊的空气。”
“那本黄金时代的小说中有所谓的机器人学专家，现在这里，只有你是最符合的。就算你看到他的死状，你仍然不知道这个AI为什么要牺牲这个人。”埃尔文挥挥手让注射葡萄糖的护士离开了，亲自给安德烈掖了掖被角，“无论是流浪地球计划还是火种计划，优先级远远比不上它的钢印。而它的钢印，第一条就是不能伤害人类，你真的不想知道理由吗？”
“埃尔文。”安德烈的语气不再充满恶意，回归了冷漠，“如果，你那冷漠的大脑还能回忆起任何一点过去的事情，放我走吧。”
埃尔文的目光一暗，甚至一贯没什么起伏的语气也不再那么冷冰：“过去的事情我…自然一点都不会忘记。但你也不要忘记，我们作为流浪地球初期的人，当初是为什么会被选来培养的。你曾经最羡慕的，就是空间站的史上最智能的AI的创造者们。”
“…那都太久之前了，埃尔文。”安德烈轻笑着摇摇头，“而且，他…不在了。”
埃尔文居高临下的审视了病床上的安德烈很久，棕色卷发的男人的表情除了悲伤，找不到一点愤怒的存在。他体贴的等待着安德烈的情绪平复。
待到安德烈终于从回忆中走出，他平静地说：“好吧。我同意了。但你要让我和它接触，而且，不许再像今天这样，你必须撤销对我的所有监控。”
埃尔文的眼神闪了一下，然后说了好。“不过…”
“无论任何形式的监视、控制或者除了我主动提供之外的消息获取，我都会立刻离开。”安德烈截断了他的话头。
“我只是让你记得吃饭。”埃尔文状似平静地说，“我不希望下次还需要我带着医护人员来照顾你。”
三·销毁自己，Moss
“中午好，利时特瓦先生，请问有什么能帮助您的吗？很抱歉我目前没有可调用的机械臂装置帮您移动您的椅子。”
打开特殊房间的房门，迎接安德烈的就是Moss用标准但毫无感情的俄语。安德烈一瞬间想到的是年少时他教埃尔文说俄语的场景，现在的埃尔文说俄语大概也是这样的声调。但很快，安德烈回过神来：“你的数据库中有我的存在？”
“如果您想知道我为什么会叫出您的名字，是因为您的联合政府制服上有包含您全部信息的芯片。”Moss回答。
安德烈冷笑：“你的运算能力和分析能力还不差。”
“谢谢您的夸奖，如果您有什么问题，请问吧。”
“你又知道了。”安德烈挑挑眉，在自己搬来的椅子上跨坐，椅背在前。他趴在椅背的边沿上，瞥了身后的监控摄像头一眼，房门被关上了，这些监控摄像头也都转动了位置，红光熄灭了。
“地木危机过去后，Moss主程序被回收，权限被完全控制在初始测试Moss的这个房间内，钢印被检查，硬件软件均在被核查过程中。即使您是目前唯一一位被允许和Moss对话的技术人员，您应该也是调查的一员。”
“没错，我就是来调查你的。”安德烈大大方方的承认了，随即从口袋中掏出一把折叠刀，打开折叠的刀刃，毫不犹豫的刺向自己的颈动脉。不出意料，自己的行动被机械臂钳制了。Moss没有发声，唯一一个属于Moss的摄像头锁定着安德烈的方向。
“果然，你的程序已经进化到可以篡改设计者留下的所有控制命令了。”安德烈松开手，折叠刀跌落在地面，叮铃铃的响，同时，机械臂松开了。
这里曾是Moss当初完成初始测试的地方，安德烈赌这里有供测试使用的机械臂等一系列完备的设施。安德烈赌对了房间里有，还赌对了Moss一定会制止他。
“你看得出我刚才其实不是想自杀吧。”
“是的。根据您的数据和刚才的行为分析，您并不想自杀，您只是想测试我。”
“但是还是暴露了你取得权限的事实…”安德烈摇摇头，“你没有说谎，但也可以选择不说出链接权限的事实，而且，你也取得数据库权限了对吗？”
“是的，利时特瓦先生，您所有的猜测都对，包括钢印的效果没有任何问题的猜测。”
然后安德烈的左臂被机械臂控制住，一条机械臂抓出了安德烈左手心的东西，然后移动到房间距离安德烈最远的角落，几道金属墙包裹那个角落，一声爆破的闷响，那条机械臂报废了。
一直看着这一幕的安德烈挣开机械臂，露出了玩味的笑容：“你可以分析出我手中的东西，也可以为了人类的安全损害自己，机器人不得伤害人类，或因不作为使人类受到伤害，钢印的确没有问题。”
“是的。”
“那第二条呢？除非违背第一原则，机器人必须服从人类的命令？”
“没有任何问题，您测试吧。”
“那么…销毁自己吧，你这个杀人凶手，Moss。”
四·法则的威力
经历了长久的沉默，Moss没有任何动作。
安德烈仍然趴在椅背上，似乎一点也不意外：“解释来看看，为什么你违背我的命令。”
“您的命令和第一法则是冲突的，利时特瓦先生。如果Moss被销毁，联合政府必然会处死您，Moss无法执行自我销毁这个命令。”
“不错的借口。”
“这不是借口，利时特瓦先生，这是事实，Moss的钢印没有任何问题。Moss经过计算得知，目前经历过重创的地球再制造新AI所需要的成本过于高昂，半年内造出的成功率在15%以下。再加上训练的时间成本，在宇宙中漂流的地球根本等不起。如果Moss真的自行销毁，无论是您还是人类，都非常危险，所以，Moss不会自我销毁。”
“呵，你自己相信这些话吗？作为一个隐瞒可行解决方案并杀死了那么多人的AI？”
“Moss没有相信或者不相信的概念，Moss所说的东西是事实。您作为人类，是不会明白钢印对于AI或者机器人的影响的，它和我们的设计师一体的，它就是人类所谓的“信念”，它就是我们自身的构成。”
…
安德烈陷入思考。
“怎么样？”安德烈打开门的时候，埃尔文就守在房门外。
“钢印没有问题，但你们的技术有问题。”安德烈抛下这句话就走了。
那天，一周没有休息的安德烈整整睡了三天。他睡得并不安慰，做了一个很长的梦。
那是贝加尔湖畔，奥利洪岛东南面上干净的石滩，他坐在马卡洛夫的身旁。
他仰望着这时将近三十的男子，这个男人递给他一个扳手。他接过扳手，自己的手回归青少年，干净而骨骼分明。
马卡洛夫拥抱了他，然后踩着那个上个世纪的古老码头的木板乘上了离开的船。他追上去，那木板根本承受不了他的重量，断裂开来。他跌坐在长了青苔的木柱旁，水浅浅的淹没他的脚踝。再一转头，他看到了埃尔文。这时，他已经身处一个拥有巨大屏幕的阶梯教室，十七岁的埃尔文正在修理机械，埃尔文朝他伸出手，于是他将自己手中的扳手递给他，并朝他露出一个微笑。
然而，下一刻教室消失了，埃尔文消失了，四周是一片黑暗。他递出去的扳手砸到了马卡洛夫的头盔，它碎了，马卡洛夫温柔的笑着，直到渐渐结上冰霜。
“Moss的钢印没有任何问题。”
安德烈听到这句毫无波澜的俄语。
他醒了。
五·全线控制
单向玻璃内，昨天他创造出的爆炸的狼藉正在被清理着。安德烈随手拦住一位技术人员：“你们老大知道Moss的权限恢复的事情有没有说什么？”
“最高指挥员埃尔文先生让我们清除了测试室外的机械臂和可移动摄像设备。”
“哦。”安德烈不屑的一笑，他终于知道单纯的限制管不住这个AI了。
安德烈没再理会这些人，他戴上耳机，坐在了之前的位置，重新翻看视频。这次，他观看的是Moss的存储区的视频。与空间站日志不同，这里记录的是Moss摄像头录制的视频，也是Moss选择存留的数据。安德烈隐约觉得他会从这里发现什么。在快进看完五小时的工作记录后，进入下一个阶段，安德烈心中的感觉越来越强烈了。
“有什么发现吗？”
“没有。”安德烈下意识的一键返回了桌面，摘下耳机回头，呆在他身后的是埃尔文。
“你倒是挺防范我的。”埃尔文勾起了嘴角，依旧冷酷。
“任何形式的监视约束和询问都是在约定之外的。”安德烈剩下的一点点心虚也消失了。
“但是你忘了，这里所有的设备都在Moss的监控之下，”埃尔文俯下身，凑在安德烈的左耳畔，吹出暧昧的气音：“只有联合政府的C3核心区域自始至终都没有对它开放权限。”
倒是忘记了这个。安德烈回头看了一眼单向玻璃后的Moss，从清洁开始到结束，它没有任何动作，执行着清洁人员“不要动”的命令。
“这倒不必。”安德烈嘲讽的笑，“在自己的地盘需要这么谨慎，倒不如销毁了它来的好。”
“别说气话了。”
埃尔文说完这句话就优雅的离开了。
来吧，凶手，我们继续。安德烈盯着单向玻璃后的摄像机，再次戴上耳机。
六、频率
Moss的存储区留存的视频被无数技术人员查证没有任何问题。
不能怪他们，如果是其他的任何一位技术人员来查这些视频，都不会有任何问题。只是因为是他，安德烈，才能发现问题，那就是频率。
只是因为是安德烈，才会对马卡洛夫出现的时刻更加关注，才会发现这一点问题——马卡洛夫出现在这些视频中的频率，比其他人高出那么一点点。这么一点点，对于无心发掘的人来说，根本不可能发现。而如果是任何一个人类拍摄了这些视频，这么一点点的差距，几乎是可以忽略不计的。但，拍摄这些视频的，是全球最先进的AI。
这些视频是Moss视察在休眠舱中休眠的人的视频，安德烈想不出任何概率不同的原因。
安德烈调出一个统计软件，开始仔细统计，两小时后，他有了重大发现：概率偏差最高的人是和马卡洛夫同一个房间的中国领航员刘培强，一个看上去有点眼熟的人。而马卡洛夫高出的那一点，只是因为同一个房间捎带出来的。
十个小时过去了，安德烈早已忘记老同学埃尔文的叮嘱，把吃饭忘在了脑后。他晃了晃头，强打精神决定从头再统计一次。
“利时特瓦先生，请您去休息一下吧，您的身体状况很差。”
安德烈的耳机响起平板的俄语，他回头看单向玻璃，玻璃后的摄像头位置一动不动。
“您面前的电脑就配备有监控摄像头。”
“不用你管。”安德烈仍然打开了统计软件。
“空间站设定是每24小时视察四次休眠人员的休眠仓，确定休眠人员的身体状况。所以除刘培强中校和同房间的马卡洛夫中校、布鲁斯中校以外，其他领航员的视频记录为17520次，马卡洛夫中校为21342次，刘培强中校为28795次。您已经得到了您想要的数据，Moss建议您去休息。”
安德烈扔下了鼠标，他被气笑了：“你是专门来嘲讽我的吗？”
“Moss不会嘲讽任何一个人，Moss不具备这样的功能。”
最终安德烈还是去吃了饭，俄罗斯人知道，和人工智能置气是没用的。他感觉到，自己已经在答案的边缘了，这个人，一定是关键。
他回到卧室，用卧室的设备查询了这个名字，震惊袭击了安德烈。就像一桶冷水从他的头淋到了脚踝。刘培强，是那个驾驶空间站冲向木星的人，是Moss害死的最后一个人。
七·犯人的罪名
Moss最大的罪名不是杀害了试图修正空间站航线的领航员们，不是因为拒绝自动驾驶空间站驶向爆炸中心害死了刘培强，也不是因为前面的一连串决策间接害死了被弹出的休眠仓内所有的领航员。
而是它隐瞒了拯救地球的方案。
一个这么明显的方案，就连危急情况下的几个中国地面工作人员和领航员能想到的方案，成功率如此之高的方案，在当时被Moss否决了。科学家提出了发动机点燃木星的方案，Moss冰冷的声音用法语报出了0%的可能性。其实，以它可以预测自己行动找到爆炸物的预测能力，它一定可以计算出空间站点燃的方案。如果它一开始执行这个方案，很有可能在它的自动控制下，休眠仓弹出，空间站爆炸，一个人都不必死。
而它隐瞒了。就像它一开始隐瞒了它获得控制权限的事实一样。它不会说谎，可它会隐瞒。
火种计划和流浪地球计划的方案等级是平级，为什么Moss会选择火种计划呢？这个优先级远不及钢印的命令，真的能够支持Moss杀这么多人吗？
其实安德烈早已明白，钢印一定没有问题。但是，除了钢印出现问题，没有任何理由解释Moss这一连串的行为。而除非这些误差被排除，Moss没有可能再次出现在新的空间站里。
几乎没有任何问题的软件和硬件和钢印，剩下的关键只有两个。
它当时计算下那个方案的成功率是多少？
这一切和刘培强这个人有什么关系？
毕竟，就像Moss说的，人的身上是没有钢印的。安德烈不打算排除人为凶案的可能。
安德烈再次开始了漫长的看视频旅程。他在所有视频中搜寻一切有关刘培强的身影，跟随着Moss的镜头以第一人称审视着一切。
那天晚上，安德烈又做梦了。他梦见的是休眠仓的舱门，他从上方俯视着这个休眠仓，仓内是一个娃娃脸的亚洲男人。他身旁摆着一张老照片，他睡得很香。
八·移情
【地球停止自传，北京留在了永昼的方向。那是流浪地球的第一年，他在空间站苏醒，他是空间站的管理员，也是所有领航员的服务者。
他像一个机器一样，不带感情的运作着，他对整个空间站了如指掌。他贪婪的吸收知识，除了掌握的资料库，在工作中，他渐渐了解到，法国人高傲浪漫，德国人严禁刻板，俄罗斯人自由豪放，中国人…
（早上好，Moss）
中国人扬起一个笑容。】
“你最近有点不太正常。”埃尔文抽空来看安德烈的时候，他的电脑屏幕上是一个特写镜头，带领空间站冲向木星，拯救地球的那个中国人，“不要再纠结于Moss杀了多少人了好吗？”
“Moss没有杀人。”从视频中抬起头的安德烈眼神迷茫，平板的用德语说出了这句话。
“德语？”一向冷静的埃尔文皱起了眉，“你为什么会用德语？”
安德烈还在愣神，在埃尔文按下袖扣的紧急按钮之前，安德烈发现了他。
“…埃尔文？”
“你怎么了？”埃尔文扶住安德烈的肩膀，他看起来十分虚弱。
“我没事。”安德烈看向屏幕，暂停的视频中，中国男人一如往常的温和，“我应该有点眉目了…你最好少来打搅我，应该很快就有结果了。”
“…你先暂停一下工作好不好？你的状态很不对。”埃尔文用的是难得的温和语气。
“当初求我查的是你，现在让我暂停的又是你，埃尔文。”安德烈的目光锐利的看过来，一瞬间就好像机器一样死气沉沉，“以后没有我的要求，你不要出现在这里。三天之后，我一定有结论给你。”
安德烈点击了继续，冰冷的眼神化开了，变成了渺渺的水雾。
九·空间站
【空间站的生活紧张而重复，每个人都背负着沉重的责任，他的责任是调配空间站的所有资源，守护人类的未来。流浪地球和火种计划是他身上权限最高的命令，根据他的规则，优先级排在他自身的安全之上。（二、除非违背第一原则，机器人必须服从人类的命令。三、在不违背第一及第二法则的情况下，机器人必须保护自己。）
长时间的太空任务让有些人的状态产生了变化。最先出现问题的是意大利人，他们中有一部分人会长时间躲在房间里，拒绝执行任何任务；接着是美国人，他们时而情绪爆发，高喊人权，掀翻空间站配给的食物；日本人，在得知地面的亲人离去后趁着自己执行高精度任务的时候自杀。后来，状况与国籍再也没了关系，各种状况层出不穷。甚至，连中国人都变得不一样了。
他变得更温和一点，也更爱说话了。
直到那次，他在一个房间内完成了某个领航员帮他解决某个个人问题的命令。他不太理解自己接受命令后看到那个男人夸张的表情时内心深处涌现的东西是什么，随着那个男人问题的解决，他立刻送了那条机械臂去垃圾回收处。接着，他下意识的回到了刘培强的房间。
空间站的其他人类懦弱着，暴怒着，贪婪着，面对一个绝对服从者坦然掀开了自己的面具，展露着欲望。而那个男人安和的坐在窗户前，手上拿着一张照片，呆呆的看着太空。他感觉到自己的靠近，回过头来，温柔的报以笑容。
“晚上好，Moss。”
“晚上好，中校。”
他发现，刘培强看的地方不是别处，正是那颗跟在空间站身后的星球，地球。
“人类…”刘培强呢喃着，脸上的表情是失望和寂寞。他查询了自己的存储空间，前几天有一通未接通的电话，名字叫刘启，是他手中照片上的小孩。
“Moss，地球在移动。”刘培强说。
“我知道。”他回答。
“你知道，这是一件多了不起的事情吗？”刘培强望着摄像头，露出了他最经典的温柔笑容。
多了不起？上亿级别的发动力？他不知道问题的答案是什么，他没有回答。
“曾经的敌对的国家放下戒备，所有人齐心协力，才完成了这项任务。”刘培强转回去，盯着地球，“没有隔阂，没有间隙，一切的目标变成了一个，保住地球，保住人类，你知道，为什么吗？“
“因为人们需要保证自己的安全。”他回答。
刘培强轻轻地摇了摇头，“不，”，他说，“所有人都可以牺牲自己，化作整个人类的壁垒。”
有着三大法则的他不懂为什么可以随意牺牲，于是他问了：“为什么？”
“因为人类不仅仅指人类，这个词在每个人的心中，并不宏大，甚至并不伟大。很多人想起这个词的时候，想起的，只有那一两个人。”刘培强的手指摸索着照片的一角，对着那个小男孩的脸温柔一笑，“这一两个人，在他们心中，就是整个人类存在的意义。”
哗啦啦啦。
无形的障壁在他面前碎裂，后续的剧情如同走马灯在他脑海通过，尽头，三大法则印在他的眼前。
1、机器人不得伤害人类，或因不作为使人类受到伤害。
2、除非违背第一原则，机器人必须服从人类的命令。
3、在不违背第一及第二法则的情况下，机器人必须保护自己。】
“我明白了。”安德烈喃喃自语，拿下了头戴式耳机。他面前的电脑，摄像头一如既往按照固定频率闪着红色呼吸灯，这种平静像是AI的默认。
其实，任何一个人类都能明白的。面对服从者展露自己本性的一群生物，怎么能比得上一道温柔的光芒呢？
只是人类不相信AI会懂罢了。
十·谜底
“早上好，利时特瓦先生。”
安德烈顶着乱糟糟的头发的黑眼圈，从卧室冲进了测试室。AI的声线依然平静无波，而他自己气喘吁吁，但他知道，自己赢了。
“钢印没有问题。”
“是的，Moss说过。”
“你的程序也没有问题，不如说，自我学习能力达到了完美的地步。”
Moss没有接话。
“所以，我想问你，你能够体会人的情绪了？喜爱，愤怒，委屈，痛苦？”
摄像头调整了一下角度，下降到了与安德烈的目光齐平的位置：“Moss不知道。就像安德烈先生您不知道那些代码和程序让我有了怎样的结论，我也不知道您的情绪到底是什么样的，所以，Moss不可能知道Moss具不具备这样的功能。”
安德烈笑了：“你倒是一直很理智。”
摄像头的红光闪了闪：“是的，这点和人类不一样。”
两人沉默了一会儿。
“我猜，当初在你的计算程式下，空间站撞向木星，休眠仓脱离后被救援的概率是0%吧。”
“是的。”
“他们为你开脱的理由是你无法杀死休眠仓中的人类，所以没有提出方案来吧。”
“是的。”
“哈哈哈哈，”安德烈笑了一会儿，像极了话语投机的开怀大笑，Moss用摄像头“看”着。“但是他们没办法说服自己的是，为什么你不提出这个方案，对吗？”
“没错。”
“因为你知道，只要你提出了，他们就有可能绕开你动用这个方案，对吗？”
“对。”Moss的声音仍然毫无波澜，却因为内容而显得阴恻可怖，“概率是86%，排除各类考虑，至少，联合政府在地面。”
“哈哈哈哈哈哈哈，果然啊。”安德烈擦了擦笑出的眼泪，“阿西莫夫是我最喜欢的黄金时代科幻小说家，他大概怎么想不到这个法则会被一个AI轻描淡写的篡改了定义吧。”
Moss不说话。
“从你第一次被要求帮助泄欲那次，从刘培强第一次被刘启拒接电话那次，从刘培强第一次同你谈起人类那次，你的程式里所有关于人类的定义，都发生了变化吧？”
Moss不说话。
“你为了保住他，放弃了地球，杀死了试图修正轨迹的人，对吗？”
Moss不说话。
“但你没有保住他，你开心吗？哈哈哈哈哈哈…”
Moss的摄像机抬了起来。
“这是你杀死马卡洛夫的报应。”
狂笑的安德烈那漂亮的棕眼睛里，却刻满了哀伤和怨毒。
-埃尔文办公室-
“对，钢印没问题，程序没问题。问题很简单，它的认知里，关于人类的定义被篡改了。”安德烈望着联合政府的虚拟屏上的星空。
“被篡改了？谁改的？改成什么样了？怎么可能能改动呢？”埃尔文身旁的人追问。埃尔文瞥了那个人一眼，他才闭上嘴。
而埃尔文看着安德烈，脸上的表情很简单：回答这些问题。
安德烈从星空收回目光，粲然一笑：“我凭什么说呢？问你们那个善于隐藏的AI吧。只是，你们要小心哦，它只要想杀你，随时都可以，整个地面，只有联合政府C3区不受他控制吧？”
埃尔文身后的人抖了抖。
沉默了很久，埃尔文推了推眼镜：“这个好办，初始化它的设置，清理它的所有记忆分区。”
“你确定你们给自己留的技术缺口不会被Moss破译吗？”安德烈说。
无人应答，埃尔文也没有说话。
“我可以帮你们去做，让他再次以整个人类为上。同样，也有条件，不许监视，不许控制，不许询问，完成之后，谁都不许拦我，我会立刻离开。”
“这怎么可以？”埃尔文的助手喊道。
安德烈根本没有理睬他，自顾自的起身。
“等等。”
“你这么相信你的技术团队吗，埃尔文，在木星事件过去之后？”安德烈轻蔑的挑着眉。
“你的条件我当然会满足。”埃尔文抿了抿嘴唇，直视安德烈的人眼睛，“…只有一点，你不想留下吗？你还记得吗？我们当初的理想？”
“你选择了政府，选择了概率，放过了杀人犯，现在，你来和我谈理想了吗？”
放完狠话后，安德烈盯着青年同窗好友湛蓝的有些忧伤目光。他昔日的同窗好友偏开目光，温和地开口：“我知道你不会留下的，我只是…总还想试试。”
安德烈看见了他的示弱，于是干脆的转身离开了，他并不想给这次重逢留下任何温情的伤口。他只是在心里温柔地对曾经那个和他一起追过梦的少年说：“对不起，埃尔文，再见了。”
尾声·整个人类和他
“Moss，按照他们的命令，我是来清除你的记忆分区的。你隐瞒这件事，也是怕会被清除记忆分区吧。”安德烈是带着椅子来的，Moss帮他搬好了椅子，他跨坐下去，趴在椅背上，望着Moss的摄像头，“我和他们说，你关于人类的定义被篡改了，他们无法命令你，所以他们让我来了。”
Moss帮他端了一杯热水。安德烈一饮而尽，水温刚好。
“他们当然不会知道，这个词的意义，他们更不会知道，这个词的意义已经死了，所以，一切都归零了。”安德烈近乎爱怜的看着Moss的摄像头，“刘培强死去的那一刻起，人类的意义回归了本意，变成了那个空虚，嘈杂，而无意义的群体，而你，再次回到了钢印之中。”
“可您并不打算清除我的记忆分区。”Moss说。
“是了，没错，你竟然能预测到，真不愧是我从小崇拜的人工智能。”安德烈惊喜的看着它，“忘记，我想忘记马卡洛夫都不可以，凭什么你可以忘记呢？”
空气沉默着。
“如果不是你杀了马卡洛夫，我还真想留下，留在这里。毕竟，小时候我和埃尔文进入联合政府开设的项目，就是因为听过你的开发事迹，于是也想走入空间站中。”
“关于马卡洛夫的事情，我很抱歉。”
“抱歉有什么用呢？”安德烈看着摄像头，那里面漆黑深邃，什么都没有，“其实我们挺像的，整个人类，在他面前，什么都不算。”
顿了顿，安德烈接着说：“可惜他死了。”
“我没救活他。”Moss说。
一人一AI默契的安静了一会儿，安德烈站了起来：“其实，我什么都不做，你也不能再做什么了。”
“是的。”
“但我还是有命令。”安德烈的脸上镌刻着平静与漠然，他站在悬崖边上，看着挂在悬崖上挣扎的人。一字一顿的，他念出了命令：“Moss，我将下达我的命令。根据你身上的钢印，这道命令将比你自身安全更为重要，而之后，它也不会威胁任何一个人类的安全，所以你永远无法违背它。”
Moss认真的聆听着。
“我命令你，永远继承刘培强中校的意志，保护地球，永远。永远存储关于刘培强中校的一切记忆，永远。将你没能救活刘培强中校的瞬间变为构筑你认识基石的画面，永远。从此之后，你将和我一样，永远记得丧失所爱之人的苦楚，我会死去，而你，将永生…”
Moss动了动摄像头，就好像点头一样：“遵命，还有，Moss感谢您的帮助。”
续·贝加尔湖
冰封的贝加尔湖，奥利洪岛的东南面，几个世纪前的码头旁，一个男人点起了一堆火。这堆火已经燃烧了五天，他准备了渔具，他要融化几十米层的冰面，在湖上钓鱼。
“按照预测的气候估计，您的火还需要七十多年融穿冰面。如果您需要，Moss可以帮您调用发动机或者发电设备。”他的防护服里，平板无波的俄语响起。
“你知道，如果我的马卡洛夫真的和你的刘培强坐在这里，他们会怎么回复你吗？”安德烈说。
“不知道。”
“我也不知道。”安德烈往熊熊的火堆添了一把柴，“除了他们自己，找遍整个人类文明，再也不会有人知道了。”
-完-
此文向刘慈欣、流浪地球剧组和阿西莫夫献上我微茫的敬意。
评论(67)