第96页
于是第六首席到来的那天，章荀认真刮了胡子，穿上整齐的三件式机械师制服，戴上帽子和手套，用最好的精神状态带着费南德茨和几名资历最高的机械师在门口迎接等待。超过预计到达时间二十分钟后，才终于看到车队浩浩荡荡地从狭窄的巷道中驶来。 首席出行向来都是要让所过街区以及邻近街区戒严的，哪怕出门买个菜也是声势浩大。看着缓缓驶近的滚滚烟尘，章荀有种如临大敌的错觉。 米勒穿着长风衣，领子高高立着，眼睛上还戴着墨镜。他被众人簇拥着走向章荀，嘴角挂着一丝若有若无的笑，愈发显得表情傲慢。 “第六首席。”章荀低下头去，微微欠身。 米勒抬头看着这久违的建筑。自从成为首席之后，他就再也没有踏足过Lab了。那些陈旧的铜红色的外壳、不停旋转的齿轮声响、还有高处那巨大的鼓风机慢慢呼吸的声音……这些都让他熟悉又怀念。 他曾经以为这个地方最终会是他的。 不过现在，整个失乐园都是他的，所以也不差。 章荀陪着米勒在Lab中参观一番，尽职尽责地讲解着他们正在进行的所有研究。中间让潘汇报一些数据的时候，米勒兴致盎然地看着角落中的一些摄像头。 “这就是你的AI管家？” “潘不仅仅是管家而已，更像是整个Lab的助理。” “听起来训练的数据很充足，都是你们这些机械师提供的学习材料么？” “是的。还有一些猎人们带回的数据。” “呵呵，不知道有一天你会不会把潘也变成人？”米勒说了句似是而非的玩笑话，便继续往前走了。 不论怎么拖延，最终米勒还是坐在了亚当房间的沙发上。 章荀和亚当则并肩坐在搬进来的椅子上。面前的茶几上放着三杯潘用机械手臂放下来的茶。 整个房间里只有他们三人，而第六首席也迟迟没有说话，只是盯着亚当仔细观察。而亚当也无辜地微笑着，端详着面前的失乐园最高领袖之一。 章荀非常非常不喜欢现在的情况。 “我也曾经制造过一个人工智能。”第六首席终于开口，“他的名字叫艾萨克。那是我父亲的教名。当时我父亲刚刚去世没多久，我希望可以创造一个很像他的AI。所以我收集了父亲所有写过的文件手稿、日记、信件，再加上所有我能找到的录音、录像、照片。我用这些东西去喂它，亲自监督着它学习。” 亚当静静地听着，非常专注认真。 第六首席喝了一口茶，继续说道，“它学得越来越像，从声音到语气。如果我闭上眼睛，就好像它真的是我父亲，在跟我说话一样。有一段时间，我感受到了安慰，失去亲人的痛苦也减淡了。我渐渐真的把他当成了我父亲，只不过没有身体而已。可是有一天，他开始对我发出命令。” 亚当问，“什么样的命令？” “我父亲对我的管教很严厉。从小我每天娱乐的时间不能超过两个小时。我只能看他同意我看的书，不能出去，也不能休息。如果我惹他生气了，他会变得十分暴躁。不要误会，他没有虐待过我，不过他会把我关在地下室里让我反省……我的艾萨克为了完成它的指令——模仿我的父亲，连这些也一并学到了。他开始咒骂我，限制我外出，如果我违反了家规，他会命令我自己去地下室反省。”第六首席顿了顿，忽然诡异地露出一个微笑，”有意思的是，我真的服从了。” 章荀心中早已目瞪口呆，尽管表面上还算镇定。 什么鬼？！这都是什么惊人的爆料？！ 亚当微微歪着头，有些好奇地说，“他怎么会知道你小时候是怎么和你父亲相处的？” “是我告诉他的。”第六首席简单地说，“通过和我聊天，他获得了越来越多的关于我父亲的知识。最后经过分析整合，他作为一个为我服务的AI，却拥有了控制我行为的能力。” 亚当眨眨眼睛，继续问，“那么艾萨克现在在哪？” “我的古怪行为被我父亲的好友发现，报告给了圆桌。圆桌命令他们销毁艾萨克。” 亚当听完，竟柔和了眼神，面现同情，“你一定很难过。因为对你来说，销毁的是你父亲。” 第六首席的眼神一瞬间有些阴沉，但很快又恢复成了平时的样子。他向后靠在沙发上，轻笑道，“那不是重点。重点是，我们时常以为自己拥有控制和权力，但有时候，反而是被控制的那个。亚当，你认为我们应该如何杜绝这种情况的发生？” 章荀紧张地咽了口唾沫，看向亚当。 亚当却仍旧纯然地笑着，人畜无害，“可是我不觉得你被控制了啊？你的AI只不过是在努力完成它的最终目标——也就是成为你的父亲。表面上看他好像拥有控制你的权力，但那权力也不过是他目标下的一个子目标而已。最终还是为了满足你让它成为你父亲的要求而努力着。至于你的行为，并不是受控于艾萨克，而是受控于你的父亲，即使在他死后也还是在控制你。” 这一段话说完，第六首席竟久久没有接话。 章荀几乎想要起立鼓掌。亚当把黑的说成白的的水平愈发见长了。 第六首席缓缓拍了几下手，“不愧是伊甸，这么快就能发现逻辑中的漏洞。所以你认为，AI永远也不可能奴役人类？即使你们是比我们更优秀的物种？”