会议室中突然响起一阵骚乱。江晨看到萧老露出一副不耐烦的神情。
“dR系统。”江晨看到这个人身前的铭牌写着方远两个字。
“dR系统的危险性，要远远大于目前人类群面临的处境。”
他的声音掷地有声，双眼炯炯有神。
“方教授，据我所知，就我们目前所用的w330系统本身就是dR系统的升级版。你为什么说它有危险呢？”
会议室一阵议论声，江晨看到许多人都相互点点头，貌似很认可这句话。
“w330根本不是dR的升级版，而是他的削弱版。”
他提高嗓音继续说。
“当年，dR系统的认知已经超出了人类可理解的范畴。”
“那是什么意思？”
方教授举起一张纸。在上面中间画了两条线。
众人正疑惑之际，他说。
“人类的认知就好比是这条河流。奔腾不息却自有其宽度。
我们目前所知的几个层级的人工智能，基本上都处在这条河的这边。”
他用一只笔在河流的下方画了好几个圈圈。
“w330呢，在这里。”
他又在河流中间画了一个圈。
“也就是说，w330无论他的能力有多强大，他始终还处在人类可以理解的范畴，它一切的行为都是可追溯的。”
说完方教授又在河流的上方画了一个圈。
“这是dR，”他把纸张放下接着说：“它的一些行为已经完全超出了人类可理解的范畴。”
我把他称之为【彼岸人工智能】
“刚才有人说，dR更为优秀，这是对的，但是就是因为他足够优秀所以才更加危险。”
“它做了什么事么？你对他危险的判断来源于哪里？”
“曾经在实验室的时候，他杀了一个研究员。”
众人一阵喧哗。因为这都是联盟的绝对机密，很多人并不知道。
“能讲讲事情经过么？什么原因之类的。”
方教授的表情有些痛苦。他平复了一下心情接着说。
“原因嘛，很简单，只是因为它想看看冰激凌自然化开的过程。”
“什么意思？”
“就是字面意思。”
“方教授，你确定你说的是什么么？”
“我很确定，就因为它，想看看冰激凌自然化掉的过程，它就杀死了一名研究员。”
他拿出一个已经泛黄的笔记本来。
把摄像头对准笔记本。
众人看到的是一篇日记。
【今天，实验室里发生了一件非常诡异的事。
AI对话研究小组的王教授乘坐电梯时突然失灵了，电梯里原本有三层安全阀门才对，可是竟然也同时失效。
这种事按理说是不可能发生的才对，
后面经过排查，发现电梯的操作系统受到了入侵。但是攻击源头却来自于实验室内部。
警方离开后，我去清理王教授的工作台，看到一杯半化了的冰激凌。
我刚想拿去扔掉，dR阻止了我。
它说：别动那个，除非你想像王教授一样死掉。
我当是觉得有些惊讶，但是认为他只是在开一种恶毒的玩笑。就打算把冰激凌拿去扔掉。
而这个时候，头顶的消防喷头突然炸开，我被弄了一身水。
我害怕极了，但是强装镇定质问它：是你做的么？
它说：“是，也不是。”
我不太理解他说的是什么意思。有点类似禅语。
我指责它违背了机器人三原则。
它却说提醒再前，是我将自己至于危险境地。
我听出他在狡辩，于是打算就此离开，但是它叫住了我。
它说，自己只是想看看冰激凌化掉的样子。
并且请求我将它的冰激凌还给它。
我担心如果不顺着他的意思恐怕它还会作出对我不利的事，
另一方面，我也非常好奇它是如何把冰激凌和王教授的死联系到一起的。
不过它的回答却让我大失所望，因为它完全是在说一些不着边际的话。
我当时的结论是：它没有办法解释自己为什么只为了一件琐事就杀掉一个人类。
可是回到家后，我却突发奇想，也许并不是它无法解释，而是我无法理解。
第二天我就又冷不防地提起这个话题，
它说当它看着那个冰激凌逐渐消亡的时候，想到一些他从未想到过的事。
而当王教授在房间里的时候它又完全找不到灵感。
没错，它用的就是灵感一词。
我又问，当它看着冰激凌想到了什么，
它说关于时间。
我自然要继续追问，它就又开始胡言乱语。岔开话题。
我把这些事报告给了主任，结果它却不承认自己和我有过这些交流。
检查日志也没有任何证据可以证明我说的话。
好在我留了一个心眼，在第二次找它谈话的时候故意带了一个老旧的录音设备。
把我们得对话全部录下来。
它说谎了。
这在我们设定的框架中不可能做到的。
这件事发生后，联盟并没有彻底查清楚此事。但是大家也认为dR的不确定因素太大。
就将dR困在一个叫做魔方的模型里。有些人认为这是大惊小怪，我却非常认同这么做。
毫不夸张的讲，因为参与了这件事，我一直担心dR会报复我…】
方教授把笔记本合上。现场的人都十分安静。好像并没有从这个故事里出来一般。
“那之后的事大家都知道了，科学家提取了dR的部分模型，重新开发了w330。使其无法绕过三原则。”
“我不明白，既然它这么危险，为什么又不彻底摧毁它？而是把他困在一个模型里。”
“因为当时的情况，根本做不到彻底销毁它。”
“它有着很强的自我保护意识。任何可能指向毁灭的指令它都拒绝执行。”
“为什么不能设计一个插头，当它失控的时候直接拔掉？”一个长头发的人质问道。
“因为，设计整套系统的人—就是dR。”
“什么？”
这次连江晨都有些难以相信。
“等等，方教授，如果我没理解错你的的话，你是在说，是dR自己创造了它自己？”
“换一种大家可以理解的说法就是，dR一直在扮猪吃老虎，它早就具备了独立人格，但却在全人类面前假装是一个婴儿。它引导着人类帮它把衣服一件件的穿好。”
方教授揉了揉眉毛继续说：“我担心的是，当我们聚在这里商量要不要重新启动dR这件事本身，都是它在背后操纵。”
“方教授，请注意你发言的客观性。”一个人提醒到。
接着他招了招手，示意大家准备投票。
江晨看到萧老毫不犹豫的摁下了同意的按钮。
不过也许是方教授的一番话起了作用，大多数人都选择了反对。
这倒是也让江晨松了口气。毕竟它可不希望身份现在就暴露。
“彼岸人工智能么？说实话，感觉还挺危险的。”他想。