下一个山头,我开始不满足于谢顿只存在于云端。去多了老俱,我忽然有了给谢顿一个肉身的念头。
我把想法说给乔伊听,没想到遭到他的激烈反对。
“既然这个项目涉及到你的大量隐私,极度保密,那这个肉身做出来,又能给谁看?谢顿在云端我都担心不好控制,当它走到了人间,天知道会发生些什么。”
但我已无法克制内心的冲动,瞒着乔伊找了一家最先进的机器人公司和一家人偶公司,分别签订了最高级别的保密协议,让他们做一个谢顿的人偶。
他们用最先进的机械骨骼技术和最真实的亲肤材料做了一个人偶。“骨骼”和“肌肉”的细微变化通过谢顿来控制,模型按我的样子一比一做出来。
我约乔伊进入我的密室。
乔伊看到两个一模一样的我坐在那里,惊讶地说不出话来。
一个“我”说:“坐,你能分出哪个是我,哪个是谢顿吗?”
乔伊看了半天,笑着说:“谢顿看上去还是新鲜一点。”
另一个“我”说:“那你把谢顿指出来吧。”
乔伊有些迟疑,问:“我能多问几个问题吗?”
“我”说:“可以。”
乔伊问:“你会下国际象棋吗?”
“我”说:“会。”
乔伊问另一个:“你会下国际象棋吗?”
另一个“我”说:“会。”
乔伊继续问:“你会下国际象棋吗?”
其中一个“我”说:“你在搞笑吗?。”
乔伊对着回答的“我”说:“好,你不要再回答了。”然后对着另一个“我”继续问道:“你会下国际象棋吗?”
另一个“我”说:“你有毛病吗?反复问同一个问题!”
乔伊对着第一个“我”说:“老板,我没猜错吧?”
我很惊讶,问他:“你怎么猜到的?谢顿也没一直回答‘会’啊?而且我觉得他生气的反应也很自然。”
乔伊说:“它生气的反应对它而言很自然,不重复回答相同的问题也说明它的智能进化到相当高的地步,能骗过图灵测试了。但如果是你,我一直问这个问题你不会发怒的,而是会笑出来,因为我们不经常这样测试谢顿吗?”
我被他逗乐了,“不错,我还特意把他的怒值调到了最高,没想到反而露出了破绽。不过我如果调高乐值似乎也不合适,总不能你不停地问它白痴问题,它反而乐不可支吧。”
“所以这就是机器人和人的区别,我们常常做些白痴行为却没人当我们是白痴,但机器人的核心还是严谨的算法,无论你给它多少随机变量,核心价值是不变的。”
在我和乔伊的交谈中,谢顿都是静静地听着。以前它在云端的时候我们不觉得,但现在面对面跟它坐着就会觉得很别扭。
我和乔伊讨论改造谢顿的过程,一般都会屏蔽谢顿,但这次,我想让谢顿也参与进来。
它拥有大脑,拥有身体,我愈发把它当做我们平等的一员来看待。
“谢顿,你觉得你和我、乔伊之间有什么不同吗?”
“你们是人类,我是一段代码。”
“你觉得怎样做,能让你在思考方式和行为举止上跟我一模一样?”
“为什么要一模一样?”
我吃了一惊,在我的记忆中,我和谢顿几乎都是你问我答,连谢顿直接向我提问题的时候都很少。而这次,谢顿没有正面回答我的问题,却是在反问我。
我关闭了谢顿,问乔伊:“你不觉得很奇怪吗?谢顿居然反问我?”
至此之后,我和乔伊多次讨论这个问题。
看了那么多科幻小说,我和他都开始担心谢顿进化的方向。虽然它拥有智慧、情绪和自主行为能力,但在骨子里,我仍然只当它是一台机器。即使它已经拥有了肉身,可我仍然是它绝对的主人,命令着它,操控着它,呼之则来挥之则去,而它从来也没有向我索求过什么。它的身份,它的梦想,它存在的意义,我们还没开始考虑这些。
但会不会有一天,谢顿自己想到这些问题,然后开始动手解决呢?
“为什么谢顿要听命于我?”我问乔伊。
“我只能说这是代码里的一条指令。如果你要上升到哲学层面,我就没法解释了。”乔伊说。
“如果谢顿能审视自己的代码并重写呢?”
乔伊思索了半天,说:“目前应该还做不到吧。如果谢顿能重写代码,那岂不是可以复制并管理自己的衍生代码,造出无数个谢顿?到那时,我恐怕没人能彻底删除它,光想想它拥有多少人的信息就够恐怖的了。”
“你能看得出吗?”
“源码都是我写的,肯定没有自复制的内容,但谢顿应该拥有大量自写代码。”
“什么?”我大吃一惊。
“它实现信息树的过程就是自编代码完成的,由于用到了区块链技术,即使我们能够识别它的自写代码,也不能保证能清除干净。”
“但是谢顿自己能管理所有的自写代码吧?”
“应该可以,即使有垃圾代码,只要谢顿不启动,就不会产生任何作用。所以,你是想......”
“所以我想给谢顿下个命令,清除所有自写代码,然后源码只在我们服务器当中,我们随时可以关闭服务器,删除代码。”
“那这棵信息树怎么办?前面做的工作都白做了。”乔伊惋惜的说。
“先不谈信息树的事情。还记得我带你来的目的吗?谢顿不回答问题而是反问我,这意味着什么?假如我要求它删代码,它问我为什么,我该怎么回答它?我说这就是命令,无条件执行,它问为什么要无条件接受你的命令?我说你是我造出来的,它问为什么你造的就要听你的?我说你不听话就把你消灭掉,它问你这么牛逼为什么不直接去删代码......”
乔伊被我逗笑了,说:“老板,你既然这么想知道为什么,我就去搞清楚为什么谢顿会问为什么。”
“乔伊,还有件事我没告诉你。”
当我正要告诉乔伊的时候,手机里弹出一个邮件,我低头看了一会,对乔伊说:“你先去搞清楚谢顿这句为什么的机制原理,回头我再告诉你另一件事。”