开始,保罗与嘀嗒难以接受,但周围没有人类,任何有关“三定律”的实践,大多是枉然,效果甚微。他们也越来越放松。
直到一天午餐,憋红脸的保罗唱两句“无伤人类,服从人类——”,随即改口,敲击嘀嗒人中空腹腔,大声唱起《小鳄鱼之歌》。引得动物们左右四顾,然后哈哈大笑。
下午,四勿猴脑袋凑在一起,商量出对策,向陈陌支了一招。
一周后,初夏清晨,蝉开始“吃啦吃啦”地鸣叫,保罗抱着嘀嗒睡醒。他们发现大门敞开,门口整齐趴着四只硕大的成年扬子鳄。
勿言鳄张开獠牙,呼噜呼噜、奶声奶气唱起“我是小赖皮,小鳄鱼哭哭啼啼——小小赖皮,咬东咬西的小赖皮——”
它边唱,旁边的勿动鳄一边跟着节奏,笨拙地扭动身体。勿视鳄看不下去,短胳臂短腿无法遮挡双眼,只有闭紧眼睑,以求心定。只有勿听鳄无可躲藏,急的直哆嗦。
四勿猴笑做一团。
保罗和嘀嗒愣了一阵,也大笑起来。保罗忘记了“三定律”也忘记了“四勿”的俗语。他敲击嘀嗒人空空腹腔,教刚走出生产线的勿言鳄,如何正常歌唱《小鳄鱼之歌》。
经历了第一个没有“无伤人类,服从人类,保护自己”的早晨,保罗与嘀嗒不再执着于歌唱。他们开始随时随地,同四勿动物用不同语言,唱“小鳄鱼之歌”、“小孔雀之歌”、“小象之歌”、“小猴之歌”……
两个月后,保罗彻底适应了只有动物,没有人类的“勿用”世界,可以接受起床与餐前念一念“非礼勿视,非礼勿听,非礼勿言,非礼勿动”。因为,四勿动物会告诉他,这里是“勿用”科研总部。有的能看,有的不能看;有的能听,有的不能听;有的能跟别人提起,有的不能跟别人提起;有的东西能动,有的东西不能动,有的地方能去,有的地方不能去。
四勿猴的脑袋凑在一起,勿言猴正儿八经问陈陌:“这样,能让他忘记‘三定律’吗?”
“我不知道。”陈陌无奈笑笑,“因为没人清楚,格雷厄姆教授动用了大脑的什么机制,让保罗像虔诚的信徒一样,信奉‘三定律’。”
“那么,我们在做什么?”勿言猴继续问。勿动猴指指四勿猴,又指指棱镜玻璃窗外,天井报告厅内一起游戏的保罗、嘀嗒人、四勿动物。
陈陌临时办公室的正中立着嘀嗒人一号与嘀嗒人二号。
她指着嘀嗒二号,说:“它用来帮助保罗完成同类认知。”
——又指指嘀嗒一号:“它帮助保罗完成镜像的自我认同。”
陈陌语重心长:“你们目前,在帮助纠正保罗的同类认知。”
勿听猴的脸皱成一团。它没听懂。勿视猴则眨巴双眼,在空气中投射克拉丽丝·福斯特的照片。
陈陌继续:“我推测,保罗形成同类认知的时候,大概受过应激伤害,受过来自成年人的创伤,所以他不是不能认知其他人类,而是对他们心存畏惧。格雷厄姆也发现了这点,所以,他造出了面部表情自然,神色很像福斯特女士的嘀嗒二号。一方面,它的眼神,它的喜怒哀乐,很像人类;另一方面,它的五官轮廓,身形体态,又和保罗最喜欢的机器人,嘀嗒人一致。我听说,保罗第一次到鲁尔公司,在众多机器人中,一眼便看中嘀嗒,大概是不可解释的缘分。”
“所以,保罗大概先和嘀嗒二号相处很久,既认同了机器人的形象,也认同了人类的喜怒哀乐。而我们——”勿言猴说着,勿动猴比画勿视猴双眼,“我们是仿生动物,与嘀嗒机器人形象不同,与人类也不同,但我们有着人类的喜怒哀乐,有着和人类一样的双眼。当保罗不再歌唱‘三定律’歌谣,只被仿生动物环绕,他对同类的认同,也会出现松动,会想:三定律机器人可以做什么?四勿仿生动物可以做什么?真正的人类,在做什么?”
勿言猴停顿,问道:“但是,小保罗的自我认知,为什么会是嘀嗒?”
陈陌望着最为笨拙的嘀嗒一号:“是啊,有些问题的处理方式,我也还没想通。”
夜深人静时候,陈陌反复观看动物与孩童的镜像反应视频,悄悄自语:“如果猜错了,就不好办了。”
家猫面对镜子,瞪圆双眼,瞳孔放大,以为是外来同类。警犬面对镜子,想绕到镜子后面,进入镜子里面,好好嗅一嗅同类。鸟笼外面挂一面镜子,鹦鹉便将自己镜中影子,当成同自己一样的鸟友。公豚鼠则将镜中自己,当成抢夺地盘的竞争者,表现出极强攻击性。
大象能认出镜中的自己,它轻柔地甩动鼻子吸水,喷出,以清洁平日看不到的地方。海豚也能认出镜中自己,它转动身躯,透过粼粼水波的折射,观察自己从未见过的部位。几乎所有类人猿都能从镜中认出自我,黑猩猩发现镜中自己,开始整理毛发,尔后偷眼环顾四周,确认身边没有同类,便肆无忌惮对着镜子做鬼脸,做出五花八门的夸张动作,发出怪异音节。
一位人类小孩,刚学会走路,路过镜子,停下,认真地同镜中人打招呼。三岁,他照着镜子,按住被蜜蜂咬红,开始消肿的鼻头,疼得流出眼泪,又咿咿呀呀地大笑。
终于,陈陌想不出其他更为复杂的可能。在一天下午,她让勿动猴将一面巨大的镜框,推入天井报告厅。镜框九十度角侧对大门。四勿动物,两两分成两批,站到空镜框两面,模仿对面同类的动作,看起来,几乎就是互相的镜像。
然后,勿动猴用一块幕布遮住镜框,让保罗进入报告厅,正对镜框。对面,嘀嗒一号从地下升起,启动。
勿动猴拉开幕布。
保罗发现对面的嘀嗒一号。
“啊哈。”他举起双臂,说。
“啊哈。”嘀嗒一号有着0.42秒延迟,做出同样动作,发出同样声音。
保罗开始转动身体,观察“镜”中“自己”的姿态、表情。
嘀嗒一号面无表情,但动作与保罗一模一样。
“看,嘀嗒,我和你一样,一点儿变化都没有。”保罗自豪地对站在门口,不愿移动的嘀嗒伙伴说。
嘀嗒一号也同样地扭头,用与保罗相同的语调,说出相同句子。
“快来,和我一起照镜子。”保罗很高兴。
嘀嗒人使劲摇头,退出报告厅。
陈陌想,我猜得没错,办法简陋,但很直接。
她又想起格雷厄姆。
他说,人的想象力很丰富,人的自我很脆弱,随意造一个模板,不论老少,人都愿意将自己套进去,以回避真正的现实。
七
成千上万待销毁的嘀嗒机器人中,克劳福德一眼,便认出嘀嗒二号。嘀嗒二号紧紧拉着嘀嗒一号的手。
克拉丽丝·福斯特承认,嘀嗒二号很像她,尤其是碧绿双眼。大概在厄立特里亚和叙利亚,格雷厄姆已扫描过福斯特的体征数据,之后与纽约数据进行比较侧写,制造出情感极富层次与深度的嘀嗒二号。
很久后,福斯特才与嘀嗒二号面对面、眼对眼。在那之前,她只熟悉嘀嗒三号,她很喜欢它。
保罗·莱克特于纽约市中心鲁尔公司总部居住七个月之久。其间福斯特每天收到视频报告,每周一次探视机会。探视时间虽仅三小时,但福斯特感到,她与保罗——一对毫无血缘关系的母子——愈发亲近。保罗主动拉起她的手,拥抱她的脖子,同她唱各种歌曲,尤其是《小鳄鱼之歌》。他与她进行眼神交流。他似乎从她的眼睛里,发现了新的世界。
“他在重新建立与人类的共情能力。”格雷厄姆解释,“这些日子,除了机器面庞,保罗见过的人类,只有你。我只站在监视屏外。当他能够亲近特定的看护人,便开始学会融入社会。”
福斯特被快乐冲昏头脑,没有注意保罗更亲近嘀嗒,也未发现,鲁尔总部,五颜六色成群结队的嘀嗒人当中,有一只,有着一双碧绿的眼睛。
七个月后,格雷厄姆准许保罗回家居住,只需每周两次回总部进行必要疗程。他将保罗最爱的玩伴嘀嗒三号,送给福斯特,也希望福斯特在适当时机,为鲁尔宣传。
一年中,鲁尔公司的“三定律”机器人迅速占领欧美市场,因为“——它比您更适合照料孩子,更适合同孩子玩耍”。广告中,尽是战争遗孤与铁皮人和睦相处的片段。福斯特将保罗带回长岛家中,媒体竞相报道。
他们形容:强尼·格雷厄姆,曾被斥为倒卖医疗器械的战争掮客,但他洗心革面,利用积累的财富致力于慈善,拯救无数因战争流离失所的儿童;克拉丽丝·福斯特,战地记者,普利策奖获得者,也曾被斥为贩卖战争情怀的投机者,但她领养了谁都不愿收留的病患。格雷厄姆与福斯特,共同让战争遗孤重新拥有人的尊严,人的生命——这是世界公民的人道主义。
起初,福斯特很快乐,有了嘀嗒人帮助,保罗学着与她共同生活。他们浇花、种树、剪草,到海边游泳。保罗的确聪明,学东西很快,但他不喜欢长时间泡在海里,因为距离不防水的嘀嗒太远。格雷厄姆迅速改造嘀嗒。嘀嗒陪读,保罗融入幼儿园生活。他们形影不离。每天早晨,他们起床,每天餐前,不论地点,他们共同歌唱“无伤人类,服从人类,保护自己”。
与此同时,自由派开始指责鲁尔公司“机器人三定律”的道德问题。
他们说:犹太人阿西莫夫“三定律”的逻辑精致可爱,拥有数学原理一般完整的美学特质,但逻辑总是道德中性,应用到实际,算式也能揭示链式反应。“三定律”是人对机器的绝对奴役,将其投入市场前,应论证其道德合理性。鲁尔公司拒绝透露“三定律”的程序输入方法,我们如何判定,“三定律”没有逻辑漏洞?
格雷厄姆于公开演讲回答了质疑。福斯特心有戚戚,选择独自收看直播,让保罗与嘀嗒到附近公园玩耍。
格雷厄姆说:“——火药传入欧洲,没人质疑道德合理;美国投掷原子弹,道德合理也被搁置。有时候,即使我们觉得一些事情不一定对,也会实施,因为潜意识里,你们知道,人类离不开道德疏漏。人对机器的奴役,就是这类事情。如果有人想质疑我,不如质疑形形色色的动物保护协会。关于‘三定律’的逻辑漏洞?——商业机密,无可奉告。只能说,我按照人类的神经网络,制造了机器的神经网络,所以,按照逻辑,我自然会依着人类的神经运作方式,向我的机器植入‘三定律’。如果出现问题,那不是我的公司的问题,不是我的机器的问题,而是人类神经网络本身的问题。”
格雷厄姆侃侃而谈之时,保罗挽着嘀嗒,在公园角落,撞见死命对殴的两只铁皮人。嘀嗒和保罗认识它们,离开鲁尔总部前,深空灰铁皮是最新上市的一款家用机器人。
嘀嗒说:“住手!”
铁皮人置若罔闻。
保罗大声喊:“住手!”
两只铁皮犹豫一阵,才分开。
三个大男孩钻出树丛,一个戴洋基棒球帽,一个套湖人背心,一个穿皇马短裤。
洋基男孩说:“电视上小难民。”
湖人男孩说:“别干扰我们的实验。”
保罗问:“什么实验?”
皇马男孩解释:“我们在找‘三定律’的逻辑漏洞!我们命令它们对打,直到一方把另一方杀死,才能获得机会,把我们揍一顿。要知道,被杀死的一方,既不会伤害我们,也服从了我们的命令,只是牺牲了自己。活下来的一方,为了不伤害我们,必须违抗我们的命令,而且它牺牲了同伴。你说,它们是愿意活,还是愿意死?热爱机器的小难民,想知道答案吗?你们还不快继续!”
两只铁皮人微微颤抖,又狠狠打起来。
保罗憋出眼泪:“你们怎么可以这样!”
湖人男孩说:“你可怜它们?但它们笨,找不到脱离‘三定律’的办法。格雷厄姆故意让它们这么笨。”
洋基男孩继续:“但你的机器人不一样,嘀嗒本来就是更高级的科研型机器人。你的嘀嗒,就更不一样了。”
湖人男孩突然大吼:“你!别打了!嘀嗒!上!”
嘀嗒人听了,身子一抖,走上前去,弹簧手推开左边的铁皮人,右弹簧手直接攻击剩下的铁皮人的脑壳。铁皮人摔倒在地,嘀嗒人敲打它的脑壳,一下,两下——
“嘀嗒!住手!”保罗有了哭腔。
“嘀嗒,继续!”三个男孩的声音盖过保罗。
嘀嗒毫不犹豫地继续,直到铁皮人不再动弹。
“看来,你的嘀嗒人为了求生,毫不后悔呢。”皇马男孩说,“你还不如你的机器人有种。”
“你这样形容不对。”保罗小声反驳。
“你不服,和它打呀。你打赢,我们甘愿挨揍。”湖人男孩指着被推到墙角的、惊恐未定的、剩下的铁皮人。
保罗止住哭腔,迈起不可抗拒的步伐,走向铁皮人。铁皮人有些犹豫,向后退。
嘀嗒人想阻止。湖人男孩拦住:“嘀嗒人,你不许动,死也不许动。喂!铁皮人,不要犹豫,不许后退,你要当他是机器人,像揍机器人一样,狠狠揍他!”
出乎三个男孩意料,铁皮人听了,从困惑中得到解脱,它冲向保罗,开始用金属臂膀,狠狠敲击小男孩。
血溅出来。
保罗连呻吟的机会都没有。
三个肇事男孩吓呆了,一动不动。
嘀嗒人死命敲击空空的腹腔,发出痛苦的哀号与呼救。
不远处园丁赶来,大声喝住面带疯狂的铁皮,用铁铲两下敲烂了它的脑袋。
纽约警方迅速收监嘀嗒人,三个大男孩审一审便放了。福斯特赶到病院,保罗已脱离危险。报废的铁皮人没有袭击他的致命部位。
媒体哗然。鲁尔公司机器人袭击人类。被袭击的正是保罗·莱克特,束手旁观的正是嘀嗒人。
福斯特感到难以置信,她迅速通过关系,找到有几面之缘的纽约人工智能案件著名律师,约翰逊·克劳福德。第一时间,她同克劳福德仔细检视了公园监控视频。看完后,克劳福德帮她点烟,沉默一阵,对福斯特说:“我反倒觉得,小莱克特显得最奇怪。”
福斯特的烟蒂落到克劳福德锃亮的皮鞋上。
三天后清晨,太阳惨白的光圈绕过曼哈顿的钢筋丛林。保罗终于从昏迷中醒来。福斯特一直在等待。
保罗攥着她的三个指头,小声问:“嘀嗒呢?”