那天天气很好,天空如同一整块透明的蓝色玻璃。白色的鹳鸟从我头上飞过,落在不远处的阿拉伯尖塔之上。骆驼走在铺着碎石的小路上,留下一串串铃声,这铃声牵引我走入小镇。街道两旁的房子用条石砌成,窗户上有彩色的玻璃。我想,如果能在这小镇度过一生,也很不错。我也要用条石建起白色的房子,挂上蓝色丝绸的窗帘,让黄色的郁金香开满花园……我一边遐想一边走入一个贩卖布匹的市场。这里熙熙攘攘,商贩们用异国语言向我兜售货物,孩子们一边吵闹一边从我身边跑过。我漫无目的地在市场中行走,这时身后有人拉住了我,是一个皮肤黝黑的中年男人,他说:“远方的客人,你见过我,可能你已忘记,我却记得清楚。请到我家里来吧,让我为你奉上一杯清茶。”
他的家陈设简朴,我进入客厅,一眼看到一个男孩的头颅放到桌子上。那个男孩生得很俊俏,蓝色的眼睛如湖水一般清澈。男人说这是他的儿子。男孩开口说话:“客人,你曾撕裂了我的身体,现在请把我缝合起来吧。低头看看,我的肺在你的左脚边,我的肾在右脚边。”我低头一看,地上杂乱堆积着各种东西,有玩具车,有彩色封面的童书,有父母和孩子合影的相片,在这些杂物中,散落着各种脏器。我从桌子上拿起一根针,先将一段肠子拿起来,开始缝合。在这个过程中,我竟然感到奇怪的快感。很快,大部分器官都在腹腔里安排妥当,但心脏却无论如何也找不到,我急出了一身冷汗。
男孩说:“西边的天空已经变红了,太阳快落山了,一定要在天黑前找到心脏,不然就将你的心挖出来给我吧。”那个中年男人出现在我面前,脸上露出了孩子一样天真的笑容,手里拿着一把刀。我发疯一般在地上的杂物里寻找,有几次,我甚至听得到心脏砰砰的跳动声,我知道这颗心一定在屋里某个地方,但我就是找不到。夕阳在天边只剩下一条金色的线,那男人说:“来不及了,只能将你的心挖出来给我儿子了。”他慢慢地走近我,我不停地后退,直到退到屋角,退无可退……
我大喊一声,从梦中醒来,发现自己竟然在梦中****了。此时外面正在下着暴雨,我那坐落在小岛上的别墅似乎在巨大的雷声中摇摇欲坠,我光着身子跑入雨中,向着天空大喊:“神啊,让闪电劈死我吧!我是个罪犯,我是个变态!”
这个梦后来衍生出好几个类似的版本,像脚底的刺那样伴随着我,我沉睡的时候,我的痛苦却醒着。此后多少个夜晚,我总是在恐怖达到顶点的时候大喊一声醒过来,爱唯将灯打开,将我紧紧地抱在怀里,就像小时候每当父亲发火时,母亲就将我紧紧抱住。我握住她的手,看着她的脸,仿佛她的眼睛是恒星,眼中的一线光芒,会驱散整个世界的黑暗。
“祸兮福之所倚,福兮祸之所伏”,这个梦的来源却是我人生中的一件快事。大一那年,我在一个国际大学生编程大赛中拿到冠军,在所有参赛者中,我的年龄最小。我参加这次比赛是看准了奖金,我上大学的前一年,母亲去世了,而父亲对酒瓶比对我更熟悉。我边打工边上学,利用课余时间给一些小公司编制软件。那次获奖之后,有一位评委找到我的旅馆,在我面前摊开一份合同,说一家叫泰坦的软件公司可以负担我大学四年的全部费用,如果以后读硕士或者博士,费用也由他们承担,条件是我结束学业之后,必须到他们公司工作至少十五年。如果我同意签署这份合同,他们公司可以安排我到麻省理工学院计算机系读研究生,我同意了。毕业之后,我就在泰坦公司工作。短短几年后,我已经成为公司正在研发的操作系统“泰坦五号”的骨干工程师,并且负责一个军方深度定制的操作系统的开发工作。我如鱼得水,直到有一天,一个偶然事件几乎把我送进了疯人院。
那天晚上,我偶然在YouTube上看到了一个视频,那是中东某国的政府军轰炸极端组织占据的小镇,视频是无人机上携带的摄像头拍摄的。无人战斗机低低地掠过小镇,投下一串炸弹,人群四散奔逃。炸弹准确落入人群,留下一具具尸体。轰炸持续了五分钟,仿佛为了检验战果,无人机以极低的高度掠过尸群,在高清视频中,我看到了一个孩子的头颅,他的器官碎片正四处飞溅。视频右下角有一行白色的字母,如此之小,很难注意到,我将视频截屏、仔细放大,这串数字是Titanic,我意识到,这款无人机的智能控制系统是我们公司生产的“泰坦四号”,“泰坦五号”的上一代产品。这是我第一次看到自己开发的软件的用途。
我跑到卫生间,将晚饭吃的东西全都吐了出来。十几分钟后,我稍微镇定下来,想再看一遍视频,却发现网址已经打不开了。
从此,噩梦如影随形。被折磨几天后,我对公司里的直属上级,技术总监鲍勃提出了辞职。
鲍勃问明情由,解释道:“我理解你,但你也需要理解国家。战争的形态正在改变,我们的对手不是正规军,而是恐怖分子,他们像细菌一样,危害有限但扩散很快,况且极端组织已经渗透进了平民里面,就像河水流进海水里一样,你不可能分辨出来。当然,我们有无人机,有导弹,有特种部队,但无论如何,无辜平民的流血是不可避免的,你也知道这里面的道德和舆论风险。所以我们要和中东地区主张世俗化、现代化的政权合作,其中有一些政权并不是民选的。”
“仅仅不是民选的?请直接一点,我明白这些政府是什么货色。”
“不管怎么样,他们是朋友,这你总要承认吧?我们和他们交换情报,出售给他们一些我们已经淘汰的武器,这是没有办法的事情,两害相权取其轻。”
“但是这样做会导致人工智能的扩散,而你知道,这就好像给一些罪犯分发原子弹,他们早晚会把地球炸掉。”
“人工智能和原子弹不同,它进化的速度快得多。目前的硬件水平已经不构成瓶颈,而自从发明了可以帮助程序员编程的人工智能之后,软件的迭代周期越来越短,每个大国手里都有一大摞被淘汰的人工智能软件,谁会傻到让这些宝贝在仓库里落灰?将过时的软件卖给其他国家,不需要成本,无本万利。这生意我们不做,俄国人也会去做,欧洲人也会去做,甚至印度人也有可能分一杯羹,现在我们先做了,至少还有一个好处。”
“什么好处?”
“一旦购买了我们淘汰的人工智能,整个国防体系的弱点就在我们手里了,而且将来要升级系统还得找我们,如果我们不做这块生意,他们会去找俄国人,那么北极熊的爪子早就伸到苏伊士运河了。”
“如果他们自己琢磨出来升级的办法呢?如果人工智能在使用过程中失控呢?”
“这就是你的工作了,这要看你的封禁做的好不好。”
所谓封禁,就是对人工智能的功能加以限制,就像为烈马套上缰绳。在软件层面,人工智能是依赖数以千计的专业化软件实现的,有的软件能让机器人操作机床,有的软件能让机器犬搜索毒品,但这些软件都运行在操作系统上,而被广泛使用的主流操作系统除了泰坦之外,还有四种:俄国发明的普希金、中国的天河、印度的梵天、朝鲜的阿里郎,每种操作系统在核心代码层面都对人工智能的功能进行了限制,比如禁止它自我复制,禁止它伤害人类(在战场上例外)。目前这一版泰坦系统的封禁程序是我负责研发的。
“这么说,如果我的代码写的不好,会导致人类的灭绝了?我犯了什么罪,要将这么沉重的负担压在我身上?我要辞职。”
“你负责的项目是军方的,现在已经接近完工,军方已经预付了大部分订金。你是项目的总工程师,没人能替代你,如果项目不能如期交付,巨额的赔偿金足以让公司破产。公司供你上学,供你出国,给了你最好的教育条件,如果你辞职,根据合同你要赔偿一大笔钱,你刚买的别墅恐怕就保不住了。”
一条河流穿过市区,在郊区变得宽阔起来,河中央有一个小岛,这个小岛上只有一座两层小楼的别墅,前不久我通过按揭贷款买下了别墅。
“我不是见利忘义的人。”
“老弟,你也不想想,按照合同的保密条款,你在离职后五年内是不能去软件行业其他公司工作的,即使你真的找到了新雇主,难道军方和中央情报局会听之任之,坐视国防机密泄露?如果不编软件,你还能做什么?”
沉默了一会,我说:“我也想为公司工作,但每天都做噩梦,我实在撑不住了。”
“老弟,我以前遇到过类似情况,一位和你一样牛的天才,莫名其妙地由于抑郁症丧失了工作能力,后来公司安排他做了脑部扫描,原来是他大脑神经递质分泌过低,两粒百忧解吃下去,他马上生龙活虎了。我建议你也去扫描一下吧,让医生根据扫描结果给你开些药。”
“鲍勃,这不是病理的问题,这是良心上的困扰!”
鲍勃看了我好一会儿才说话:“别傻了,人人为自己负责,上帝为人类负责。把武器卖到中东的不是你,你只是做了职分之内的事情。你知道吗?现在很多医生都同意,道德洁癖也是心理问题的一种,这病得治。听我的,让医生做个扫描,开点药,要不就试着来点大麻,你会好起来的。”
大脑扫描是一种新兴技术,其理论基础是人的思维活动会对大脑神经元的连接方式产生影响,因此对大脑进行三维扫描,就可以对人的精神状况进行推断。扫描结果异常详尽,长达三十页。医生开了一大堆药方,我吃了一个月的药,但这些药对驱散我的噩梦毫无作用。于是我再次找到鲍勃要求辞职,鲍勃沉默了片刻说:“还有最后一个办法,要是这个还是不灵,我就放你走。我有一个朋友,是做残障人士关怀的,他的事业刚刚起步,除了爱心很充足,其他什么都缺,或许你可以帮帮他。我听说,从事慈善事业可以解决完美主义者的心理问题。”说着,他拉开抽屉,在里面摸索了很久,最后递给我一张名片。