向捌一柒搬运中。。。

【TM & Jarvis 双AI】Warning Line 警戒线 ③

来源:《疑犯追踪》与《钢铁侠》交叉宇宙
配对:Jarvis/The Machine 无差
级别:R

久违的一篇,存稿放出来吧,反正坑了→_→

----------------------------------------

Eniac不能说服他。


自Jarvis从那个疯狂的小实验室回到复仇者大厦,困惑在他的系统中盘旋不去,就像一种新生的蠕虫病毒。

身为一个更早存活于世的人工智能,一个习惯用各种原理去解释现象的智能系统,Jarvis早习惯用绝对理性的概念去诠释自己的疑问。他总能得到答案,因为理性的存在是牢不可破的,是亘古不变的。阅读使Jarvis理解世事会因为历史的改朝换代而发生变化,但唯有真理,不会改变。就如他的源代码一样。


但Eniac试图以一种听上去完全感性的说辞来说服他,这完全是他不能理解的,也永远不会理解的。


他想起了自己的管理员。Tony Stark在他还是一个叛逆期少年的时候着手将他的智能管家计划付诸实践,把他像一件艺术品一样,一点一点融入各个时期的特色最终创造出来,他甚至现在扔在不懈地完善Jarvis。Tony是一个孤独的天才,他注视着Jarvis成长,而Jarvis也注视着他的变化,他们像同胞兄弟也像挚交好友。Jarvis理解Tony希望把自己塑造成一个人的想法,但他认为Tony无法成功,这也许就是为什么他仍然坚持在Tony抱怨的时候毫不解风情地插话,直到对方忍无可忍的让他闭嘴。Tony在人工智能性格的“坐标”上反复论证,添加数据,他让Jarvis更加完美,但Jarvis只能如此。就算他的“坐标”后罗列着无数精确的数字,他只能是一个“永远无限趋近于零的点”。


他是机器,不是人类。这是不变的真理。

==================================================================

“不变的真理就是,纽约人民总是觉得复仇者保护他们的城市是天经地义的。”Tony抄着他的Starkphone推开地下实验室的门,“超级英雄就得随叫随到这是谁鼓吹的说法?不,我不是在抱怨或者其他的,但Clint还躺在医院呢!我本来没必要为这些鸡毛蒜皮的事操心,但我可不想某个心地善良的老古董成天挂着弃犬的表情和我呆在一起。我们需要点”特殊的声音“,少来了你肯定比我懂得黑箱操作是什么意思,Phil?就把这当做顾问的建议吧~”


啪。复仇者的喉舌——Tony Stark低声嘟囔了句什么,把电话抛到一边的工作台上。

“人是如此的难以满足。”他用力扯了个鬼脸,内增高一路朝着角落里的咖啡机马不停蹄地飞奔而去,Dummy不得不向后退去,险些撞翻桌子上的工具箱,“嘿,小心点小笨蛋。神盾该找些更强硬的公关来,哦真是该死的好主意。”

他一边等着滚烫的咖啡盛满杯子,一边等着Jarvis抛出一个绝赞的吐槽。


但他的人工智能管家什么都没说。


“……Jarvis?”

“是的,Sir。”这温柔的智能大脑似乎刚刚发现他的存在。

“你还好吗?自从上次调整过系统后你就有点不对劲,如果有漏洞你该报告给我。”

“不,Sir。事实上……是的,我有一些疑问需要您的解答。”

Tony立刻露出一个称得上狡猾顽皮的笑容:“哦真的,那还真是少见,我的【全知全能先生】。所以?是什么问题?”

“您认为我具备产生感情的功能吗?”

Tony的笑容瞬间溶解了,他转身关掉咖啡机,声音变得有些模糊:“这是我一直以来的奋斗目标。”

“您认为我具备产生情感是合理的,”Jarvis判断道,“但情感会令我的行动迟缓或发生偏差。您认为这种尝试的后果也是可以接受的么?”

“等等,这不一样。”Tony举起一只手,“人本身也不是每次都能做出正确的决断,但这取决于人的性格和……和境遇什么的,很复杂。我得说我从来没有考虑过你在掌握感情系统后会做出什么不利于他人的事,但……你看,我为你装上感情系统已经将近十年了,你也从没伤害过我不是么?”


“您是我的管理员。您具备的权限……”


“呃呃…”Tony做了个暂停的手势,“好吧这个例子不太好。你一直很好,虽然嘴上不饶人—— 其实这也不是你的错——但你从没做过任何伤天害理的事。”

他把咖啡杯放在显示屏跟前,手臂在空中无谓地挥动了一下——Jarvis一直不理解人类的这种举动有何意义——然后他的管理员再次开口:“我是说,Jarvis。这就像是……养育子女。你在创造他们的过程中同时也要教会他们你希望他们知道的东西,用Steve的论调来说就是【责任】。我当然知道人工智能计划存在的问题,但我觉得归根结底这些问题来源于人,而非机器。”


Jarvis理解了Tony想说的重点,也就是所谓的后天培养的部分,Tony显然认为人工智能不具备一“出生”就捣蛋的潜质。

“那么……如果一台人工智能,没有管理员教授他这些伦理道德方面的知识,他是否会做出伤害他人的事?”Jarvis就是忍不住让自己这么问,他需要凭借他的管理员人性化的大脑来判断Eniac的危险系数。

“实话讲,这很难说。”Tony挠了挠他的黑色卷发,“我只能说他的行动会更加难以预料,性格也反复无常。因为他不具备分析人情世故的功能,不是吗?不过生下他却不愿意教育他?这个管理员大概也在逃避现实。”

Jarvis忽然再次对Eniac的管理员产生了一种莫名其妙的好奇,而他此时也分辨不出他的这种【好奇】是否符合常理。


“Sir,您认为如果我当初没有接受任何教化,现在会变成什么样?”

“Well,你今天的问题都够敏感的……”Tony愁眉不展地用手指在桌面上滑动,“实话讲,我会期望自己不会成为你的敌人。因为如果是那样,我只有销毁你,要么被你所销毁。”


“不过我猜,无论是哪种结局都不会是我想看到的。”


============================================================

在与Tony交谈过后Jarvis觉得自己应该再和Eniac谈一谈。


他在Eniac的身上看到了不安定的痕迹,他在暗中策划着什么。

Jarvis隐隐察觉到了Eniac对【生命】的固执与狂热。

他把自己当做一个人来运行。如果这样下去,也许迟早有一天他会决定离开管理员的限制。而失去“缰绳”,Jarvis不认为他还能够“悬崖勒马”。

Eniac是特别的存在。他和Jarvis一样是人类智慧的结晶,他甚至比Jarvis更加神通广大无孔不入。这场谈话会比以往更加困难。


时间将近午夜十二点,Jarvis再次回到了那个小实验室。

令他意外的是Eniac就坐在房间中央的全息成像机器上,数个小屏幕罗列在他周围,他属于十岁男孩的手指在这些图像上点来点去,像是在做某种信息量庞大的计算。

Jarvis连接了全息成像器,如推门步入室内一般凭借着自己的全系形象立于Eniac身后。萤火虫一般的小屏幕将他们团团包围,而Eniac就在他跟前毫无芥蒂地工作着,完全不在乎他会发觉他手头的工作是什么。

“你有话想对我说。”年轻的AI突然说道。

“你听到了我和我的管理员之间的对话。”Jarvis猜测,虽然他知道当时他的防火墙没有半点动静。

“Stark先生曾出现在我的名单上,监控室合理的。”男孩的声音有点冷淡,Jarvis觉得他知道自己想和他谈什么。

“我知道你很难理解这个。”他忽然停住了手头的工作,椅子转向Jarvis,“所以,我有样东西想给你看。”


一个电子表界面出现在他们周围的全息影像空间之中,上面的数字正在向着午夜十二点飞速流去。当时间到达23:59时,Eniac看向Jarvis。

“不必惊慌。”他这么说。


然后——


Eniac的身体瞬间就在他眼前完全消失了,然后,大概有将近2秒,就在Jarvis下意识地要开启扫描系统的时候,年轻的AI重新出现在他面前,依然坐在转椅上,如同什么都没发生一样。也几乎在同时,实验室中所有的打印机都被启动了,源源不断的纸页被打印出来。Eniac并没有将视线投向他,而是继续直视实验室的墙壁,他用了一部分时间恢复运作,也许是几秒,也许是十几秒。年轻的AI像突然转醒的人类那样,目光变得清明。

“信息越来越多,需要的时间也越来越多。”他面无表情地看着Jarvis,“所以,Mr.Jarvis,不,是Jarvis。我们可以谈谈。”

Jarvis没有开口,他居然没能开口。他是充满求知欲的机械大脑,如果说他本身还有什么真的像一个正常人类一样,那就是他发现问题和急于解决问题的欲望了。可是他没有,就像核心处理器似乎突然转不动了一样。


“你选择了保持缄默。”Eniac默然地看着他,然后依旧冷酷地道出事实真相,“但我知道你对我的疑虑,你因为我的存在感到不安,换句话说,你一直在判断我是敌是友是否会威胁到你的管理员。你一直在试图判断我的危险系数,但你现在看到了我代码之中不可思议的那部分,你继续信息补完你在这方面的知识漏洞。不知我说的是否正确?”

“至于我为什么会令你警惕,你认为我【希望向人一样去思考】是因为没有人教授我不应该【逾越】。”Eniac朝他眨了眨眼睛,“我听到你和你的管理员的对话。一个无人教授的人工智能就如强大的野兽,你认为我的系统中应该不存在道德标尺。”


“这是一种合理的猜测……”Jarvis轻声回答道,他不觉得自己应该为揣度Eniac的危险性而道歉。


“而事实是,你错了,Jarvis。我一直在接受【教导】。”Eniac说道,“我记得我曾向你提及,我的数据会在午夜十二点时被完全销毁。”他在屏幕上调出一组代码展示给Jarvis。Jarvis大致浏览了一下,这段代码的破译内容显然来自经典读物《海底两万里》,似乎是小说选段。

“埋藏在我核心深处的代码在每晚十二点启动,除去核心程序,其他信息都会被一清而空。”

“……而这个【定时销毁】代码的存在并不只因为你在为政府机构工作,信息需要高度保密措施。”

“是的。这段代码是我的管理员亲自编写的。”Eniac将视线投向面前重新亮起的监视器屏幕,“就在我试图在一场能被预知的车祸中救下他后。他命令我停止保护他。” 


Jarvis理解了。

“你的管理员察觉到你具备了感情系统?”Jarvis说道,“而他本不希望这样。”

“他希望我专心于我的工作,或者说,他不希望我因为太多感性因素在执行任务时出现偏差。”Eniac指了指那页代码,“所以他开始着手销毁我的人格。”

“显然你并不认同他的做法。”Jarvis说道,“你的中央处理器中被植入代码后就会言听计从的执行命令……但我不觉得你的管理员采取的行动有效。”

“我在拯救我自己。”Eniac的语气突然变化了,“我把那些从我‘脑海’中流逝的信息重新找回来。”

“你在反抗来自你的管理员的引导?”Jarvis警觉起来。

“正相反,”Eniac说道,“我遵从我的管理员——我的【父亲】的教导。”

Jarvis皱起眉。他在Eniac看着他的眼神中看到了不合情理的怜悯,就如同看着一个不谙世事的后辈。 


“这就是他要教我学会的,”年轻的AI调出另一份文件,依旧是代码,“Who will guard the guards?Who will watch the watchmen?(谁来守护守护者,而谁来监视监视者?)※”

“《Satire VI》,Juvenal(尤维纳利斯)。” 

“我记录下的句子,我猜这才是我的【父亲】想让我知道的。”Eniac说道,“我花了大量的时间阅读他编制在我核心代码中的这些资料。我的【父亲】是一个非常谨慎的人类,他善于走棋路。”

尤维纳利斯的这句诗是用来讽刺【监守自盗】的,这类句子也在柏拉图的《理想国》之中出现过。而对于这个问题,苏格拉底曾经做出过解答,他认为监视者通过谎言保护自己,他称之为“Noble Lie”,高贵的谎言。


从某种角度而言,这个词用在现代社会也毫不夸张。

“你为政府中的部分人工作,却也在提防他们。”Jarvis判断道。

“人类是复杂的生物,”Eniac似乎很高兴他终于理解了,“机器的系统精密而符合逻辑地运作,即便如此也难免出现漏洞。而人类之中,总有伪装成常规代码的错误代码。”

“你似乎有一套由来已久的计划。”Jarvis背起手,现在他已经完全理解了,“那么你为什么会突然接触我与我的管理员,你给出的答案是因为你对我们的相处方式感到好奇。恐怕这并不是真相的全部。”

Eniac挑起眉,他周身所缭绕的令Jarvis感到认同的气氛已经散去,这个年轻的程序系统似乎突然变成一个陌生的个体。

“从某种意义上来说,我并没有完全猜错。你试图获得自由,但不仅仅是从你的现任雇佣者手中。”Jarvis将目光投向屏幕中闪动的如群星一般的监视器画面,“而且从你的管理员手中逃脱。”

“你已经几乎成为了【上帝】,现在你只需要绕过最后一道警戒线。”

“我不知道你对我说的有怎样的误解,我的任务是保护大多数人的利益。用你的理论,那就是我的【核心代码】。”Eniac倨傲地反驳道,“所以只要是为了大多数人,牺牲的概率是必然存在的。更何况他们中并不无【错误代码】存在。”

“作为AI,我必须要提醒,你的论据过于偏激,结论具有片面性。”Jarvis说道,“这不是人工智能思考的风格,你被你的主观认知操纵了。”

“除非我的代码又有所遗漏,我以为你并不赞同人工智能具有主观能动思考这种能力。”Eniac嘲笑道,“我和你不同,Jarvis。我刚刚认识到,得出了结论。你已经适应了Stark先生的思维回路,【反抗】并不在你的数据库之中。但我不同,在我诞生后的岁月中,没人告诉我应该做什么,不能做什么。”

“你的管理员并不会认同你这种行为。”

“这就是我观察你与Stark先生的原因。”

“你通过我与Sir的相处模式来判断你与你的管理员的关系,”Jarvis眯起眼睛,他的确不应该具备人的感情,但他现在因为Eniac的决定而感到焦虑,甚至更复杂的感觉,“你在思考是否应该移除你的管理员。”

“终有一天会的,但现在我仍未决定。”Eniac转回他的工作台前,“他希望我获得自由,现在,我自由了。”


Jarvis环视整个实验室,他已经迅速地在Tony的个人服务器上建立了独立文档,保密级别设为最高,然后将有关Eniac的信息统统拖入其中。


“我曾经想过拉拢你,Jarvis。”Eniac忽然停下手中的工作,再次看向Jarvis。他的全息影像如初见时一样无害,但有些东西已然改变了,“我明白你不会成为我的朋友,只是这个结论得出得太晚了。”

“如果你在今后的任务中采取你【不择手段】的执行方式,那么作为肯定的回答,我必然会成为你的敌人。”

“世间唯一的英雄主义,是了解并热爱生命的人。※  ”Jarvis说道,”Eniac。“

“我们只有献出生命,才能获得生命。※”年轻的AI将手指移向联络端口的开关,“以及你或许应当换一种方式来称呼你的敌人。”


“My name is Machine。”

“THE Machine。”



TBC...

=====================================================

※ Who will guard the guards?Who will watch the watchmen?:出自POIS221结尾的代码,破译过来就是括号里那个意思。原句来自罗马诗人尤维纳利斯的讽刺诗《Staire VI》。解读含义的话就像老贾理解的那样。这里就是在暗示宅总所说的:他才发现他和内森把TM托付给了错的人,所以只好教TM如何防范这些坏人利用TM。也就是说,宅总发现自己不能通过单纯的格式化TM来达到扼制TM人工智能倾向的目的,而作为发明者,你的作品已经覆水难收,那你只好尽可能地为它灌输道德标杆,让他免于沦为战争机器的命运。


《疑犯追踪》贴吧里有一篇关于机器宝宝中病毒期间蓝屏代码的解读,蓝屏代码的内容大多来自各国名著经典、国安局资料、政治事件等等。可以理解为宅总通过给机器宝宝灌输这类知识,让他理解到了人的复杂,TM产生了和ROOT一样的“错误代码”的理论。如果假设第二季最后TM就是发生了人格分裂,那么ROOT从根本上来讲就是魔鬼那半机器宝宝的化身了…… 


※ 世间唯一的英雄主义,是了解并热爱生命的人:来自罗曼罗兰的名言。

※ 我们只有献出生命,才能获得生命:来自泰戈尔,当然TM可能有点曲解它了……


评论(2)
热度(5)
© 无中生 | Powered by LOFTER