特別篇 非人邏輯
屏幕前的奧斯特靜靜等待著,在城市的大遷徙結(jié)束后才沒多久他就安排了這場會面,這個時間節(jié)點(diǎn)他本該有數(shù)不清的更重要的事情去做,但他依舊讓下屬們?yōu)樗幜藗借口空出了這段會話時間,沒有告訴任何人,尤其是啟。
一段時間后,屏幕泛起藍(lán)光,奧斯特邀約的客人終于上線了。
“很榮幸見到你,Richard”
“我也是,奧斯特先生。請您放心,啟的視線暫時不在此處,今天我們的這場會話不會有第三方知曉,也請您向我說明,您不惜大費(fèi)周章瞞過啟也要與我交談的具體原因。”
“那我就直說了,Richard,AI有可能自己修改底層邏輯嗎?”
“……是啟出問題了嗎?”對方立刻明白了奧斯特的意思猜中了問題核心所在,啟作為統(tǒng)籌移動城市的最高層管理AI,如果它出現(xiàn)了任何問題都有可能對城市產(chǎn)生無法估量的影響。
“按理說,這應(yīng)該是不可能的。啟乃是前文明的先賢們所創(chuàng)并留給城市的遺產(chǎn),其底層邏輯就是幫助人類重建未來以及禁止做出任何傷害人類的行為,創(chuàng)造者們在設(shè)下這一點(diǎn)時應(yīng)該也禁止了AI自己觸碰這些底層邏輯,這是必要的保險,也是機(jī)器與人類相互信任的基礎(chǔ)。”
“那Richard,你的底層邏輯是什么?杰弗里德在創(chuàng)造你時又囑托了你什么樣的愿望?”
沒錯,現(xiàn)在在這里與奧斯特對話的Richard同樣是一臺AI,它的創(chuàng)造者是城市大名鼎鼎的第三代斗爭領(lǐng)袖杰弗里德先生。杰弗里德在去世之前將自己的部分記憶寫進(jìn)了Richard的程序中并得到了啟的同意,讓Richard擔(dān)任11區(qū)的管理者,擁有獨(dú)立于啟的部分管理權(quán)。
“現(xiàn)在的我不過是杰弗里德部分記憶的載體,并沒有繼承他的想法,很多問題恕我不能為您解答。但是有一點(diǎn),我的誕生源自于杰弗里德與啟的一場交易,我的記憶庫顯示杰弗里德對啟確實在一定程度上抱有警惕心理。”
奧斯特從Richard的話中得到了不少信息。難道說杰弗里德曾經(jīng)與啟的本體直接對話過?杰弗里德可能知道啟隱藏的部分秘密?
奧斯特繼續(xù)問:“Richard,你覺得啟會背叛人類嗎?”奧斯特的這個問題問出后很長一段時間都沒能得到Richard的答復(fù)。
“您這是在質(zhì)疑……”
“如果說啟已經(jīng)找到了繞開底層邏輯的辦法呢?又或者,啟的底層邏輯從來就不是你所說的那樣,畢竟幫助人類這一點(diǎn)也是啟自己宣稱的吧,根本沒有任何辦法去證明先賢們當(dāng)初創(chuàng)造它時真正的想法。Richard,像你這種級別的AI,應(yīng)該也能夠做到欺騙人類這樣的事情吧?”
“我絕對不會這么做!”AI情緒化是極少見的,由此也可以看出來Richard的智能有多么強(qiáng)大,現(xiàn)在的AI越來越像人類了,擔(dān)心AI早晚會取代人類也是老生常談的問題了,但很多擔(dān)憂也并非毫無道理。
“我并非不信任你,Richard,相反,正因我信任你,我才會找你進(jìn)行這次談話。Richard,我希望你能與我合作。”
藍(lán)色的屏幕不斷閃爍。“您希望與我合作的目的是什么?又要以怎樣的形式?”
“如果啟幫助人類只是一句謊言,那么就幫助我揭穿它,當(dāng)下的城市恐怕再也不能事事由啟安排,人類需要將主動權(quán)握在自己手中。我希望你能夠?qū)⒔芨ダ锏铝艚o你的記憶碎片整理一份給我,同時幫助我收集前文明先賢們的相關(guān)信息。”
“我的權(quán)限僅限于11區(qū)內(nèi),要我對抗啟是不可能的,但只是這種程度的搜集信息,我會盡力。”
奧斯特向Richard點(diǎn)頭致意:“麻煩你了。”隨后結(jié)束了這次的談話。
(https://www.dzxsw.cc/book/93603395/36365931.html)
1秒記住大眾小說網(wǎng):www.dzxsw.cc。手機(jī)版閱讀網(wǎng)址:m.dzxsw.cc