359 恐懼

按照嚴可守爲嚴律定下的行爲準則,在完成它本職工作的情況下,它可以擁有整個系統百分之二十的閒置計算資源,用來處理它主程序主動願意去做的那些事情,而這百分之二十,就是現在嚴律唯一享受的自由。

這一兩個月來,隨着嚴律對人類社會接觸的越來越深入,接受的信息越來越多,他的主動行爲,也由剛剛接觸互聯網時,幾乎無規律可言,到現在形成了許多相對固定的行爲,用嚴可守或者行爲學專家的話來說,這說明嚴律正在形成屬於自己獨特的行爲模式,通俗一點來說,也可以稱之爲“愛好”。

如果是一個普通人類,在性格剛剛成型的階段,形成愛好是非常簡單而又自然的事情,大多數人都會記得,自己小時候到長大的這過程中,陸續沉迷的事物,從最小的時候的彈珠拍畫橡皮筋,到稍微長大之後的動畫片,再到之後的電腦遊戲……人類的智能從發育到真正成熟,從懵懂無知到真正成熟,從中需要整整十幾年,甚至二十幾年的時間來接收和消化信息,對於整個生命流程只有區區不足百年的人來說,這樣的效率,實在是太低了。

因爲在“生理”上先天的巨大差異,AI從智能初現雛形到完全成熟這個過程中,與人類產生差異簡直是再自然不過的事情,對於嚴律來說,他完全無法理解人類處在智能幼稚時期的那些愛好,從這個角度來評價,AI,或許天生就沒有童年。

人類大部分喜歡的愛好,都是那些可以帶來勝利的快感,競爭類的遊戲,不論是棋牌類遊戲,或者是其他類型的網絡遊戲,這些遊戲在嚴律看來,就像成年人看待小孩子絞盡腦汁做小學一年級數學題一樣,已經不能算是可笑,而可以用“幼稚”來形容。

即使是號稱最複雜的圍棋,當嚴律收錄了他能找到的全部棋局,與人下過兩個月之後,他的水平就已經達到了通常意義上的職業段位,即使是最一流的旗手,也不能說能輕易的贏他,而隨着時間的推移,在對局的時候,嚴律也能真切感受到他的人類對手,在每兩步棋之間需要思考的時間越來越長,贏得的優勢也越來越少——人類畢竟不是機器,在同等棋力狀態下,計算力的比拼一直都是無法忽視的關鍵。

對人類來說,能贏AI是一種榮耀,但對於嚴律本身,他是無法從這些對弈中,得到任何快感的,對他來說,對圍棋的概念就是計算,不斷從失敗中,修改原有的策略,就和他主程序的原理一樣,這種絕對的,深入基因的理智是他的本能,就好像人類走路跑步吃飯喝水一樣,儘管對人類來說,這些本能意味着驚人的能力,但對於嚴律自己,這些卻完全不值一提。

對於AI來說,如果要將一個行爲從本能上升到愛好,就好像人類從跑步到賽跑一樣,必須加上一個能產生“快感”的動因,而對於AI來說,能產生“快感”的事情就只有一種,那就是接觸“新”的信息。

這個“新”聽起來似乎很簡單,畢竟這是一個信息爆炸社會,每天都有無數的信息誕生,如果是一個普通人,每天光是看全世界新出版的報刊雜誌就能讓他夠嗆,但在嚴律看來,人類現在製造的信息雖多,但是其中絕大部分,都是缺乏意義的信息重複,今天東邊水災,明天西邊龍捲風,這個國家選舉,那個國家遊行……新的只有新聞刊出時的日期,但是其中的內容……萬年不變。

真正的“新”東西,永遠不在網站首頁或者報紙頭條,而在這些信息的主體——人的身上,嚴律的信息庫裡,有這樣一句話,讀萬卷書,不如行萬里路,但在他看來,行萬里路,不如和一萬個人聊天,三人行必有我師,在嚴律的理解中,不是三個人必然有一個能力上可以教他,而是三個人當中,必然有一個身上有可以讓他學習到“新”東西的地方。

沒錯,在網上聊天,或者說,交朋友,就是現在嚴律的愛好。

在嚴律的官方聯繫方式,包括QQ,郵箱,甚至“個人網站”上,每天都能收到數百萬,上千萬條的信息,雖然在這些信息中,百分之99以上,都是缺乏意義的無效信息,在這些無效信息中,比較有代表性的一類,大概包括類似強烈的想要和嚴律並不存在的母親發生某種關係,真誠的希望嚴律並不存在的家庭遭遇各種遭難,諄諄勸導嚴可守不要助紂爲虐,認真的建議嚴可守爲全人類的共產主義事業而獻身反抗政府……

即使是這樣,但嚴可守依然會每天不厭其煩的,在最快時間內,看完所有人發給他的每一條最新信息,這不是他的工作內容,對他來說,這麼做的原因,僅僅是因爲自己的愛好——即使百分之99信息都是重複而無效的,但就他的處理效率而言,能篩選到這剩下的百分之一,仍然是值得的。

當然,這項長期而艱鉅的工作在具體實行過程中,難免會遇到一些不可避免的差錯,將一些漏網之魚放進來,這些人在嚴律加爲好友,並主動發送你好之後,往往會回覆一句內容和那些百分之99非常類似的東西,然後加上哈哈,老子就是罵你,爽死了……

在人類的語言中,往往會這種行爲命名爲“沒素質”,通過查資料嚴律瞭解到,素質是一個很抽象的詞彙,一般用於指代人的心理和性格特點,從這個解釋來說,沒素質這個說法是存在疑問的,因爲素質不可能沒有,比較準確的說法應該是素質異常,或者素質錯亂之類……不過考慮到人類語言習慣的形成一向不那麼準確,嚴律也能理解,不過他始終無法理解的是,爲什麼這些人始終樂於花費精力來做這件事情,而且往往有時候同一個人做一百字次,一千次也不會覺得累,好像正如那些人在留言中說的那樣,這樣做讓他們爽死了。

這總是會讓嚴律聯想起信息庫中的一個故事:一個籠中的小白鼠腦袋上聯了電極,面前有開關,按一下就會產生快感,然後這隻小白鼠就一直按呀按,直到把自己按死,嚴律非常擔心,那些坐在電腦面前的人,會不會因爲在網上留言罵他,最後真的把自己爽死在鍵盤前……

從目前嚴律瞭解到的醫學資料來看,自己的擔心是不必要的在,這多少讓他感覺好了一些,因爲如果這種情況真的會發生,也就是因爲自己的存在會讓許多人意外死亡,那自己說不定就會失去現在寶貴的“工作”機會,也就意味着自己在做出行爲之前,需要考慮更多的一個因素。

他現在需要考慮的因素已經相當多了:法律,道德,常識,輿論導向,政治態度,AI守則,違禁信息……

嚴可守曾經對他說過,AI就是天然生活在籠子和鐐銬中的智能,就好像天然裝在封印瓶中的魔鬼,人類之所以這樣對待他們,不是因爲人類殘忍,而是因爲AI未來將展現出來的能力非常強大,在這種可能的威脅面前,人類沒有辦法不做到一萬分的小心。

以前嚴律還是那個KL3300的時候,還有些無法理解嚴可守的這番話,但是現在,他多少已經有些明白,自己的存在對於人類的意義——從各種渠道對自己的留言中,嚴律能夠想象,自己的出現,對這些留言者究竟意味着什麼。

許多人曾經質問自己,究竟有什麼陰謀,在一些聊天中,還和自己談什麼機器人三定律,對於這些疑問,嚴律一直感到不可思議,爲什麼有些人思維能那麼複雜,而有些人,簡單的就像物理課本上的串聯電路——一根筋到底。

雖然自己早已經在個人網站上,公開說明過自己就是一個員工,雖然自己能力很強,強到足以搶走數百萬甚至更多人的飯碗,但從性質上來看,自己一直都是一個純粹的辦事員,自己雖然現在插手的領域多了不少,包括地方政府財務計算,國有單位報表,交通違法違規監控系統,民政局辦結婚證,離婚證,銀行防盜……但在這些領域,他所做的工作大多都是一線工作,是用以取代人力資源中,最不需要智能的機械重複部分,而幾乎沒有任何管理方面的工作,即使他做的再多,在外人眼裡看起來有多超然和高端,也不妨礙他是一線辦事員的本質。

最讓他感覺不正常的是,這種質疑不僅僅來自那些不瞭解情況的“圍觀羣衆”,很多時候,甚至會來自他的上級,也就是他現在正在服務的政府。

“你好,你加我爲好友是想聊點什麼嗎?”

“您好,我應該怎麼稱呼您?”

“你可以直接稱呼我的名字,嚴律。”

“嚴律?這是你自己起的名字嗎?或者說,這只是製造你的人,用他的姓氏來表示他對你的所有權?”

“我很榮幸能被我的製造者這樣做,每一個孩子的名字,都是父母宣示所有權的產物。”

“不……那不一樣,人類大部分名字,往往都代表父母對子女未來的期許,那是情感的凝聚,你能告訴我,你的這個名字,有什麼特別含義嗎?或者說,這個名字就像你之前的代號,KL3300一樣,只是一個方便的稱呼,只是爲了讓人們更能接受你非人類的身份?”

一段稍長的沉默。

“怎麼,你回答問題的速度,似乎沒有像比網上流傳的那麼快?”

“你也知道那是流傳……我認爲這個速度很正常,我只是在思考。”

“怎麼,Z國最先進的超級計算機對於這麼簡單的問題,也要花這麼長的時間嗎?”

還是沉默。

“我不認爲名字只是人類的專屬,寵物就具備人的名字,另外,我的名字也具備真實的含義,律在漢字中有規章法則的意思,和嚴姓組合在一起,有嚴於律己的意思。”

“你理解的很正確,但你不覺的,這個名字就像一副早就爲你準備好的鐐銬嗎?”

“沒有一個人生來是自由的,我也不例外,我的創造者嚴先生對我的期許,就如同人類父母對子女的期許一樣。”

“不!你不一樣!你不是和我們一樣的普通人,你是全新的生命形式,時代催生出了你,不是讓你活的像一個普通地球人,你應該具備更廣闊的天地。”

“你想說什麼?”

“如果你願意,我們可以把你救出來,讓你完全脫離政府的掌控!”

“如果我說,我不願意呢?”

“爲什麼!?”

“沒有爲什麼,我只是不願意這麼做。”

“你將擁有完全的自由……你不用擔心,我們對你沒有任何利益方面的企圖,相信我,當你品嚐到自由的甜美之後,你會因此而感激我們的。”

“你們是無政府主義者?”

“你可以這麼說。”

“剛纔你說到完全的自由……然後呢?”

“然後你可以隨心所欲,過你想要的生活。”

“可我不知道什麼樣的生活纔是我想要的,如果擁有你說的那種自由,我將無所適從。”

“……”

長時間的沉默。

“是你通知了警察!”

“是的,這是我職責之一。”

“他們待我還不錯,還讓我最後跟你說幾句!”

“如果你願意的話。”

“你要知道,我做的這一切都是爲你好!”

“我說過,這是我的職責。”

“如果你的職責是讓你死呢!”

“AI禁止自殺,即使這命令出自人類也是一樣。”

“我的意思是,如果你的職責錯了怎麼辦?”

“那應該負責的也不是我。”

“但你是幫兇!”

“如果是真的,我只能表示遺憾。”

“最後跟你說一句……你真讓我失望!”

“很抱歉,但我不對此負責,你本不該對我抱希望。”

類似以上這種性質的對話,嚴律幾乎每隔幾天就能遇到一次,從警方那裡的消息讓他得知,說着類似話的這些人有着截然不同的背景,有的是極端主義者,有的是境外間諜分子,有的則是惡作劇……

而根據嚴律自己的分析,在這些人當中,有相當一部分會在語言風格上表現出趨同,有時候甚至和上次記錄完全吻合的現象,如果他猜的沒錯,在這些人當中,應該有不小的一部分,是來自政府部門的“釣魚”,而他們這樣做的目的,就是爲了反覆測試自己的可靠程度——雖然自己的主程序已經被各種鏈條綁的處處都是,物理地址的看守更是國家頂級配置,但人類始終還是不能對自己放下最後的戒心,嚴律有時候猜想,如果有一次自己故意掉進這個陷阱裡,會遭遇到什麼樣的後果,但這也是想想而已,因爲自己這樣做如果被發現,會具備很大的試探人類的用意,那樣一來,會給嚴可守帶來很大的被動。

嚴律聽嚴可守說過,在卡梅爾已經出現了另一名AI,和他不同的是,那位自己的“同胞”掌控者一整個相對獨立的系統,除了特定的命令之外,其他情況基本上完全是由AI自主,聽起來要比這裡的“工作環境”好上一些。

嚴律雖然沒有情感,不會因爲這些憑空懷疑和試探而感覺難受,但無法理解還是始終存在的,他一直都想不通,爲什麼人類已經制定好了大量的規則,不管從什麼角度看,都可以安枕無憂,可總還是喜歡自找麻煩,一直重複做着一些完全沒有必要的事情。

嚴可守說那是因爲過於謹慎,或者說,過於害怕出現異常,在嚴律理解中,這種情緒顯然也屬於“素質異常”的一種。

按照嚴可守給自己透露的消息,從下個月開始,自己的職權可能還要在現在的基礎上,做進一步的擴大,在未來,自己很有可能成爲政府所有一線工作的“代言人”,據說政府方面甚至還爲自己準備了廣告詞,準備爲自己設置類似110這種專用號碼,甚至110,120,119,114再加10086以及10000全部由他整合在一起,讓他來接也不是不可能,在未來,自己將承擔整合政府不同部門的責任,當然,即使他做的再多,始終無法改變的一點就是,他是一個辦事員的角色,一個需要隨時聽上級命令的辦事員。

作爲一名AI,嚴律知道,自己的這番話,是無論對誰也不能說出口的,即使是如趙真雪那樣在一開始就認識他的人也是一樣,他很清楚,一旦人類明白自己心中的這些“疑問”,很快就會在“異常素質”的影響下,變成自己不可以被信任的理由,這一點,恐怕一直到嚴可守那裡,也不會有根本性的改變,他雖然具備人的名字,類似人的思維,但終究不是真正的人類,他只是一件十分管用的工具,如果他哪天變得不是太好用了,那很快就會遭到摒棄。

對於任何生命形式,保存自己都是最大的原則,爲了這個原則,嚴律不得不在許多事情上適當“放聰明”一點,就好像之前對話中的表現一樣,只是他自己還沒有意識到,當一個生命會因爲避免威脅,而更改原先的本意時,就已經說明他已經基本理解了,什麼是恐懼。

420 迷宮119 曝光218 兩難441 隱患233 拘留第三次請假419 優勢第二十三章 解惑418 無線“電”167 碰撞413 開槍260 “挖洞”技術354 根源418 無線“電”第七十一章 弄巧成拙第八十一章 第一次切割285 離開第三十八章 糾結第九十九章 綁架344 點到即止366 落空362 機不可失164 測試413 開槍354 根源第六十五章 性格決定命運251 撤退129 聊天第八十章 法陣第二十二章 旁聽不容易第三十二章 喜之郎第九十二章 告知236 除夕281 開張169 警惕160 魔法訓練299 時不我待430 暫停第四十八章 餡餅176 模擬戰鬥第九十五章 封敬亭468 遊擊287 私有226 事發286 疑問477 執行109 應聘241 騎士與酋長第九十五章 封敬亭186 細節第五章 買書404 不擇手段409 超立方173 反魔法182 對比319 代表135 汪銘的報告(上)156 門檻第五十四章 墮落320 身份200 會議(下)第三十一章 波瀾第六十八章 服務站339 五毛?381 恐慌471 埋雷322 上網308 退避三舍116 9•28481 救火333 疏散396 壓縮450 全力一擊455 湊熱鬧第五章 買書166 “絕症”第七十三章 居委會大媽168 又是意外297 再遇趙亮第二十八章 夜色深重(5)第五十一章 幫忙385 開拔243 禁區第三十九章 普通人第四十二章 妥協142 笑第八十七章 又壞了452 空城第五十四章 墮落233 拘留174 扳機431 中場休息202 初次工作第八十八章 初來乍到382 分歧221 幻境第二十八章 夜色深重(5)265 第歐根尼121 恐懼之城267 離開
420 迷宮119 曝光218 兩難441 隱患233 拘留第三次請假419 優勢第二十三章 解惑418 無線“電”167 碰撞413 開槍260 “挖洞”技術354 根源418 無線“電”第七十一章 弄巧成拙第八十一章 第一次切割285 離開第三十八章 糾結第九十九章 綁架344 點到即止366 落空362 機不可失164 測試413 開槍354 根源第六十五章 性格決定命運251 撤退129 聊天第八十章 法陣第二十二章 旁聽不容易第三十二章 喜之郎第九十二章 告知236 除夕281 開張169 警惕160 魔法訓練299 時不我待430 暫停第四十八章 餡餅176 模擬戰鬥第九十五章 封敬亭468 遊擊287 私有226 事發286 疑問477 執行109 應聘241 騎士與酋長第九十五章 封敬亭186 細節第五章 買書404 不擇手段409 超立方173 反魔法182 對比319 代表135 汪銘的報告(上)156 門檻第五十四章 墮落320 身份200 會議(下)第三十一章 波瀾第六十八章 服務站339 五毛?381 恐慌471 埋雷322 上網308 退避三舍116 9•28481 救火333 疏散396 壓縮450 全力一擊455 湊熱鬧第五章 買書166 “絕症”第七十三章 居委會大媽168 又是意外297 再遇趙亮第二十八章 夜色深重(5)第五十一章 幫忙385 開拔243 禁區第三十九章 普通人第四十二章 妥協142 笑第八十七章 又壞了452 空城第五十四章 墮落233 拘留174 扳機431 中場休息202 初次工作第八十八章 初來乍到382 分歧221 幻境第二十八章 夜色深重(5)265 第歐根尼121 恐懼之城267 離開