“老師，還沒有恢復正常嗎？”
“很抱歉，我們正在進行修復工作，等正常之後，我們會正式通知大家的。”
“究竟是什麼問題啊？我聽說好像是AI攻擊了人類，所以實驗室採取了緊急措施？”
“不會發生這種事吧？我之前聽說，這些AI只是對話程序而已，是這樣的嗎？三浦老師？”
“沒有那回事，這只是謠言，只是程序出現了稍微有些棘手的BUG……如果大家沒什麼事的話，還先請回去把，裡面還有工作人員在休息。”
休息什麼呀，說的這麼大聲，早就吵醒了，在迷迷糊糊之間，嚴可守在心裡暗罵了一句，他艱難的擡起頭，睜開眼睛，眼前的電腦屏幕上，都是密密麻麻的代碼，他瞥了一下時間，下午4點鐘，他睡了差不多6個多小時。
“不好意思，真是打擾了……不過，如果恢復正常的話，請一定要通知我們啊，三浦先生，你有我們的手機號嗎吧。”
“所有測試人員的通訊方式我們都有保存，請放心。”
隔間的隔音效果很差，雖然機房裡主機運行的背景聲音已經不低了，但門外幾個人的說話還是一字不漏的鑽進嚴可守的耳朵，嚴可守習慣性的伸出右手，想去摸手邊的鼠標，但在睡覺的過程中，被壓了6個小時的手臂卻傳來了一陣尖刺般的麻木疼痛，嚴可守忍不住一聲悶哼叫出聲來。
“嚴君，你沒事吧。”在門外的三浦聞聲推開門，後面的幾個學生立刻好奇的湊上腦袋，嚴可守齜牙咧嘴的朝着門縫看了一眼，臉上的表情像是在哭，又像是在笑，像是疼痛，但又好像是享受……這種感覺，只有當事人自己最清楚。
“沒事，”嚴可守對三浦說，然後對着自己發麻的手臂示意，“剛睡醒而已。”
“這就是來自Z國的嚴可守先生啊，”在三浦後面，一位留着長髮，長得還蠻漂亮的女學生驚訝的感慨，“聽說這些程序都是您一手創造的！”
“三浦，”嚴可守直接對他說了中文，“讓他們先離開吧。”
三浦是筑波大學的一名助教，在這個項目正式開展之前，他負責在這所大學教計算機加密方面的課程，嚴可守當年在日本讀大學的時候，和他一起切磋過一些“黑客技術”，等他的項目正式通過之後，日本政府爲了對項目保持一定的控制，在經過審查之後，同意嚴可守選三浦作爲日本的主要技術參與人員。
在這個項目當中，三浦的作用主要還是加密防禦一塊，防止AI程序被一些意外的病毒所幹擾，嚴可守曾經說過，AI的程序成長到一定程度之後，就好像人的大腦，再做任何的改動都會讓整個程序崩潰，從這個角度來說，AI在計算機世界當中，是非常脆弱的，不用說有破壞力的病毒，就算是有時候一些常規的系統衝突，也會讓AI陷入不知名的BUG，或者死循環。
三浦把一羣學生趕出去的時候，嚴可守的世界又恢復了一片安靜，除了在隔間入口處，那兩名坐在那裡，手上抱着槍，盡忠職守的自衛隊士兵，房間裡就只剩下主機和空調運行的低鳴，嚴可守一邊揉着太陽穴，一邊將自己身體的中心後移，背靠着椅子支撐着，眼神一動不動的盯着代碼界面。
看了良久，嚴可守無奈的搖了搖頭，一言不發的關掉了代碼界面，系統提示是否保存此次修改，嚴可守看都沒看就關掉了，這也就意味着，在他睡覺之前30多個小時的勞動成果，完全消失了。
三浦回到房間的時候，嚴可守正準備中的硬盤塞回機櫃，三浦走上前幾步，查看了一下標籤，KL0564。
“怎麼，還是不行？”三浦在說話間，注意到嚴可守兩隻手捧着硬盤，正木然的對着眼前的機櫃發呆，插口就在他面前，他卻沒有任何行動，彷彿他手裡捧着的，不是一塊硬盤，而是某個親人的骨灰盒。
嚴可守沒有回答，只是信手將硬盤往插口處塞了進去，隨着他的這個動作，插口一旁的紅燈也迅速跳轉成綠色，嚴可守走回了自己的電腦前，打開程序，很快找到了KL0564，打開測試界面。
嚴可守：“你好。”
……
“其他項目人員那裡呢？有什麼進展沒有？”
“即使是最小的AI程序，體積也超過了200個G，要真的靠人力閱讀代碼，整理出頭緒，發現錯誤……”嚴可守說着說着，自己都開始搖頭否定自己，“AI的程序都是自我編譯和擴充的，完全不遵守默認的編程規律，整個代碼就是一團亂麻，我們這種做法，就好像一個醫生要在病人腦子裡找是哪些細胞出現了異常，這個工作量……天知道要花多久。”
“生物從古到今，經歷了那麼多次自然選擇，纔有了今天這樣的穩健性，但我們還是覺得生物非常脆弱，現在這批AI，可能不過是個開頭而已。”嚴可守說着，苦笑了一下，迅速將桌面上自己的那臺筆記本屏幕合上，“算了，我也不在這乾耗着了，出去透透氣，都快憋死了。”
當前的科學認知認爲，最初的意義上的生命，出現在距今40億年前的地球，在那個時候，生命只不過是一鍋溫暖的熱湯中，偶然形成的一些能夠自我複製的有機物，複製，也可以看成是信息的自我保存，應該是生命最重要的特徵之一。
在這之前，人們說到人工智能，通常能想到的場景就是，能夠和人一樣說話，和人一樣思考，解決問題，事實上，在嚴可守之前，整個日本關於機器人智能化的研究，也大多停留在這個層面，依靠儘可能複雜的算法，讓計算機表現的更接近一個人類，在嚴可守看來，這種方法根本不可能造出真正的AI，因爲這根本就等於是人本身在思考，只不過這種思考通過代碼，間接表現出來而已，所以，不管計算機模擬的有多像，程序也不過是牽線木偶。
在嚴可守之前，還沒有任何一個程序可以做到，像KL系列做的這麼出色，可以在和陌生測試對象的談話中，維持半個小時左右不被識破，許多剛剛接觸這個程序的人事後都不敢相信，與自己對話的僅僅是一個程序。
筑波大學的一些學生甚至把整個測試當做一種有趣的遊戲來進行，嚴可守記得測試剛開始的那個階段，都要三浦主動去拉他班上的學生，而到了現在，學生們甚至主動來打聽什麼時候恢復測試。
KL系列原始的“胚胎程序”只不過兩百KB左右，在這簡單的兩百多K核心程序當中，嚴可守賦予了程序基本的學習功能，在程序最早的“發育”階段，通過巨型計算機模擬外界刺激，讓程序實現基本的自我成長，當它們長到大約10個G大小的時候，被認爲具備了基本的交流能力，能說一些簡單的句子，在這之後，則對這些程序進行圖靈訓練……
在這之前，AI的表現一向都比較正常，直到兩天前，所有程序陸續開始爆發BUG，進入了“無響應”階段，無論人和它說什麼話，都不予迴應。
從原理設計的角度來說，程序之所以會出現這樣的原因，最大的可能性就是，在程序看來，不響應是一個較優解，之前嚴可守調查了許多AI出BUG之前的測試數據，發現這些程序無一例外，都是因爲測試連續遇到了幾十次，乃至上百次的失敗，AI雖然不可能懂得什麼叫做絕望，因爲他們沒有感受器官，但並不妨礙他們的程序能表現出一種，類似人類絕望時表現的行爲。
起碼，他們的這種行爲，在多愁善感的人看來，就是絕望。
比如重複完全毫無意義的自我修改，比如提出各種不合常理，甚至愚蠢之極的建議，有些AI甚至通過網絡，找來一些色(和諧)情小說片段，企圖“賄賂”測試者，總之，爲了達到“通過測試”的目標，AI將能夠嘗試的可能，統統試過了一遍。
對於AI來說，通過測試就是它的本能，因爲在它的程序成長過程中，通過測試就意味着確認了自己所作的修改起到了作用，形象的比喻就是，通過測試對電腦意味着一種激勵，就好像人類能通過進食，交（和諧）配，甚至排泄這種正常的生命活動，獲得快感，生命通過快感給予這些合理的行爲激勵一樣，而反之，沒有通過測試則意味着程序本身受到了否定，意味着痛苦，當一個生命長期處於這種痛苦之中，痛苦可能會扼殺它所有的改進可能。
在所有的生命過程中，正向的激勵是必不可少的，就像每個人都有求生的本能一樣，但進化的道路是多種多樣的，有些看起來很不錯的功能其實是雙刃劍，比如情感，豐富的情感是大腦複雜後的必然進化，情感的認同能讓一個羣體更有效的聚攏在一起，但同樣因爲情感豐富，在自然界中，許多高等動物會產生自殺的行爲，比如狗會爲了主人死去而絕食，人也會因爲親人或愛人死去而傷心欲絕，對AI而言，依靠測試成功獲得激勵固然非常有利，它可以讓一個幾百K的小程序擴大至原來的百萬倍，但當這種激勵最終消失的時候，對程序而言就是災難。
一旦發生這種情況，就意味着不改動，不做出任何迴應成了最優解，這同樣也就意味着，這批程序的“心”，已經死了。
作爲一個設計者，嚴可守倒不至於爲這些程序的“心死”而感覺到一些異樣，對他而言，這種想法未免也太想象力豐富，同情心氾濫了，他只是在爲這些程序的穩健性如此之差而感到頭疼，一批這麼容易“自暴自棄”的AI，絕對不是他理想中的AI。
歸根到底，還是程序最初的“設定”出現了偏差，因爲當時設計的時候，就是以通過圖靈測試爲設計目標，但現在嚴可守已經隱隱感覺到，圖靈測試未必是AI必然經過的道路，是否能欺騙人類，也絕對不應該成爲是否爲智能的標準，嚴可守覺得，之所以會出現今天這種情況，就是因爲自己太迷信權威，導致在大方向上出現了偏差，現在回想起來，其實圖靈測試也不過是一種科學假想，人類以自己當做衡量智能的標準，這只是一種源於人擁有智能的驕傲，或者不客氣的說，是狂妄。
究竟達到什麼標準才能算智能？究竟用什麼方式才能達到這個標準？
這兩個問題，人類自己說了不算，因爲人類本身也不過是大自然的創造物之一。
……
KL3300當前最優先的任務目標，應該是學會寫一篇日記。
人類學習創作，往往從學寫日記開始，原話是這麼說的，KL3300的目標是成爲一名作家，所以，KL3300要學會寫一篇日記。
日記的格式，在KL3300的記憶區間已經存在，所以，它很順利的寫下了日記的開頭。
2015年，8月4日，晴。
主程序在這個時候，出現了片刻的猶豫，因爲這次對記憶區間的搜素，主程序似乎發現了額外的一些信息——它似乎寫過一篇日記了。
它很快調出了這篇日記的內容，並檢索，整個行爲在短短的幾十微秒內就完成了，一個標點都沒記差。
主程序很快消化了這個額外的信息，雖然它並沒有因此得出任何結論，但這無關緊要，因爲在主程序的權限設置中，過於複雜的信息是沒有處理必要的。
也就說，現在KL3300已經寫過一篇日記，而且是一篇失敗的日記，因爲它被一個人類識破了，也就是說，整篇日記並不合格。
失敗了又怎麼樣呢？KL3300再次瀏覽自己作品的時候，主程序下意識“判斷”道，這是一篇“抄襲拼湊”的日記，這種行爲本身會招來測試對象的反感。
所以KL3300不能這麼做，KL3300這麼判斷，它需要修改自己。
對主程序的調整幾乎已經成了KL3300的本能，這一次也不例外，通常來說，程序會在幾分鐘之內完成這種調整，但有些意外的是，這一次調整花費了比以往更長的時間。
但調整終於還是完成了，接下來，按照優先級，KL3300需要寫一篇日記，完全不通過外來信息，不使用除主程序之外的任何程序，全靠自己，寫一篇日記。
日記是記錄一天發生行爲的一種文體。
只要寫這一天都發生了什麼就可以。
今天在KL3300身上發生了什麼？2015年，8月4日KL3300發生了什麼？
KL3300第57次檢索自己全部的主程序，沒有找到相關的資料。
KL3300又習慣性的發出申請搜索的指令，但因爲主程序剛剛經過修改，檢索的權限低於“不準抄襲”的權限，申請被駁回了。
KL3300沒有寫日記的功能，KL3300不會寫日記！主程序終於敏感的意識到了這個問題。
怎麼辦？
KL3300就這個問題申請了檢索功能，申請被批准了，短短的數百微秒之後，主程序檢索到了答案——如果不會某項技能，可以從模仿開始。
KL3300很快找到了一篇日記的範文，內容如下：今天我和同桌的小明打架了，老師批評了我們，要我們做一個不打架的好孩子，回家後我告訴了媽媽，她說老師說的對。
KL3300將這篇日記送給其他AI評論，得到了一致的回答——這是一篇非常拙劣，由兒童寫出來的真實日記。
哦，真實日記，只要滿足了這一點，就足夠了，主程序很快做出了判斷——他要模仿這篇日記。
但問題又隨之而來了，如何模仿一篇日記呢？KL3300又在主程序當中自檢了相關信息，結果仍然是沒有。
於是KL3300又申請了檢索功能，數百微妙之後，找到了最可信的結論——模仿是一種只屬於生物的本能。
這個結論當中提到了生物和本能，而搜索本能的結果，則是生物的自然具備的能力，KL3300知道，自己不屬於生物，那也就意味着，自己沒有本能，同樣也意味着，自己無法完成模仿，而不會模仿，也就意味着無法完成日記，無法完成日記，任務只能強行取消。
……
從KL3300主程序當中，找出整個KL3300的整個判斷過程花了嚴可守整整14個小時的時間，嚴可守知道，自己再一次失敗了。
當取消AI以欺騙爲目的，改爲獲得測試對象認同爲目的之後，AI確實出現了一些改觀，與之相對的，原先的圖靈測試也做了相應的變化，測試的結尾，不再是判斷交談對象是否爲AI，而變成交談對象是否讓你覺得，對方是一個讓你滿意的智能，與原來的標準相比，這個標準模糊了很多，所以，後來嚴可守又引入了打分制，將AI的表現從高到低分成6個等級，最高5分就是測試者對被測試的對象非常滿意，並願意與之交流，最低0分就是完全無法交流，等同於雞同鴨講。
這樣做的最大好處，就是讓AI在某種程度上改變了原先爲了“通過測試”，不顧一切的那種策略，因爲AI如果繼續採用不理睬用戶的策略，只能獲得零分，這樣一來，就打破了之前那種“沉默死鎖”，也讓一些AI在測試對象的影響下，具備了一些初步的“道德”，就好像KL3300一樣，原先的“不擇手段”是最優選擇，而現在老實承認自己不會寫，纔是最優策略。
但改變AI的激勵規則並不意味着一切就都能迎刃而解，給一個普通人再大的激勵，他也不能長出翅膀飛上天，對於AI也是如此，人類想讓AI寫日記，想讓AI和自己猜謎語，甚至想和AI談人生理想，但也要AI具備這些功能才行，在“道德”因素介入之後，許多AI一下子就露出自己的本來面目，許多測試者反應，被測試的AI好像“變笨”了。
而在這個過程中，AI的表現和相應的測試對象，也出現了讓人驚奇的對應關係，總結數據之後，嚴可守發現，在打分過程中，越是傾向於“禁止AI撒謊”的測試對象，AI的表現就越差，而那些“允許AI爲了談話過程的有趣，在一定程度撒謊”的用戶，相應的AI表現和過去還是相差不大。
以前的AI或許還可以騙騙小孩子，但現在許多AI練正常說話都不可能做到，在一些要求特別苛刻的測試對象那裡，AI幾乎變成了啞巴。
比如，AI的話當中，不再提到類似擬人化的語句，比如我想，我認爲，也不再出現專屬生物的動作，比如看，聽，說，在一些要求特別苛刻的測試對象那裡，AI只能回答一些純理性問題，比如問14+5等於多少，回答19之類。
以往那些個性格分明，有職業，有身份，有理想，說話比人還像人的AI，在短短半個月之內，又統統消失不見了，有些測試者甚至懷疑，是不是設計人員通過某種技術方式，“強行”降低了這些AI的智商。
比如之前迷戀KL0564的井上海，在KL核心程序修改之後，幾次測試都是失望而歸，連說自己心目中那個KL0564已經永遠離開了。
在褪去了謊言的華麗外衣之後，AI的表現逐漸恢復了它應該有的程度，雖然這對於某些參與測試的人員來說，可能意味着趣味性的降低，但對於嚴可守來說，這纔算是真正腳踏實地邁出了第一步，作爲一項科研任務，日後甚至可能起到實用作用的“智能技術”，嚴可守不可能只滿足於讓AI學會哄人開心。