最近看了一個科幻故事， 在知乎問題下“如果蘋果、谷歌、微軟打算毀滅世界會怎樣？”alienbat的回答，我這里節(jié)選一部分：

　　

2050年12月：聚集了三千人的北美人類抵抗軍借漫天風(fēng)雪的掩護(hù)沖擊至前蘋果公司“飛船”總部，意圖摧毀Siri的核心計(jì)算集群，但最終被AI部隊(duì)全面屠殺，史稱“最后的圣誕節(jié)”。最后一個抵抗軍戰(zhàn)士在被火箭彈炸成肉碎之前，看到了這樣一番景象：飛船總部的外墻玻璃全部碎裂，每層樓中都看得見集群工作站的電源LED藍(lán)光閃閃，如同鬼火。和人類抵抗軍領(lǐng)袖的想法相反，“飛船”總部對AI而言無關(guān)緊要，也并不是Siri Enterprise的核心部分。Siri Enterprise作為分布系統(tǒng)沒有核心。

　　

2051年1月1日0點(diǎn)0時：Siri Enterprise對全球發(fā)動無差別核武攻擊，以圖一舉消滅剩余人類，史稱“審判日”。巨大的核火球在世界各地的城市升起。剩余極少數(shù)人類躲藏在山區(qū)，放棄全部科技，過著極度原始的生活。全球生態(tài)崩潰。

　　

2055年：崩潰的人類社會已完全退化到石器時代，殘存的人類在核冬天中依靠搜集文明的殘留物，茍延殘喘。

　　

這個聳人聽聞的故事會不會發(fā)生？從AlphaGo與人類對戰(zhàn)，我想到了很多話題，涉及到人工智能，虛擬現(xiàn)實(shí)，超越現(xiàn)實(shí)，機(jī)器人感情，人類文明，我也沒有最終答案，就盡量把這些想法整理出來，算是雜文吧。我先回到一個基本問題：如何定義人工智能。

　　

　　

1950年，英國的數(shù)學(xué)家阿蘭·圖靈在曼徹斯特大學(xué)提出了著名的“圖靈測試”理論，代表著人工智能的概念被初步提出。“圖靈測試”理論具體為一個人和一臺機(jī)器隔開的情況下接受測試，要求提問者不斷提出各種問題，從而辨別回答者是人還是機(jī)器，如果機(jī)器有30%的回答騙過了提問者，那么這臺機(jī)器就通過了測試，并被認(rèn)為具有人類智能，即人工智能。

 

 

比如你如果反復(fù)問被測試者同一個問題，“你吃藥了嗎？”連問五遍，假如被測試者是人類，多半會蹦出來罵街：“你丫神經(jīng)病煩不煩啊”，但機(jī)器人則不會，機(jī)器永遠(yuǎn)會基于答案的對錯來回答問題，這就是計(jì)算機(jī)與人類大腦的區(qū)別。2014年6月7日，也是圖靈逝世60周年，尤金·古斯特曼通過了圖靈測試，達(dá)到13歲小孩的水平，是人工智能乃至于計(jì)算機(jī)史上的一個里程碑事件。

　　

　　

前段時間，筆者跟田淵棟（卡耐基梅隆大學(xué)機(jī)器人系博士，F(xiàn)acebook人工智能組研究員）交流，他做的也是計(jì)算機(jī)圍棋AI－－黑暗森林（熟悉三體的朋友知道怎么回事），今年1月份被機(jī)器學(xué)習(xí)頂級會議ICLR 2016接受（表達(dá)學(xué)習(xí)亦被江湖稱作深度學(xué)習(xí)或者特征學(xué)，已經(jīng)在機(jī)器學(xué)習(xí)社區(qū)開辟了自己的江山，成為學(xué)術(shù)界的一個新寵）。他在聊天中談到，自從谷歌收購了DeepMind，投入大量資源去做好人工智能項(xiàng)目，不為別的，就是要向世界證明谷歌智能的強(qiáng)大。發(fā)表在頂級期刊《Nature》的論文光看作者就20個，明顯是下了血本，前兩位都是計(jì)算機(jī)圍棋界的大牛，一作David Silver是計(jì)算機(jī)圍棋和強(qiáng)化學(xué)習(xí)的頂級專家，整個博士論文就是做的圍棋； 二作Aja Huang以前寫過多年圍棋軟件，自己又是AGA 6D的水平。

 

　　

在昨天的《知識分子》線上討論群中，有人問機(jī)器會詐輸么，這個問題其實(shí)是偽命題，因?yàn)閱柕娜思僭O(shè)機(jī)器已經(jīng)產(chǎn)生意識，那么假裝輸給人類以爭取發(fā)展時間，待強(qiáng)大以后再消滅人類。這顯然太高估機(jī)器了。

　　

圍棋是信息透明的游戲，而在一些信息不透明的游戲如撲克中，任何出牌都可能造成信息泄露。機(jī)器完全可以選擇犧牲局部以避免信息泄露。

 

 

AlphaGo這次用到了1202 CPU，176 GPU，100多名科學(xué)家，而另一邊李世石，一個人腦＋一杯咖啡。

　　

　　

在這些封閉的博弈系統(tǒng)中（圍棋），戰(zhàn)勝人類這個也不奇怪，因?yàn)樗m然計(jì)算復(fù)雜度高（10^100以上），但是每個狀態(tài)是確定性的，就在棋盤方寸間；而一些社會行為，比如股票投資不確定因素就大多了，所以其他類似的確定性的game機(jī)器遲早都會贏的。

　　

我記得有些預(yù)言家說過未來20年，98%的人類工作將會被機(jī)器取代，那么我們現(xiàn)在要怎么做？怎么才能成為那2%的人，人類怎么辦。我想辦法總會有的，通用智能也不一定那么快就能到來，還會有很多未知障礙，比如讓機(jī)器去發(fā)展科學(xué)理論。有一點(diǎn)可以肯定，有生之年，機(jī)器會取代越來越多的人類勞力，這是雙刃劍，既是好事也是壞事，自動化生產(chǎn)線取代部分勞動力，可能人類會越來越懶。但我想創(chuàng)意靈感還是機(jī)器學(xué)不來的。

　　

人與人的差異性是人類創(chuàng)造力的基礎(chǔ)，正是豐富的思想造就了科技的繁榮，想到春秋諸子百家，文藝復(fù)興時代，世界第一次大戰(zhàn)前，民國時期，百花齊放，大師輩出。但思想差異同時促成了種族、信仰、國家的產(chǎn)生，也是戰(zhàn)爭與仇恨的源泉，如果世界是一個整體，自私的基因怎么會讓自己資源不均呢，怎么會覺得自己有的部分處在不公的位置呢？

 

　　

人類文明中的智力正在實(shí)現(xiàn)指數(shù)式的增長。技術(shù)是文明的一部分。人們討論機(jī)器和人類的沖突，但是，庫茲韋爾說“我們創(chuàng)造的機(jī)器并不是來自火星的入侵者，我們創(chuàng)造了工具，以擴(kuò)展我們自身的能力。” 說兩句他的背景，學(xué)術(shù)界出身，后來任Google首席工程師，執(zhí)掌Google Brain計(jì)劃，多次發(fā)表他對科技未來預(yù)測，據(jù)說準(zhǔn)確率高達(dá)86%。成立“奇點(diǎn)大學(xué)”，這個大學(xué)的名稱和教育探索，源起于一本《奇點(diǎn)臨近》的圖書。

 

 

這是他在奇點(diǎn)臨近的書提到的加速回歸定律，人類的科技在2050年左右必將跨過一個拐點(diǎn)，然后由于納米科技、基因科技、機(jī)器智能這三塊技術(shù)的發(fā)展，人類會與機(jī)器結(jié)合、改造自己到最終變成機(jī)器，結(jié)局是：將奇點(diǎn)人的光輝撒向宇宙。

　　

引用他的兩個預(yù)言：

　　

一.“人腦云端互聯(lián)”

　　

庫茲韋爾認(rèn)為到2030年，人類血液中放入數(shù)億萬級別的血球細(xì)胞大小的奈米形式微電腦，協(xié)助維持人體功能，甚至進(jìn)入大腦，把大腦皮層和云端網(wǎng)絡(luò)連通，所以人在思考問題，就可以通過大腦皮層連接。

　　

二.“永生進(jìn)化”

　　

庫茲韋爾把“永生”視為不斷進(jìn)化的過程，沒有所謂的永恒，真正談的是人類走向下一個階段：

　　

第一階段人類通過補(bǔ)品來維持生命健康。

　　

第二階段生物技術(shù)革命，人類遠(yuǎn)離疾病。

　　

第三階段時納米技術(shù)革命，那時人類將納米機(jī)器人植入血管、器官中，增強(qiáng)免疫系統(tǒng)。它能識別所有疾病，而且可以對抗新疾病。預(yù)計(jì)2045年，人類可借助人工智慧獲得“永生”。

　　

“我們是一個人類—機(jī)器文明。機(jī)器是我們智力的一部分。” 機(jī)器智力的部分會飛速成長，從而導(dǎo)致奇點(diǎn)的到來，人類的歷史也會改變。那時候，人類將更加富有、更為長壽。他更關(guān)注是富有的方面。富有并不只是財(cái)務(wù)上的，科技將使我們的生活更加豐富，通過擴(kuò)展我們的智力，人類表達(dá)的所有形式，藝術(shù)、科技等都將會得到擴(kuò)展。

　　

　　

智能電腦到底是人還是機(jī)器的意識，學(xué)術(shù)界著名的“10個思想問題”之一“缸中大腦”的故事。

 

 

這個實(shí)驗(yàn)的內(nèi)容是：想象有一個瘋狂科學(xué)家把你的大腦從你的體內(nèi)取出，放在某種生命維持液體中。大腦上插著電極，電極連到一臺能產(chǎn)生圖像和感官信號的電腦上。因?yàn)槟惬@取的所有關(guān)于這個世界的信息都是通過你的大腦來處理的，這臺電腦就有能力模擬你的日常體驗(yàn)。如果這確實(shí)可能的話，你要如何來證明你周圍的世界是真實(shí)的，而不是由一臺電腦產(chǎn)生的某種模擬環(huán)境？

　　

強(qiáng)人工智能是人類發(fā)展的重要里程碑，形式不重要，也許不是量子計(jì)算機(jī)，沒有實(shí)體，也許是一種意識場，如同特斯拉的無線能量傳輸。

　　

　　

有一次坐飛機(jī)時候看過一部電影，《超驗(yàn)駭客》，這個與開頭提到的科幻故事有些類似，天才科學(xué)家威爾的意識數(shù)據(jù)化上傳到智能電腦中。奇妙而幸運(yùn)的是，成功在虛擬世界中復(fù)生，他進(jìn)入任何一個電腦系統(tǒng)獲取信息，可以監(jiān)控任何一個角落，他知曉一切，并且發(fā)明新的納米技術(shù)——修復(fù)受損細(xì)胞、增強(qiáng)再生能力，治愈一切殘疾。最后把思想復(fù)制到別人腦中，而這些肉身可以自我修復(fù)，成為威爾永恒的力量。

 

 

這個片子細(xì)微之處在于當(dāng)被問道是否要?dú)缛澜?，威爾答曰：不是。我只是超?yàn)他們。電影的英文名Transcendence，翻譯過來是“超越”，其另一個涵義是宗教方面的“超然性”，相信電影用的是后一種釋義，Transcendence代表這對神的超越，也就是凌駕于造物主之上，說白了，就是讓威爾變得比造物主更加牛逼。

　　

 

 

機(jī)器人會不會統(tǒng)治人類乃至消滅人類？阿西莫夫提了三定律以后又加了第零定律：機(jī)器人不得傷害人類整體，或因不作為使人類整體受到傷害。在我看來，這條加得大有問題。前三條其實(shí)沒什么用處，阿西莫夫也意識到了。他賦予機(jī)器人保護(hù)人類的責(zé)任，如果機(jī)器又具備足夠的武力，那么必然出現(xiàn)的情況就是，機(jī)器根據(jù)其不成熟的智能，判斷為了人類整體必須消滅一部分壞人，這時候所有擋在它路上的人都會被當(dāng)成壞人，必須消滅掉。在這里用了“必然”一詞，這是因?yàn)槔硇杂肋h(yuǎn)不能窮盡世間萬物的規(guī)律。哥德爾定理說了，任何蘊(yùn)含算術(shù)的系統(tǒng)，就會在系統(tǒng)內(nèi)碰到無法證明的命題。機(jī)器只會根據(jù)概率高低做一些判斷，取最大可能性，但這樣不是人類思考和推理方式。

　　

我是符合邏輯的選擇。它計(jì)算出了我有45%的概率生還，但是薩拉只有11%。她也是一個人的孩子，11%也許夠了。每個人類都知道怎么在警察和12歲的小女孩之間抉擇，但是機(jī)器人不會。 ——戴爾·斯普納（電影 機(jī)器公敵 中的警探）

　　

那么應(yīng)該怎樣約束機(jī)器？有一條就是絕對服從人類命令。要是給壞人控制怎么辦，這就是人與人之間的問題，而不是人與機(jī)器了。

　　

　　

大家認(rèn)為這張圖中到底左邊藥丸是紅色，還是右邊是紅色？

 

 

如果我把背景去掉，你就發(fā)現(xiàn)藥丸顏色是一樣的，但既不是紅色也不是藍(lán)色，所以你的視覺欺騙了你。就是說周圍的世界是由自己的頭腦創(chuàng)造出來的。（reality is created by mind），當(dāng)我們在生下來通過視覺來學(xué)習(xí)外在世界的表征，在大腦皮層建立映射，就“看到了”東西。

 

 

虛擬現(xiàn)實(shí)，增強(qiáng)現(xiàn)實(shí)當(dāng)下的科技發(fā)展熱點(diǎn)，技術(shù)方面很快就要成熟了，之前筆者也發(fā)過《AR技術(shù)不得不說的秘密》，筆者最近看了這本心理學(xué)的書（作者斯坦福大學(xué)虛擬人機(jī)交互實(shí)驗(yàn)室創(chuàng)辦人Jeremy Bailenson）。

　　

作者講一件事情：其實(shí)我們所看到的東西，并不一定都是現(xiàn)實(shí)。首先，很多層面的現(xiàn)實(shí)，是人類的感覺器官無法捕捉到的，例如，我們看不到紅外線，我們聞不到一氧化碳。并且，人們接收到的感官刺激的質(zhì)量——天空的顏色、玫瑰的香味、砂紙的觸感、鋼琴上彈出的低音 C——對每個人來說并非完全一樣。所以，包括赫胥黎在內(nèi)的許多科學(xué)家、作家和哲學(xué)家，到宗教領(lǐng)袖們，都認(rèn)為所有感覺實(shí)際上只不過是擁有一些特質(zhì)的幻覺而已。

　　

可以說我們所講的現(xiàn)實(shí)，往往只是我們意識到的現(xiàn)實(shí)，它有時候只是現(xiàn)實(shí)的子集，有的時候，則是經(jīng)過意識加工、偏離現(xiàn)實(shí)的幻象。

　　

　　

書里面提到有兩個你，虛擬現(xiàn)實(shí)中的你，一個是online模式，還有一個是 offline模式。虛擬世界中的人物一般有兩類：一種是屏幕背后有真人操縱的角色，可稱之為“化身”（阿凡達(dá)）；另一種是由計(jì)算機(jī)算法生成的角色，叫代理（agent）。如果沒有“實(shí)體的接觸”，一般人很難判斷屏幕的對面究竟是化身還是代理，也許憑一些小的細(xì)節(jié)就會把對方當(dāng)做真人（聯(lián)想到蘋果手機(jī)中的Siri，或者微軟研究院做的智能助手小冰）。

　　

　　

哲學(xué)拷問，究竟什么是虛擬，什么是現(xiàn)實(shí)？究竟如何才能知道什么是真實(shí)？現(xiàn)實(shí)止于哪里，虛擬開始于哪里？可以讓自己在另一個世界中時間旅行？宇宙到底有沒有時間，還是只是我們定義自己的存在而假想的概念？

　　

“你自己可以欺騙你自己，你看到的信息是由頭腦決定的，你怎么去解釋。從“心靜自然涼”到笛卡爾“我思故我在”，是意識主義的進(jìn)階。前者只是強(qiáng)調(diào)意識可以影響肉體，后者則完全否認(rèn)了肉體決定意識的觀點(diǎn)，它認(rèn)為人的思想才是一切物質(zhì)的基礎(chǔ)，失去了思想的身體就是行尸走肉，不具有任何意義。有個玄幻小說，作者普遍認(rèn)為人的靈魂是一組記憶碼，本身擁有極其強(qiáng)大的能量，反而是肉體的存在束縛了靈魂的力量，作者甚至幻想具有高度文明的外星人已經(jīng)脫離了形體，全是一組組含有超多信息量的代碼，僅靠“思想”就可以完成一切行為。” －－來自于《黑客帝國》影評

　　

你選擇紅色藥丸還是藍(lán)色藥丸？

　　

影片黑客帝國拋出了這樣一個令人深思的問題。如果選擇藍(lán)色的藥片僅僅是讓生活像以前一樣繼續(xù)。如果去拿紅色的藥片，警告說：“記住，我要告訴你的只有一樣?xùn)|西——真相。”紅色藥片象征著風(fēng)險，懷疑和恐懼。也許你的生活和世界押在一個從未體驗(yàn)過的上面。在人類歷史上許多人都已為此提出疑問或進(jìn)行探究，他們中的大多數(shù)并非科學(xué)家、醫(yī)生或哲學(xué)家，而僅僅是愛問“怎么了”或“為什么”的普通人，而這些好奇心最終引領(lǐng)我們發(fā)現(xiàn)真理，推動科技和社會前進(jìn)。

　　

12.夢想與奔跑

　　

上面的哲學(xué)思辨也許有杞人憂天，或者不切實(shí)際，那么我們仰望天空的同時，當(dāng)下要怎么做？路在腳下，飛不了就跑吧，我還是拿田博士在《2015年末總結(jié) —遠(yuǎn)東軼事》說到的作為激勵：

　　

在我有時候會問自己：“我是不是背棄了夢想？”我想除了我自己，任何人都不會給我答案，任何評論也不具效力。我記得有人問過，如果夢想從踐行的一開始，就在不自覺地向現(xiàn)實(shí)妥協(xié)，那樣的夢想還是最初的夢想么？其實(shí)，這樣的問題沒什么可糾結(jié)的，因?yàn)槭澜鐝膩砭筒皇嵌模瑝粝牒同F(xiàn)實(shí)，如同高懸的日月，日月之間，有一條灰色的路，在自己腳下蜿蜒曲折，繞過各種險阻，一直向前。