世紀人機圍棋大戰中，知識分子與知乎共同舉辦知乎圓桌《對弈人工智能》，供網(wǎng)友在谷歌圍棋系統 AlphaGo 與韓國棋手李世乭對弈期間隨時(shí)參與討論。本文來(lái)自筆者在該圓桌討論中的相關(guān)回答。

最近看了一個(gè)科幻故事， 在知乎問(wèn)題下 “如果蘋(píng)果、谷歌、微軟打算毀滅世界會(huì )怎樣？” alienbat 的回答，我這里節選一部分：

“2050年12月：聚集了三千人的北美人類(lèi)抵抗軍借漫天風(fēng)雪的掩護沖擊至前蘋(píng)果公司 “飛船” 總部，意圖摧毀 Siri 的核心計算集群，但最終被 AI 部隊全面屠殺，史稱(chēng) “最后的圣誕節”。最后一個(gè)抵抗軍戰士在被火箭彈炸成肉碎之前，看到了這樣一番景象：飛船總部的外墻玻璃全部碎裂，每層樓中都看得見(jiàn)集群工作站的電源 LED 藍光閃閃，如同鬼火。和人類(lèi)抵抗軍領(lǐng)袖的想法相反，“飛船” 總部對 AI 而言無(wú)關(guān)緊要，也并不是 Siri Enterprise 的核心部分。Siri Enterprise 作為分布系統沒(méi)有核心。

2051年1月1日0 點(diǎn) 0 時(shí)：Siri Enterprise 對全球發(fā)動(dòng)無(wú)差別核武攻擊，以圖一舉消滅剩余人類(lèi)，史稱(chēng) “審判日”。巨大的核火球在世界各地的城市升起。剩余極少數人類(lèi)躲藏在山區，放棄全部科技，過(guò)著(zhù)極度原始的生活。全球生態(tài)崩潰。

2055年：崩潰的人類(lèi)社會(huì )已完全退化到石器時(shí)代，殘存的人類(lèi)在核冬天中依靠搜集文明的殘留物，茍延殘喘。

這個(gè)聳人聽(tīng)聞的故事會(huì )不會(huì )發(fā)生？從昨天的 AlphaGo 與人類(lèi)對戰，我想到了很多話(huà)題，涉及到人工智能，虛擬現實(shí)，超越現實(shí)，機器人感情，人類(lèi)文明，我也沒(méi)有最終答案，就盡量把這些想法整理出來(lái)，算是雜文吧。我先回到一個(gè)基本問(wèn)題：如何定義人工智能。

AlphaGo 與李世石之戰：挑戰人類(lèi)極限還是機器學(xué)習的覺(jué)醒？

一、圖靈測試

1950年，英國的數學(xué)家阿蘭·圖靈在曼徹斯特大學(xué)提出了著(zhù)名的 “圖靈測試” 理論，代表著(zhù)人工智能的概念被初步提出。“圖靈測試” 理論具體為一個(gè)人和一臺機器隔開(kāi)的情況下接受測試，要求提問(wèn)者不斷提出各種問(wèn)題，從而辨別回答者是人還是機器，如果機器有 30%的回答騙過(guò)了提問(wèn)者，那么這臺機器就通過(guò)了測試，并被認為具有人類(lèi)智能，即人工智能。

AlphaGo 與李世石之戰：挑戰人類(lèi)極限還是機器學(xué)習的覺(jué)醒？

比如你如果反復問(wèn)被測試者同一個(gè)問(wèn)題，“你吃藥了嗎？” 連問(wèn)五遍，假如被測試者是人類(lèi)，多半會(huì )蹦出來(lái)罵街：“你丫神經(jīng)病煩不煩啊”，但機器人則不會(huì )，機器永遠會(huì )基于答案的對錯來(lái)回答問(wèn)題，這就是計算機與人類(lèi)大腦的區別。2014年6月7日，也是圖靈逝世 60 周年，尤金·古斯特曼通過(guò)了圖靈測試，達到 13 歲小孩的水平，是人工智能乃至于計算機史上的一個(gè)里程碑事件。

二、AlphaGo 背后的力量

前段時(shí)間，筆者跟田淵棟（卡耐基梅隆大學(xué)機器人系博士，Facebook 人工智能組研究員）交流，他做的也是計算機圍棋 AI－－黑暗森林（熟悉三體的朋友知道怎么回事），今年1月 份被機器學(xué)習頂級會(huì )議 ICLR 2016 接受（表達學(xué)習亦被江湖稱(chēng)作深度學(xué)習或者特征學(xué)，已經(jīng)在機器學(xué)習社區開(kāi)辟了自己的江山，成為學(xué)術(shù)界的一個(gè)新寵）。他在聊天中談到，自從谷歌收購了 DeepMind，投入大量資源去做好人工智能項目，不為別的，就是要向世界證明谷歌智能的強大。發(fā)表在頂級期刊《Nature》的論文光看作者就 20 個(gè)，明顯是下了血本，前兩位都是計算機圍棋界的大牛，一作 David Silver 是計算機圍棋和強化學(xué)習的頂級專(zhuān)家，整個(gè)博士論文就是做的圍棋; 二作 Aja Huang 以前寫(xiě)過(guò)多年圍棋軟件，自己又是 AGA 6D 的水平。

三、機器會(huì )詐輸嗎？

在昨天的《知識分子》線(xiàn)上討論群中，有人問(wèn)機器會(huì )詐輸么，這個(gè)問(wèn)題其實(shí)是偽命題，因為問(wèn)的人假設機器已經(jīng)產(chǎn)生意識，那么假裝輸給人類(lèi)以爭取發(fā)展時(shí)間，待強大以后再消滅人類(lèi)。這顯然太高估機器了。

圍棋是信息透明的游戲，而在一些信息不透明的游戲如撲克中，任何出牌都可能造成信息泄露。機器完全可以選擇犧牲局部以避免信息泄露。

AlphaGo 與李世石之戰：挑戰人類(lèi)極限還是機器學(xué)習的覺(jué)醒？

AlphaGo 這次用到了 1202 CPU，176 GPU，100 多名科學(xué)家，而另一邊李世石，一個(gè)人腦＋一杯咖啡。

四、戰勝人類(lèi)后呢？

在這些封閉的博弈系統中（圍棋），戰勝人類(lèi)這個(gè)也不奇怪，因為它雖然計算復雜度高（10^100 以上)，但是每個(gè)狀態(tài)是確定性的，就在棋盤(pán)方寸間；而一些社會(huì )行為，比如股票投資不確定因素就大多了，所以其他類(lèi)似的確定性的 game 機器遲早都會(huì )贏(yíng)的。

我記得有些預言家說(shuō)過(guò)未來(lái) 20年，98%的人類(lèi)工作將會(huì )被機器取代，那么我們現在要怎么做？怎么才能成為那 2%的人，人類(lèi)怎么辦。我想辦法總會(huì )有的，通用智能也不一定那么快就能到來(lái)，還會(huì )有很多未知障礙，比如讓機器去發(fā)展科學(xué)理論。有一點(diǎn)可以肯定，有生之年，機器會(huì )取代越來(lái)越多的人類(lèi)勞力，這是雙刃劍，既是好事也是壞事，自動(dòng)化生產(chǎn)線(xiàn)取代部分勞動(dòng)力，可能人類(lèi)會(huì )越來(lái)越懶。但我想創(chuàng )意靈感還是機器學(xué)不來(lái)的。

AlphaGo 與李世石之戰：挑戰人類(lèi)極限還是機器學(xué)習的覺(jué)醒？

人與人的差異性是人類(lèi)創(chuàng )造力的基礎，正是豐富的思想造就了科技的繁榮，想到春秋諸子百家，文藝復興時(shí)代，世界第一次大戰前，民國時(shí)期，百花齊放，大師輩出。但思想差異同時(shí)促成了種族、信仰、國家的產(chǎn)生，也是戰爭與仇恨的源泉，如果世界是一個(gè)整體，自私的基因怎么會(huì )讓自己資源不均呢，怎么會(huì )覺(jué)得自己有的部分處在不公的位置呢？

五、人類(lèi)-機器文明

人類(lèi)文明中的智力正在實(shí)現指數式的增長(cháng)。技術(shù)是文明的一部分。人們討論機器和人類(lèi)的沖突，但是，庫茲韋爾說(shuō) “我們創(chuàng )造的機器并不是來(lái)自火星的入侵者，我們創(chuàng )造了工具，以擴展我們自身的能力。” 說(shuō)兩句他的背景，學(xué)術(shù)界出身，后來(lái)任 Google 首席工程師，執掌 Google Brain 計劃，多次發(fā)表他對科技未來(lái)預測，據說(shuō)準確率高達 86%。成立 “奇點(diǎn)大學(xué)”，這個(gè)大學(xué)的名稱(chēng)和教育探索，源起于一本《奇點(diǎn)臨近》的圖書(shū)。

AlphaGo 與李世石之戰：挑戰人類(lèi)極限還是機器學(xué)習的覺(jué)醒？

這是他在奇點(diǎn)臨近的書(shū)提到的加速回歸定律，人類(lèi)的科技在 2050年 左右必將跨過(guò)一個(gè)拐點(diǎn)，然后由于納米科技、基因科技、機器智能這三塊技術(shù)的發(fā)展，人類(lèi)會(huì )與機器結合、改造自己到最終變成機器，結局是：將奇點(diǎn)人的光輝撒向宇宙。

引用他的兩個(gè)預言：

一、“人腦云端互聯(lián)”

庫茲韋爾認為到 2030年，人類(lèi)血液中放入數億萬(wàn)級別的血球細胞大小的奈米形式微電腦，協(xié)助維持人體功能，甚至進(jìn)入大腦，把大腦皮層和云端網(wǎng)絡(luò )連通，所以人在思考問(wèn)題，就可以通過(guò)大腦皮層連接。

二、“永生進(jìn)化”

庫茲韋爾把「永生」視為不斷進(jìn)化的過(guò)程，沒(méi)有所謂的永恒，真正談的是人類(lèi)走向下一個(gè)階段：

第一階段人類(lèi)通過(guò)補品來(lái)維持生命健康。

第二階段生物技術(shù)革命，人類(lèi)遠離疾病。

第三階段時(shí)納米技術(shù)革命，那時(shí)人類(lèi)將納米機器人植入血管、器官中，增強免疫系統。它能識別所有疾病，而且可以對抗新疾病。預計 2045年，人類(lèi)可借助人工智慧獲得 “永生”。

“我們是一個(gè)人類(lèi)—機器文明。機器是我們智力的一部分。” 機器智力的部分會(huì )飛速成長(cháng)，從而導致奇點(diǎn)的到來(lái)，人類(lèi)的歷史也會(huì )改變。那時(shí)候，人類(lèi)將更加富有、更為長(cháng)壽。他更關(guān)注是富有的方面。富有并不只是財務(wù)上的，科技將使我們的生活更加豐富，通過(guò)擴展我們的智力，人類(lèi)表達的所有形式，藝術(shù)、科技等都將會(huì )得到擴展。

六、上帝意識

智能電腦到底是人還是機器的意識，學(xué)術(shù)界著(zhù)名的 “10 個(gè)思想問(wèn)題” 之一 “缸中大腦” 的故事。

AlphaGo 與李世石之戰：挑戰人類(lèi)極限還是機器學(xué)習的覺(jué)醒？

這個(gè)實(shí)驗的內容是：想象有一個(gè)瘋狂科學(xué)家把你的大腦從你的體內取出，放在某種生命維持液體中。大腦上插著(zhù)電極，電極連到一臺能產(chǎn)生圖像和感官信號的電腦上。因為你獲取的所有關(guān)于這個(gè)世界的信息都是通過(guò)你的大腦來(lái)處理的，這臺電腦就有能力模擬你的日常體驗。如果這確實(shí)可能的話(huà)，你要如何來(lái)證明你周?chē)氖澜缡钦鎸?shí)的，而不是由一臺電腦產(chǎn)生的某種模擬環(huán)境？

強人工智能是人類(lèi)發(fā)展的重要里程碑，形式不重要，也許不是量子計算機，沒(méi)有實(shí)體，也許是一種意識場(chǎng)，如同特斯拉的無(wú)線(xiàn)能量傳輸。

七、超驗駭客

有一次坐飛機時(shí)候看過(guò)一部電影，《超驗駭客》，這個(gè)與開(kāi)頭提到的科幻故事有些類(lèi)似，天才科學(xué)家威爾的意識數據化上傳到智能電腦中。奇妙而幸運的是，成功在虛擬世界中復生，他進(jìn)入任何一個(gè)電腦系統獲取信息，可以監控任何一個(gè)角落，他知曉一切，并且發(fā)明新的納米技術(shù)——修復受損細胞、增強再生能力，治愈一切殘疾。最后把思想復制到別人腦中，而這些肉身可以自我修復，成為威爾永恒的力量。

AlphaGo 與李世石之戰：挑戰人類(lèi)極限還是機器學(xué)習的覺(jué)醒？

這個(gè)片子細微之處在于當被問(wèn)道是否要毀滅全世界，威爾答曰：不是。我只是超驗他們。電影的英文名 Transcendence，翻譯過(guò)來(lái)是 “超越”，其另一個(gè)涵義是宗教方面的 “超然性”，相信電影用的是后一種釋義，Transcendence 代表這對神的超越，也就是凌駕于造物主之上，說(shuō)白了，就是讓威爾變得比造物主更加牛逼。

八、機器人三定律

AlphaGo 與李世石之戰：挑戰人類(lèi)極限還是機器學(xué)習的覺(jué)醒？

機器人會(huì )不會(huì )統治人類(lèi)乃至消滅人類(lèi)？阿西莫夫提了三定律以后又加了第零定律：機器人不得傷害人類(lèi)整體，或因不作為使人類(lèi)整體受到傷害。在我看來(lái)，這條加得大有問(wèn)題。前三條其實(shí)沒(méi)什么用處，阿西莫夫也意識到了。他賦予機器人保護人類(lèi)的責任，如果機器又具備足夠的武力，那么必然出現的情況就是，機器根據其不成熟的智能，判斷為了人類(lèi)整體必須消滅一部分壞人，這時(shí)候所有擋在它路上的人都會(huì )被當成壞人，必須消滅掉。在這里用了 “必然” 一詞，這是因為理性永遠不能窮盡世間萬(wàn)物的規律。哥德?tīng)柖ɡ碚f(shuō)了，任何蘊含算術(shù)的系統，就會(huì )在系統內碰到無(wú)法證明的命題。機器只會(huì )根據概率高低做一些判斷，取最大可能性，但這樣不是人類(lèi)思考和推理方式。

我是符合邏輯的選擇。它計算出了我有 45%的概率生還，但是薩拉只有 11%。她也是一個(gè)人的孩子，11%也許夠了。每個(gè)人類(lèi)都知道怎么在警察和 12 歲的小女孩之間抉擇，但是機器人不會(huì )。 ——戴爾·斯普納（電影 機器公敵 中的警探）

那么應該怎樣約束機器？有一條就是絕對服從人類(lèi)命令。要是給壞人控制怎么辦，這就是人與人之間的問(wèn)題，而不是人與機器了。

九、虛擬現實(shí)和超越現實(shí)

大家認為這張圖中到底左邊藥丸是紅色，還是右邊是紅色？

AlphaGo 與李世石之戰：挑戰人類(lèi)極限還是機器學(xué)習的覺(jué)醒？

如果我把背景去掉，你就發(fā)現藥丸顏色是一樣的，但既不是紅色也不是藍色，所以你的視覺(jué)欺騙了你。就是說(shuō)周?chē)氖澜缡怯勺约旱念^腦創(chuàng )造出來(lái)的。（reality is created by mind)，當我們在生下來(lái)通過(guò)視覺(jué)來(lái)學(xué)習外在世界的表征，在大腦皮層建立映射，就 “看到了” 東西。

AlphaGo 與李世石之戰：挑戰人類(lèi)極限還是機器學(xué)習的覺(jué)醒？

虛擬現實(shí)，增強現實(shí)當下的科技發(fā)展熱點(diǎn)，技術(shù)方面很快就要成熟了，之前筆者也發(fā)過(guò)《AR 技術(shù)不得不說(shuō)的秘密》，筆者最近看了這本心理學(xué)的書(shū)（作者斯坦福大學(xué)虛擬人機交互實(shí)驗室創(chuàng )辦人 Jeremy Bailenson）。

AlphaGo 與李世石之戰：挑戰人類(lèi)極限還是機器學(xué)習的覺(jué)醒？

作者講一件事情：其實(shí)我們所看到的東西，并不一定都是現實(shí)。首先，很多層面的現實(shí)，是人類(lèi)的感覺(jué)器官無(wú)法捕捉到的，例如，我們看不到紅外線(xiàn)，我們聞不到一氧化碳。并且，人們接收到的感官刺激的質(zhì)量——天空的顏色、玫瑰的香味、砂紙的觸感、鋼琴上彈出的低音 C——對每個(gè)人來(lái)說(shuō)并非完全一樣。所以，包括赫胥黎在內的許多科學(xué)家、作家和哲學(xué)家，到宗教領(lǐng)袖們，都認為所有感覺(jué)實(shí)際上只不過(guò)是擁有一些特質(zhì)的幻覺(jué)而已。

可以說(shuō)我們所講的現實(shí)，往往只是我們意識到的現實(shí)，它有時(shí)候只是現實(shí)的子集，有的時(shí)候，則是經(jīng)過(guò)意識加工、偏離現實(shí)的幻象。

十、哪個(gè)是我，哪個(gè)是我的 Avatar？

AlphaGo 與李世石之戰：挑戰人類(lèi)極限還是機器學(xué)習的覺(jué)醒？

虛擬鏡子里的自己

書(shū)里面提到有兩個(gè)你，虛擬現實(shí)中的你，一個(gè)是 online 模式，還有一個(gè)是 offline 模式。虛擬世界中的人物一般有兩類(lèi)：一種是屏幕背后有真人操縱的角色，可稱(chēng)之為 “化身”（阿凡達）；另一種是由計算機算法生成的角色，叫代理（agent）。如果沒(méi)有 “實(shí)體的接觸”，一般人很難判斷屏幕的對面究竟是化身還是代理，也許憑一些小的細節就會(huì )把對方當做真人（聯(lián)想到蘋(píng)果手機中的 Siri，或者微軟研究院做的智能助手小冰）。

十一、那么問(wèn)題來(lái)了

哲學(xué)拷問(wèn)，究竟什么是虛擬，什么是現實(shí)？究竟如何才能知道什么是真實(shí)？現實(shí)止于哪里，虛擬開(kāi)始于哪里？可以讓自己在另一個(gè)世界中時(shí)間旅行？宇宙到底有沒(méi)有時(shí)間，還是只是我們定義自己的存在而假想的概念？

AlphaGo 與李世石之戰：挑戰人類(lèi)極限還是機器學(xué)習的覺(jué)醒？

我思故我在

“你自己可以欺騙你自己，你看到的信息是由頭腦決定的，你怎么去解釋。從 “心靜自然涼” 到笛卡爾 “我思故我在”，是意識主義的進(jìn)階。前者只是強調意識可以影響肉體，后者則完全否認了肉體決定意識的觀(guān)點(diǎn)，它認為人的思想才是一切物質(zhì)的基礎，失去了思想的身體就是行尸走肉，不具有任何意義。有個(gè)玄幻小說(shuō)，作者普遍認為人的靈魂是一組記憶碼，本身?yè)碛袠O其強大的能量，反而是肉體的存在束縛了靈魂的力量，作者甚至幻想具有高度文明的外星人已經(jīng)脫離了形體，全是一組組含有超多信息量的代碼，僅靠 “思想” 就可以完成一切行為。” －－來(lái)自于《黑客帝國》影評

你選擇紅色藥丸還是藍色藥丸？

影片黑客帝國拋出了這樣一個(gè)令人深思的問(wèn)題。如果選擇藍色的藥片僅僅是讓生活像以前一樣繼續。如果去拿紅色的藥片，警告說(shuō)：“記住，我要告訴你的只有一樣東西——真相。” 紅色藥片象征著(zhù)風(fēng)險，懷疑和恐懼。也許你的生活和世界押在一個(gè)從未體驗過(guò)的上面。在人類(lèi)歷史上許多人都已為此提出疑問(wèn)或進(jìn)行探究，他們中的大多數并非科學(xué)家、醫生或哲學(xué)家，而僅僅是愛(ài)問(wèn) “怎么了” 或 “為什么” 的普通人，而這些好奇心最終引領(lǐng)我們發(fā)現真理，推動(dòng)科技和社會(huì )前進(jìn)。

十二、夢(mèng)想與奔跑

上面的哲學(xué)思辨也許有杞人憂(yōu)天，或者不切實(shí)際，那么我們仰望天空的同時(shí)，當下要怎么做？路在腳下，飛不了就跑吧，我還是拿田博士在《2015年 末總結 —遠東軼事》說(shuō)到的作為激勵：

在我有時(shí)候會(huì )問(wèn)自己：“我是不是背棄了夢(mèng)想？” 我想除了我自己，任何人都不會(huì )給我答案，任何評論也不具效力。我記得有人問(wèn)過(guò)，如果夢(mèng)想從踐行的一開(kāi)始，就在不自覺(jué)地向現實(shí)妥協(xié)，那樣的夢(mèng)想還是最初的夢(mèng)想么？其實(shí)，這樣的問(wèn)題沒(méi)什么可糾結的，因為世界從來(lái)就不是二元的，夢(mèng)想和現實(shí)，如同高懸的日月，日月 之間，有一條灰色的路，在自己腳下蜿蜒曲折，繞過(guò)各種險阻，一直向前。

而我能做的，只是要在奔跑時(shí)，不停提醒自己，還記得 “夢(mèng)想” 這個(gè)詞的含義。

人工智能概念股：埃斯頓、科大智能、漢王科技、江南化工、華東數控、和而泰、中科曙光、永創(chuàng )智能、北京君正、通富微電、永創(chuàng )智能、勁拓股份。