3月1日，英國《衛報》網站近日刊登了一篇題為《這位人工智能天才能防止人工智能技術失控嗎》《The superhero of artificial intelligence: can this genius keep it in check? 》，作者是Clemency Burton-Hill。
下面是文章的主要內容。
德米斯·哈薩比斯(Demis Hassabis)有著溫和的風度和謙遜的面容，但當他告訴我說，他正在致力于這樣一個使命——“解答智能問題，然后用它來解答一切問題”，他顯得很嚴肅。這話從其他任何人嘴里說出來都是可笑的，但從他嘴里說出來不一樣。哈薩比斯是一位國際象棋大師，也是一位視頻游戲設計師，他創辦的人工智能創業公司DeepMind在2014年被谷歌以6.25億美元的價格收購。他出生于一個移民家庭，擁有劍橋大學和倫敦大學的計算機科學和認知神經科學學位。哈薩比斯的同事認為他是一名“有遠見”的管理者，哈薩比斯認為自己已經找到一種“進行高效科學研究”的方法，并宣稱自己正在領導一個“21世紀的阿波羅計劃”。哈薩比斯相貌很平常，走在大街上絲毫沒有回頭率，但互聯網創始人蒂姆·伯納斯-李（Tim Berners-Lee）將他稱為這個星球上最聰明的人之一。
人工智能（AI）已經走進人們的生活，許多人都在使用蘋果或谷歌的語音助手。不久以后，谷歌的產品必將從哈薩比斯的研究中獲益，產品個性化、搜索、YouTube、語音和面部識別領域的改進都與“AI”有關。從長遠來看，哈薩比斯正在研究的技術不僅僅與情緒機器人或智能手機有關，其受益者不僅僅是谷歌，也不僅僅是Facebook、微軟、蘋果等投入巨資參與人工智能產品研發競賽的大公司。它關乎我們能夠想象和不能想象的一切。
這聽起來很嚇人，確實如此。大多數AI系統是“狹隘的”，它們只能完成一種特殊的任務。所以，IBM的深藍電腦可以擊敗國際象棋冠軍卡斯帕羅夫，但在面對畫圈打叉這種簡單的游戲時連一個三歲小孩都不如。 而哈薩比斯從人類的大腦獲得靈感，并試圖建立第一個“通用學習機器”，即一套靈活、自適應性的算法，它可以像生物系統那樣學習，從零開始完成任何任務，除了原始數據之外不需要任何別的幫助。
這就是人工通用智能（AGI），其重點是“通用”。在他的未來愿景中，超級智能機器將能夠與人類專家協作解決幾乎所有問題。“癌癥、氣候變化、能源，基因組學、宏觀經濟學、金融系統、物理，許多我們想要掌握的學科越來越復雜。”他說，“即使是最聰明的人，窮期一生也難以掌握其中一個領域。我們如何通過篩選泛濫的數據得出合理的觀點？我們可以將AGI看作一個能夠自動將非結構化信息轉化為可用知識的過程。我們正在努力研究的是一種可以解決任何問題的超級解決方案。
這種超級智能機器的出現也許還需要幾十年之久，但它似乎離我們越來越近。2015年2月，DeepMind的一篇論文世界成為頂級科學雜志《自然》的封面文章，該文宣稱“能夠自學的AI軟件在視頻游戲中已經達到人類的水平。”在這個“終端到終端”的學習系統中，一種被稱為Deep-Q Network的算法已經學會如何理解輸入端的動作，并能作出正確的決定（它在一些經典的雅達利2600游戲——包括《太空侵略者》、拳擊和乒乓球游戲——中達到精通水平。）這是一個震撼世界的技術突破。
上個月，DeepMind的另一篇論文又登上了《自然》雜志的封面。在這樣短的時間里連續在《自然》雜志上發表兩篇封面文章，這本身就是一個了不起的成就。這一次，DeepMind的試驗走得更遠，它向古老的競技游戲圍棋發起了挑戰。圍棋的歷史超過2500年，中國孔子的著作中曾提到過這種游戲。圍棋的著法變化無窮，其變數甚至超過宇宙中原子的移動。國際象棋的所有變化可以計算出來，但圍棋不能。更難的是，編程者也不可能寫出圍棋的評估函數。相反，圍棋需要一種類似于“直覺”的東西，當圍棋棋手被問到他們下出一步棋的原因時，他們往往會這么說：“感覺。”
重大里程碑
出于顯而易見的原因，電腦一直無法進行這種類似于直覺的判斷。圍棋也因此長期以來被認為是AI“最大的挑戰”之一。大多數研究人員預計，要研究出能夠破解圍棋的電腦至少還需要十年。
但是，DeepMind創立的新人工算法AlphaGo曾在去年秋天的一次秘密比賽中以5比0戰績擊敗了歐洲圍棋冠軍范輝（Fan Hui）。AlphaGo還將在今年三月份挑戰世界圍棋冠軍李世石。英國帝國理工學院(Imperial College)認知機器人學教授Murray Shanahan將AlphaGo的成功稱為“一個驚人的成就”，超人類主義哲學家Nick Bostrom也將之稱為“一個重大里程碑”。Nick Bostrom認為，如果AGI能夠最終完成，它的影響將是無與倫比的。
“是的，它很酷。”哈薩比斯同意。“圍棋是一種終極游戲：它是游戲的巔峰之作，是最智慧的游戲。它的迷人的、美麗的。我們感到興奮的不僅僅是我們已經精通了這種游戲，而且我們可以通過一套驚人而有趣的算法來處理它。”他認為圍棋是一門藝術，而不是一門科學。“AlphaGo能夠以人類的方式學習圍棋，并在不斷的對局中變得越來越厲害，就像我們人類一樣。”AlphaGo是他最激動人心的研究成果。“它超出了任何人的想象，”他興奮地說，“但對我們來說，最重要的方面是，它不是一種采用人工規則的專家系統。它能夠使用通用機器學習技術進行自我教育，最終精通這門游戲。最終，我們希望將這些技術應用于諸如氣候建模或復雜的疾病分析等重要的現實問題。所以，想象一下它下一步的進展，這讓人感到非常興奮……”
我與哈薩比斯首次相遇是在2014年夏天，即谷歌收購DeepMind幾個月之后。從那以后，我觀察他在各種環境中工作。在過去八個月里，我在三個不同場合正式采訪過他。在那段時間里，我看著他從谷歌的AI天才發展成一個引人注目的技術傳播者。他找到了一種有效的方式來向非科技工作者描述他的工作。DeepMind的研究成果將新舊人工智能技術結合在一起，例如，DeepMind的研究人員將傳統的“樹形檢索”和現代的“深度神經網絡”結合起來分析圍棋的變化。同時，DeepMind系統也將AI研究的不同領域結合在一起。
在DeepQ中，他們將深度神經網絡和“強化學習（reinforcement-learning）”機制結合在一起。“強化學習”是所有動物的學習方式，通過大腦的多巴胺獎勵系統發生作用。而AlphaGo又向前邁出了一步，它加上了另一個更深度的、用于處理長遠規劃的強化學習系統。接下來，他們將會加入更多功能，直到整合所有重大的人工智能成果。哈薩比斯說：“關鍵是結合所有這些不同的領域，因為我們感興趣的是可以將從一個領域中學到的知識應用到另一個領域的算法。”
哈薩比斯自己就是一個跨領域的天才。從他的簡歷來看，他的好奇心很廣泛，包括棋盤游戲、視頻游戲、電腦編程、認知神經科學，一直到人工智能。事實上，他今天的位置是一系列光輝成就的結果，他是一個百年一遇的天才。他8歲編寫自己的電腦游戲，13歲成為國際象棋大師，17歲開發出最早的人工智能視頻游戲Theme Park，20成為劍橋大學獲得兩門學科優等成績的學生，2011年創立DeepMind。他還獲得過智力奧運會精英項目“Pentamind”的五次冠軍，創下世界紀錄。
“我很容易感到無聊。世界是如此有趣，有這么多很酷的事情可做。”他說。“如果我是一個體育運動員，我希望成為一個十項全能選手”。
現在，DeepMind公司擁有近200名員工，他們來自超過45個國家。哈薩比斯決定將自己的公司總部保留在英國，盡管谷歌希望將它遷往硅谷。
“我是在倫敦長大的。”他說。“我非常喜歡這個城市。我堅持住在這里的理由是：我覺得倫敦沒有理由不能擁有一個世界級的AI研究機構。
除了哈薩比斯之外，全球還有很多頂級科學家和科技巨頭在關注AI的發展，如斯蒂芬·霍金、比爾·蓋茨、伊隆·馬斯克、楊·塔里安（Jaan Tallinn）等。與哈薩比斯不同的是，這些巨頭對AI的發展表示很大的擔憂。他們的擔憂包括AGI武器和“技術奇異點（technological singularity）”的幽靈——它將導致“智能爆炸”，屆時機器將能夠不斷地進行自我完善，超越人腦的智力，從而脫離人類的控制。如果這樣的超級智能災難最后發生了，人類將悔恨自己當初為什么沒有退出AI開發競賽。霍金在最近的一次談話中表示：“AI的成功創建，將是人類歷史上最大的事件。不幸的是，它也可能是最后一個歷史事件。”
“好吧，我希望不會這樣。”哈薩比斯說。在他看來，關于AGI的危言聳聽不僅忽略了它可能在不久之后為人類帶來的福祉，而且不合時宜。“要創建達到人腦水平的人工智能，我們還需要幾十年時間”他提醒我說，“我們還處在樓梯的第一級上，我們的AI系統現在還只能玩游戲。”他承認我們現在也有應該考慮的風險，但堅稱這些風險不是像科幻小說中描寫的那樣：超級智能機器無情地驅逐人類。
此外，他堅持認為，在減輕AGI的潛在危險方面，DeepMind也是領先的。該公司的研究雖然不像阿波羅計劃那樣受到官方審查，但它的運作相當透明。DeepMind會在網上公開技術代碼，而且谷歌收購該公司的一個條件是禁止將它的技術運用在軍事或情報領域。哈薩比斯和他的同事們積極推動了2015年在波多黎各舉行的一個關于AI的開創性會議，并在公開信上簽名承諾將AI技術用在有益的事情上，“避免潛在的陷阱”。最近，他們還推動在紐約舉行的另一個類似會議。DeepMind公司內部的倫理委員會和顧問委員會目前已經建立。“哈薩比斯完全熟悉有關AI安全問題的爭論，”帝國理工學院認知機器人學教授穆雷·沙納漢(Murray Shanahan)說。“他肯定不是幼稚，他也沒有把頭埋進沙灘里。”
“在推動關于安全問題的對話方面，DeepMind一直是行業中的領導者。”穆雷說，“從長期來看，研究者需要解決這些挑戰。”
我詢問哈薩比斯主要的長期挑戰是什么。“隨著這些AI系統變得越來越復雜，我們需要思考如何優化它們。”他回答道，“這項技術本身是中性的，但它是一個學習系統，因此它不可避免地會打上設計者的價值體系和文化的印記，所以我們必須非常仔細地考慮價值觀問題。”
關于超級智能的問題，他說：“我們需要確保我們的研究目標是有確定性的，確保沒有什么模糊不清的地方，它們將隨著時間的推移趨于穩定。但是，在我們所有的系統中，最高目標仍然會由它的設計師設定。系統可能會拿出自己的方式去實現這一目標，但它并不能創建自己的目標。””
他的語氣讓人放心。“你看，這些都是有趣的、難以應對的挑戰。如同所有強大的新技術一樣，AI技術的使用必須符合倫理和負責任，這就是為什么我們正在積極呼吁辯論，所以，當那個時刻到來時，我們已經做好準備。”
什么時刻？超級智能機器出現的時刻，或當它們超越人類的時刻？他笑了。“不，不，不，我的意思是在那之前的某個時刻！”（我覺得他是在開玩笑，但在2011年他的同事肖恩·萊格曾說過：“我認為，人類很可能會滅絕，技術將有可能起到推動作用。）哈薩比斯補充說：“我的意思是，當這些系統不僅能玩游戲而且變得更加強大的時刻，當它們的能力超過解決如醫療保健等重要現實問題的時刻。然后，我們需要確保我們知道它們的能力將達到什么地步。“他笑著看著我。“那時，我們應該停下來。”
哈薩比斯是友好的，非常有說服力。他所說的一切似乎是合理的，并沒有顯得傲慢。也許AGI仍將在我們的控制之下。但很多人仍持懷疑態度。“很顯然，如果一種人工智能在所有方面大大超過人腦，那它就不再是‘輔助設備’了。”特斯拉創始人馬斯克爭論道。他最近宣稱人工智能技術的發展是在“召喚惡魔”。 馬斯克是DeepMind的原始投資者之一，但他不是為了錢。他對我說：“我把錢投入DeepMind的唯一原因是為了更好地了解AI的發展和危險。如果我們在研究AI時不夠謹慎，如果發生了災難，銀行存款沒有任何意義。”
“馬斯克是全球最聰明的人之一，與他交談令人吃驚。”哈薩比斯表示。“實際上我覺得像他這樣的人僅僅因為AI是一件大事而參與AI的投資是一件很酷的事情。”他說。但是，當其他領域科學家隨意公開發表針對AI的批評時，哈薩比斯顯得有些激動。
“總的來說，我發現那些AI行業外部人士沒有充分理解AI。他們往往并沒有與很多AI專家交談過，所以他們的思想實驗會失控，因為它們是基于不正確的假設。”他再次提到自己的內部倫理委員會和顧問委員會，它們的成員是科學界和哲學界的領軍人物，這些人將監視AGI技術未來的應用。哈薩比斯堅定地相信自己目前所做的事情。“因為以前沒有人嘗試過這樣的技術，我們有很多東西需要探索，現在還不是因為公眾討論而停下來的時候。”他說，“在這個階段，我們要做的是加快研究速度，研究出實際的算法和應用。”
哈薩比斯最近在劍橋與霍金進行了一次私人會面。“與他會見本身就是一個夢幻般的榮譽。”他興奮地說，并拿出他的一張自拍照。“按照計劃，我們只有一個小時的時間交談，但他提了那么多問題，我們最后談了四個小時。他錯過了午餐，所以他的陪同人員并不十分樂意我和他在一起。“
哈薩比斯指出，霍金在與他會面之后，一直沒有在媒體上發表“任何有關AI的激烈言論”。最奇怪的是，在BBC的Reith講座上，霍金也沒有將人工智能列入“人類的潛在威脅”名單。哈薩比斯表示，聽取更多關于AI系統的言論也許是有幫助的。”他說，“如果你理解了AI工程，這一切都顯得更能理解。”
但是，他是否真的相信霍金已經改變了觀點？“是的，我想他很放心。他很有幽默感。在我離開之前，我對他說：‘所以，你覺得怎樣呢？’他在鍵盤上輸入：‘我祝你好運。’他的眼睛閃著亮光，補充說：‘但不要太多’。”哈薩比斯笑著說，“我將這看成一場勝利。”