原文標(biāo)題：《OpenAI 剛?cè)谫Y 100 億，DeepMind 急了？CEO 接受《時代》專訪，呼吁 AI 圈減少科研競賽！最近，時代雜志邀 Deepmind CEO 兼創(chuàng)始人 Demis Hassabis 發(fā)表了他對當(dāng)下 AI 發(fā)展的看法和擔(dān)憂但貌似網(wǎng)友不怎么賬。DeepMind 一直是谷歌的驕傲。作為谷歌母公 Alphabet 的子公司，DeepMind 是世界領(lǐng)先的人工智能實(shí)室之一。成立 13 年，它交出的成績單，十分亮比翼。不不說，DeepMind 在算法上是有點(diǎn)東西的。2022 年 7 月，AlphaFold 大爆。2022 年 10 月，DeepMind 研發(fā)的 AlphaTensor 登上了自然雜志封面，這是第一用于為矩陣乘法等本計算任務(wù)發(fā)現(xiàn)新、高效、正確算法 AI 系統(tǒng)?，F(xiàn)在，所有人都意識到，AI 正處于時代的「風(fēng)口浪尖」。ChatGPT 雖然寫作能力媲美人類但很難規(guī)避掉訓(xùn)練據(jù)中的錯誤信息和毒偏見。更可怕的，現(xiàn)在計算能力已變得越來越低廉，AI 對普通大眾的門檻越來越低。DeepMind CEO Demis Hassabis 對 AI 發(fā)展的趨勢感到擔(dān)憂，他擔(dān)心，AI 會被用于制造可怕的工具，破壞人的文明。不過，也網(wǎng)友吐槽，「我很賞他的立場，但是競爭對手試圖盡可快地朝著同一個目前進(jìn)時，這些 AI 開發(fā)公司怎么能不加快行動呢？」還網(wǎng)友說，他是想為趕 OpenAI 爭取時間 hhhhhh。DeepMind 的使命 —— 構(gòu)建通用人工智能 AGI接下來就讓我們看看，Hassabis 在這次的對話中，都透露了些重要信息。時代志專欄記者 BILLY PERRIGO 采訪了 Deepmind CEO 兼創(chuàng)始人 Demis Hassabis，探討了 DeepMind 的使命，以及如何構(gòu)建 AI，從而解決一些世界上最棘手的問。Demis Hassabis 站在螺旋樓梯的中間，視著他建造的大教，這座跨越三層樓 DNA 雕塑是 DeepMind 最近開設(shè)的倫敦總的核心46 歲的 Hassabis 一直致力于解決關(guān) AI 的永恒問題：AI 是什么？其中埋藏著哪些可能？人類如何從中獲更多能力？Hassabis 說他的團(tuán)隊一直在努力實(shí)現(xiàn)個更宏偉的目標(biāo)：個目標(biāo)是構(gòu)建一個夠自主思考、學(xué)習(xí)解決人類最棘手問的機(jī)器來實(shí)現(xiàn)通用工智能（AGI）。今天的人工智能是隘的、脆弱的，而根本不算智能。Hassabis 認(rèn)為，AGI 將成為一種劃時代的技術(shù)，像電力的利用一樣變?nèi)祟惿畹慕Y(jié)構(gòu)就連他自己也把推主頁的簽名改成了致力于 AGI，嘗試了解現(xiàn)實(shí)的基本質(zhì)」。但人工智能前景也伴隨著風(fēng)險研究人員構(gòu)建的設(shè)新藥的 AI 程序可以很容易制造出命的生化用品，大模訓(xùn)練的 AI 模型可能被仇恨言論利用。OpenAI 開發(fā)的爆款 ChatGPT 因其容易受到種族主義和誤信息的影響而受批評，小公司 Prisma Labs 也是如此，許多用戶抱怨 Lensa 將他們的圖像性感化，暴露出其訓(xùn)練據(jù)中的偏見。Prisma Labs 開發(fā)的 AI 增強(qiáng)自拍軟件 ——Lensa正是在這種不確定的氣氛中，Hassabis 同意接受這次的采訪，他日益增長的擔(dān)憂出嚴(yán)厲警告，「我議放緩 AI 前進(jìn)的速度，至少不要快」。就像 Facebook 用戶數(shù)量飆升至 30 億之時，大家都在歡雀躍，但當(dāng)虛假信、仇恨言論甚至煽種族滅絕開始出現(xiàn)平臺上時，也讓公措手不及。Hassabis 看到了人工智能發(fā)展的令人憂的趨勢，他說：工智能現(xiàn)在正處于口浪尖，能夠制造可能對人類文明造嚴(yán)重破壞的工具，敦促他的競爭對手以前更加謹(jǐn)慎，但多數(shù)人并沒有意識其中存在的危險性從國際象棋手到攪風(fēng)云的 CEO和其他同齡人不太一樣Hassabis12 歲時就已經(jīng)是世界排名第二的國際棋棋手，并提前一從高中畢業(yè)。Hassabis（左）9 歲時擔(dān)任英格蘭 11 歲以下國際象棋隊隊長他還在初時就已經(jīng)開始思考些改變?nèi)祟悮v史的問題，他說：我想解那些大問題，那通常會與哲學(xué)或物學(xué)領(lǐng)域相關(guān)的大的題，我認(rèn)為構(gòu)建 AI 將是回答其中一些問題的最快途萊山Hassabis 走進(jìn) Guildford 的 Bullfrog 視頻游戲工作室時只有 15 歲。他還參加了一家電子游戲雜志比賽，以贏得在著工作室實(shí)習(xí)的機(jī)會他設(shè)計的一個太空略者風(fēng)格的游戲還得了當(dāng)季銷售量第的成績。Bullfrog 的聯(lián)合創(chuàng)始人 Peter Molyneux 仍然記得第一次見到 Hassabis 的樣子，莫利紐克說：他看起來像指王里的精靈，這是個從他身邊走過，至都不會注意到的孩子，但他的眼中爍著智慧的光芒。去 Bullfrog 的圣誕晚會的公交車上一次偶然儵魚話中，這位少年迷了 Molyneux。他們談到了游戲的哲學(xué)，是什么讓利如此吸引人，以你是否可以將這些同的特征灌輸?shù)綑C(jī)中，那時他就知道個年輕人注定要成大事。邊讀博，邊軍游戲圈從劍橋大畢業(yè)后，Hassabis 回到 Bullfrog 幫助 Molyneux 開發(fā)了他迄今為止最受歡迎的游戲：Theme Park，一款玩家從上帝角經(jīng)營游樂場業(yè)務(wù)模擬游戲。在決定讀神經(jīng)科學(xué)博士學(xué)之前，Hassabis 繼續(xù)建立了自己的游戲公司。他了解大腦的算法層：不是微觀神經(jīng)元間的相互作用，而似乎產(chǎn)生人類強(qiáng)大能的更大結(jié)構(gòu)。思是宇宙中最難以捉的事物，從象棋到戲再到神經(jīng)科學(xué)，一生的經(jīng)歷和職業(yè)跡都為了發(fā)現(xiàn)其中奧秘。2013 年，DeepMind 成立第三年，谷歌來敲門了。一群谷高管乘坐私人飛機(jī)往倫敦，Hassabis 向他們展示了團(tuán)隊的作品 —— 訓(xùn)練玩電腦游戲 Breakout 的 AI 原型，這讓他們驚嘆不已。DeepMind 算法背后的標(biāo)志性技 —— 強(qiáng)化學(xué)習(xí)（Reinforced Learning），是谷歌當(dāng)時沒有做過的事情。它靈感來自人腦的學(xué)方式，這是 Hassabis 在他作為神經(jīng)科學(xué)家期間成的一種理解。AI 在游戲中的數(shù)百萬次訓(xùn)練，每次得分會得到獎勵，并通基于點(diǎn)的強(qiáng)化過程習(xí)最佳策略。Hassabis 和他的同事們堅信在游戲境中訓(xùn)練人工智能這種方法的好處給歌高管留下了深刻印象。「我立刻就上了他們，」領(lǐng)導(dǎo)次考察之旅的谷歌高級副總裁 Alan Eustace 說。目前，Hassabis 最愛的一款游戲名為 Polytopia。在這款策略游戲中，家的目標(biāo)是通過技進(jìn)步，將一個小村發(fā)展成為一個統(tǒng)治界的帝國。Hassabis 說，馬斯克也是這款游戲的絲。兩人最后一次談是在幾個月前，要聊的就是 Polytopia。雖然 Hassabis 為人謹(jǐn)慎，但很容易理解，為什么游能與他產(chǎn)生共鳴。仍然相信技術(shù)進(jìn)步質(zhì)上對人類有益。在資本主義制度下預(yù)測和減輕 AI 的風(fēng)險是可能的。科學(xué)和技術(shù)的進(jìn)步這就是文明的驅(qū)動，」他說。被馬斯拋棄但就在 DeepMind 不斷攀登新高度的時候，情開始變得復(fù)雜起。2015 年，其最早的兩位投資者億萬富翁彼得?泰和埃隆?馬斯克，過資助競爭對手初公司 OpenAI 象征性地背棄了 DeepMind。該實(shí)驗室隨后獲得微軟 10 億美元的資助，它也相信 AGI 的可能性，但對于如何實(shí)現(xiàn)這目標(biāo)有著截然不同理念。它對游戲沒么感興趣。它的大分研究都不是集中強(qiáng)化學(xué)習(xí)上，而是中在無監(jiān)督學(xué)習(xí)上這是一種不同的技，涉及從互聯(lián)網(wǎng)上取大量數(shù)據(jù)并將其過神經(jīng)網(wǎng)絡(luò)抽取。 DeepMind、谷歌和其他 AI 實(shí)驗室一直在閉門進(jìn)行類似研從從時，OpenAI 更愿意讓公眾使用其工具2022 年，DeepMind 推出了 DALL?E 2，可以生成幾乎任何可以想象到的搜詞的圖像，以及聊機(jī)器人 ChatGPT。由于這兩種工具都是根據(jù)從互聯(lián)上收集的數(shù)據(jù)進(jìn)行練的，因此它們受結(jié)構(gòu)性偏見和不準(zhǔn)的困擾。DALL?E 2 很可能將律師描繪成白人老頭將空姐描繪成年輕女，而 ChatGPT 則容易自信斷言虛假信息。但是盡管 Hassabis 呼吁放慢 AI 競賽的步伐，但 DeepMind 似乎也未能幸免于競爭壓力。2022 年初，該公司發(fā)布了更快引擎的藍(lán)圖這項名為 Chinchilla 的研究表明，許多業(yè)界前沿的模型訓(xùn)練效低下，并解釋了它如何能夠以相同水的計算能力提供更功能。Hassabis 說，DeepMind 的內(nèi)部道德委員會討論了發(fā)研究是否不道德，為它可能會讓不那謹(jǐn)慎的公司在沒有格保護(hù)的情況下發(fā)更強(qiáng)大的技術(shù)。人智能巨頭的道德紅置身其中，Hassabis 深知人工智能可能產(chǎn)生的危?！杆靼?AI 技術(shù)對社會影響深，他想在技術(shù)發(fā)明前就能有所了解，Eustace 說?！高@就像國際象。如何面對殘局？何預(yù)測二十步之后發(fā)展？」Eustace 向 Hassabis 承諾，谷歌也有同樣的擔(dān)憂兩者之間的利益一。Eustace 說，谷歌的使命是引所有人類的知識使之易于訪問，并終提高世界的智商谷歌前高級副總裁 Alan Eustace「我認(rèn)為這引起了他的共鳴。」2014 年，谷歌以約 5 億美元的價格收購了 DeepMind。Hassabis 拒絕了來自 Facebook 的更高報價。他說，其中一個原因，與 Meta 不同，谷歌「非常樂接受」DeepMind 劃定的道德紅線。Hassabis 希望，DeepMind 成為 Al 研究中安全和道德的代表。以身作，在這個充滿追求快更強(qiáng)的領(lǐng)域做好己。DeepMind 發(fā)布了反對不道德使用其技術(shù)鴖包監(jiān)視和武器化）的紅線」。但它卻沒阻止母公司谷歌，用自己搭建的 AI 系統(tǒng)，和五角大樓進(jìn)行科技合作。2021 年，Alphabet 結(jié)束了與 DeeMind 長達(dá)數(shù)年的談判。據(jù)談判結(jié)果，DeepMind 將保持其在 Alphabet 的現(xiàn)有地位，其未來工作將由計蒙高級技術(shù)審查委員監(jiān)督，其中包括兩 DeepMind 高管。Hassabis 并不否認(rèn) DeepMind 的「逃離谷歌」計，但沒有表示自己公司目前架構(gòu)的擔(dān)。但他補(bǔ)充說，自購以來，DeepMind 的道德結(jié)構(gòu)已經(jīng)「演變?yōu)楝F(xiàn)在樣子」。Hassabis 說，DeepMind 和 Alphabet 都致力于公共道德框，并從一開始就將全納入他們的工具DeepMind 有自己的內(nèi)部道德員會，即機(jī)構(gòu)審查員會（IRC），由公司所有部門的代組成，首席運(yùn)營官 Lila Ibrahim 擔(dān)任主席。DeepMind 首席運(yùn)營官 Lila IbrahimIbrahim 說，IRC 定期舉行會議，任何分歧都升級到 DeepMind 的執(zhí)行領(lǐng)導(dǎo)人做出最終決定。說，「我們的運(yùn)作分自由，有一個單的審查流程?！巩?dāng)問及如果 DeepMind 的領(lǐng)導(dǎo)團(tuán)隊不同意 Alphabet 高層的決定，或者公司的道「紅線」被越過會生什么時，Ibrahim 說：「我們還沒有遇到這個問?！笰lphaGo：震驚世界的人機(jī)戰(zhàn)在 DeepMind 總部大廳遠(yuǎn)處墻壁的玻璃柜中，著一塊涂有黑色涂的大方形木頭。這 DeepMind 第一次重大成功的紀(jì)念品。谷歌收購不久，該公司就為己設(shè)定了挑戰(zhàn)，即計一種算法，在圍中擊敗世界上最好棋手。當(dāng)時，國際棋早已被蠻力計算編程所征服，但圍要復(fù)雜得多；最好人工智能算法仍然法與頂級人類玩家提并論。DeepMind 以破解 Breakout 的方式解決了這個問。它建立了一個程，在通過觀察人類戲來學(xué)習(xí)游戲規(guī)則，它可以與自己進(jìn)數(shù)百萬次模擬對戰(zhàn)通過強(qiáng)化學(xué)習(xí)，算會自我更新，減少其更有可能輸?shù)舯?的決策的「權(quán)值」并增加使其更有可獲勝的「權(quán)值」。2016 年 3 月，名為 AlphaGo 的算法與世界頂級圍棋選手之一世石對決。AlphaGo 以四比一擊敗了他。敗北的李黑色記號筆在棋盤面潦草地簽下了自的簽名。2016 年，Hassabis 在韓國慶祝 DeepMind 戰(zhàn)勝圍棋選手李世石右）AGI 驅(qū)動的未來會是烏托邦嗎Hassabis 認(rèn)為，如果 AGI 創(chuàng)造財富的時代已經(jīng)到來，那白雉這些富應(yīng)該重新得到分?！肝艺J(rèn)為我們需確保盡可能多的人益 —— 最好是全人類?！顾矚g全基本收入（universal basic income）的想法。在理念，每個公民每月都從政府那里獲得津和基本服務(wù)。同時國家會保障公民交或住房等基本生活平。Hassabis 說，AGI 驅(qū)動的未來應(yīng)該比當(dāng)世界更加注重財富等，但他沒有解釋系統(tǒng)將如何運(yùn)作。如果我們生活在一極度富足的世界，么留給不平等的空也越小，不平等產(chǎn)的概率也會更低。此，如果 AGI 的愿景得以實(shí)現(xiàn)，就是它的積極影響一。」然而，鑒于去幾十年，科技行極速增長與財富不等的大幅加劇同時生，其他人對這種托邦式的未來并沒那么樂觀。播客節(jié) Tech Won't Save Us 的主持人 Paris Marx 說：「大公司，包 DeepMind 的母公司，首要任務(wù)是確保為股東創(chuàng)最大價值。如果不獲利，這些公司根不會專注于解決氣危機(jī)。當(dāng)公司的全目標(biāo)是為股東積累多財富時，他們肯對重新分配財富不興趣。」「我們?nèi)?的不是解決氣候危或重新分配財富的術(shù)，」Marx 說?！肝覀?nèi)狈Φ氖?治意愿。目前來說很難看出一項新技的誕生將如何產(chǎn)生治意愿，從而實(shí)現(xiàn)正的社會轉(zhuǎn)型?！?回 DeepMind 的螺旋樓梯，樓梯中間，擺放著一巨大的 DNA 雕塑。雕塑前的木凳有一個告知：「請觸碰，」上面寫著「它非常脆弱，很易損壞?！箙⒖假Y：https://time.com/6246119/demis-hassabis-deepmind-interview/https://www.youtube.com/watch?v=Gfr50f6ZBvo本文來自微信公眾號：新智元 （ID：AI_era）