腦科學(xué)與AI交叉領(lǐng)域中的開放問題及預(yù)測

(相關(guān)資料圖)

我們需要操作性定義。撰文 | 顧凡及（復(fù)旦大學(xué)生命科學(xué)學(xué)院）2019年年底，卡爾·施拉根霍夫博士（Karl Schlagenhauf）與我合作出版了一套三卷本《腦與人工智能》系列套書[1-3]。我們兩位作者成長于完全不同的文化，且素未謀面：卡爾是一名對(duì)腦感興趣的德國信息技術(shù)工程師和企業(yè)家，而我是一名對(duì)人工智能（AI）懷有興趣（雖然是名外行）的中國大學(xué)的腦科學(xué)教授和科普作家。2013年初，一位共同的朋友，神經(jīng)科學(xué)家漢斯·布勞恩（Hans Braun）教授介紹我們相識(shí)，此后我們就一直不斷通信，討論腦研究和AI方面的一些開放問題、現(xiàn)狀評(píng)估和發(fā)展趨勢，討論怎樣看待兩者的關(guān)系以及媒體有關(guān)這些領(lǐng)域的“吸睛”報(bào)道，直至討論科學(xué)方法論和相關(guān)的科學(xué)組織。這套書就是我們的重要通信記錄集合，即使不說是絕無僅有的話，也還是很獨(dú)特的。

《腦與人工智能》系列，上海教育出版社2019年我們這樣極其不同的兩個(gè)人得以維持并不斷加深友誼，源于對(duì)腦科學(xué)和信息科學(xué)交叉領(lǐng)域的共同興趣。并且，我們都喜歡理性思考的方法，而且總是渴望追究事物的原因和理由，而不是隨大流或囿于學(xué)究式的思維。由于經(jīng)歷的不同，我們的觀點(diǎn)也有明顯差異，這時(shí)我們會(huì)發(fā)揚(yáng)科學(xué)爭論的古老傳統(tǒng)來尋求解決。在某些問題上，我們達(dá)成了共識(shí)，而在另一些問題上仍然存在分歧，甚至還有某些問題根本就找不到答案。一些新進(jìn)展支持了我們兩人或者其中一人的看法，并鼓勵(lì)我們進(jìn)一步討論。一些進(jìn)展甚至超出了我們最好的期望，或者提示我們或其中一人的觀點(diǎn)錯(cuò)了，因此我們不得不重新考慮，并從錯(cuò)誤中吸取教訓(xùn)。所有這些都激發(fā)了我們的熱情，重新聚焦要討論的問題，并不斷開啟新的爭論。這些爭論并非是要壓倒對(duì)方以顯示自己的高明，而是為了探索事實(shí)的真相。對(duì)我們來說不幸的，同時(shí)也是幸運(yùn)的，是這套書的出版時(shí)機(jī)——2019年底。在接下來的三年多時(shí)光中，人類遇到了兩件大事——橫掃世界的新冠大流行和ChatGPT橫空出世——這都是我們當(dāng)初交談時(shí)未能預(yù)見到的。這些事無疑分散了讀者對(duì)我們書的注意，同時(shí)也是對(duì)我們書中主要思想的嚴(yán)苛考驗(yàn)。在此期間，在腦研究和信息技術(shù)的交叉領(lǐng)域中也發(fā)生了一些引起轟動(dòng)的事件——雖然不能和上述兩件大事相提并論——如馬斯克的神經(jīng)聯(lián)結(jié)（Neuralink）腦機(jī)接口和霍金斯（Jeff Hawkings）的“千腦智能”理論。而引發(fā)我們討論的歐盟人腦計(jì)劃也即將到期，是非功過都到了將要蓋棺論定的時(shí)候。令我們感到寬慰的是，雖然我們像絕大多數(shù)人一樣，未能預(yù)見到新冠大流行和ChatGPT這樣的具體事件，但是回顧當(dāng)初書中對(duì)腦研究和AI中存在的開放問題、現(xiàn)狀評(píng)估和發(fā)展趨勢的總體看法并沒有重大失誤。2023年5月21日，我們這套書被授予“2022年上?？破战逃齽?chuàng)新獎(jiǎng)成果獎(jiǎng)（圖書類）”一等獎(jiǎng)，可以看作為社會(huì)公眾和專家對(duì)我們這些觀點(diǎn)某種程度的肯定。在這樣的特殊時(shí)刻，翻出2018年年中三本書剛剛脫稿時(shí)我自己記下的“幾個(gè)開放問題”和“幾點(diǎn)預(yù)期”，看看當(dāng)時(shí)的這些認(rèn)識(shí)是否經(jīng)得起這五年里驚濤駭浪的考驗(yàn)，還是很有意思的。當(dāng)然，這并非說我們的看法就一定都對(duì)，我們寫那套書的目的并非是給讀者什么定論，而只是提出問題，擺出自己的觀點(diǎn)和論據(jù)，重要的是希望引導(dǎo)讀者加入我們的思考和討論。即使完稿已是五年前的事，今天再重新審視這些問題并仔細(xì)思考，依舊不算過時(shí)。下面列出的內(nèi)容不管是對(duì)是錯(cuò)，都是當(dāng)時(shí)的原話。幾個(gè)開放問題1. 腦究竟是一種信息處理系統(tǒng)還是一種提取意義的機(jī)器？2. 腦的功能基元是什么？（離子通道？突觸？神經(jīng)元？功能柱？…）3. 對(duì)非陳述性記憶所得的研究結(jié)果可以都推廣到陳述性記憶嗎？4. 腦中的計(jì)算是什么意思？神經(jīng)元能進(jìn)行圖靈意義下的計(jì)算嗎？5. 智能是什么？智能與技能，智能與學(xué)習(xí)能力的關(guān)系究竟是什么？6. 意識(shí)和意識(shí)的內(nèi)容是一回事，還是兩回事？7. 查默斯的“意識(shí)困難問題”是意識(shí)研究的瓶頸還是一個(gè)偽問題？8. 從原則上來說是否有可能做到心智上傳？9. 有沒有自由意志？如何解決自由意志和決定論的矛盾？10. 大型腦計(jì)劃能解決的問題和不能解決的問題。11. 是否有可能對(duì)全腦進(jìn)行逆向工程來揭開腦的奧秘，和解決人工智能的終極問題？12. 工程是否應(yīng)該或可能復(fù)制大自然進(jìn)化的一切策略？有沒有腦樣計(jì)算（brain-like computing）？13. 人工智能與腦研究的確切關(guān)系是什么？14. 仿神經(jīng)芯片（neuromorphic chips）的前途如何？15. 機(jī)器翻譯能做到哪一步？16. 有可能在可預(yù)見的未來實(shí)現(xiàn)強(qiáng)人工智能嗎？如果能的話，應(yīng)該不應(yīng)該研發(fā)強(qiáng)人工智能？17. 有沒有“奇點(diǎn)”這一天？“奇點(diǎn)臨近”的話可信嗎？18. 在馮諾伊曼架構(gòu)下，靠增強(qiáng)計(jì)算機(jī)能力能實(shí)現(xiàn)腦的一切功能嗎？幾點(diǎn)預(yù)期技術(shù)將比腦科學(xué)發(fā)展得更快，但在可預(yù)期的未來，不會(huì)出現(xiàn)“奇點(diǎn)”。技術(shù)將從腦科學(xué)研究中尋求啟發(fā)，但是不能拷貝腦。這是因?yàn)榇笞匀缓凸こ處熕捎玫姆椒ㄓ懈拘缘牟煌?。因此腦研究與工程技術(shù)依然會(huì)平行發(fā)展，但是會(huì)相互借鑒。建議把Brain-inspired的中文改為“腦啟發(fā)”代替“類腦”以避免誤解?！按罂茖W(xué)，團(tuán)隊(duì)科學(xué)和公開科學(xué)”將在腦研究的基本數(shù)據(jù)搜集、臨床數(shù)據(jù)搜集、圖譜和研究工具開發(fā)方面取得顯著進(jìn)展，但是難望在建立腦科學(xué)的基本理論框架方面取得突破。極少可能實(shí)現(xiàn)“心智上傳”和通過“逆向工程”建立人腦的全腦模型。無論對(duì)腦科學(xué)來說還是人工智能來說，當(dāng)問題牽涉到心智、智能、意識(shí)等“內(nèi)心問題”時(shí)，面臨的共同瓶頸是“主觀性”，對(duì)此應(yīng)該問的問題不是“主觀性是怎么產(chǎn)生的？”而是它產(chǎn)生的“充分和必要條件”是什么？在后一問題上會(huì)有穩(wěn)步進(jìn)展，但是難望在可預(yù)期的未來得到解決。在極端需要節(jié)能的條件下，“仿神經(jīng)芯片”（neuromorphic chip）可能取得重要應(yīng)用。但是不能確定其是否能發(fā)展成新一代計(jì)算機(jī)系統(tǒng)。這將主要取決于有多少人愿意拋棄傳統(tǒng)計(jì)算機(jī)，而重新學(xué)習(xí)這新一代計(jì)算機(jī)的“生態(tài)系統(tǒng)”。有望在介觀層次上，對(duì)許多局部神經(jīng)回路的活動(dòng)和機(jī)制研究上取得突破?；仡櫜畈欢辔迥昵皩懴碌摹伴_放問題”，提得并不系統(tǒng)，問題的大小和重要程度也參差不齊。其中一些，我已有了自己的判斷（有的已寫在上面的“幾點(diǎn)預(yù)期”中了），而對(duì)另一些則依然茫無頭緒。但這些問題至今依舊沒有公論，“開放”如故。在今天的短文中，不可能以上每個(gè)問題逐一詳細(xì)討論，但可以看看，我們當(dāng)初的主要預(yù)期是否能經(jīng)得起這五年驚濤駭浪般的考驗(yàn)。書中那些兩人經(jīng)過爭論而取得共識(shí)的地方，卡爾說服我要多于我說服卡爾。最令我印象深刻的一處是卡爾的論斷：“物理學(xué)家特別是工程師在本學(xué)科中的表現(xiàn)優(yōu)于生命科學(xué)家，并且工程似乎是以指數(shù)速度發(fā)展，而神經(jīng)科學(xué)和醫(yī)學(xué)的發(fā)展則可能只是按線性發(fā)展。”一開始，對(duì)于我——一位腦科學(xué)研究者——來說，這話聽上去確實(shí)有些刺耳。但接著卡爾就舉出科技史上的大量案例，使我不得不承認(rèn)這一現(xiàn)實(shí)。實(shí)際上，新冠疫情和ChatPGT問世也可算是對(duì)卡爾論斷的明證：一邊是一種結(jié)構(gòu)簡單到甚至算不算生命都難說的病毒肆虐全球，帶來巨大的生命損失和經(jīng)濟(jì)損失，讓全世界最聰明的腦袋手忙腳亂，至今找不到萬全之策；另一邊，卻有人宣稱即將解開世界上最復(fù)雜的系統(tǒng)——人腦，可以在十年或幾十年里用計(jì)算機(jī)拷貝人腦。當(dāng)馬斯克戴著口罩在發(fā)布會(huì)上宣稱不久可以通過植入芯片使人腦和人工智能融為一體而成超人，一種巨大的諷刺感撲面而來。（我贊賞Neuralink在技術(shù)上的重大進(jìn)展，但它在思想上并無創(chuàng)新，而把人腦和AI融合起來打造超人則純屬迷思）[4]。與醫(yī)學(xué)的蹣跚形成鮮明對(duì)比的是計(jì)算機(jī)科學(xué)的一騎絕塵，在不足一個(gè)世紀(jì)里，從發(fā)明第一臺(tái)占滿整個(gè)房間的笨重電子計(jì)算機(jī)到ChatGPT橫空出世，機(jī)器通過圖靈測試已經(jīng)不是天方夜譚，當(dāng)我們和聊天軟件對(duì)話時(shí)，如果不事先想好，刻意設(shè)置圈套，確實(shí)難以分辨對(duì)方是人還是機(jī)器。多層次的腦：腦的各個(gè)層次相互影響，形成復(fù)雜的循環(huán)因果關(guān)系?？栐缇吞岢?，工程師不會(huì)從腦研究的結(jié)果中獲益太多，走他們自己的路并忽略生物模型會(huì)有更好的結(jié)果。這也是我一開始難于接受的。雖然現(xiàn)在依然有許多人宣傳人工智能的瓶頸在于不了解腦，只有拷貝腦才能取得實(shí)質(zhì)性的飛躍[5,6] ，但這五年來發(fā)生的一切證明并非如此。如果說神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)在開始時(shí)還有點(diǎn)受腦啟發(fā)的影子（感受野的多層次投射），那么其后ChatGPT的研發(fā)就完全是靠信息科學(xué)技術(shù)中的大模型和大數(shù)據(jù)了。相反，走拷貝人腦的路線，無論在闡明心智機(jī)制方面，還是在應(yīng)用上，迄今為止都沒有什么驕人的成就。歐盟人腦計(jì)劃早就拋棄了拷貝人腦的目標(biāo)，繼續(xù)馬克拉姆拷貝路線的“藍(lán)腦計(jì)劃”除了在神經(jīng)元（或許還在皮層柱）層次上取得了一些仿真腦組織的成就，并未在更高層次上實(shí)現(xiàn)任何認(rèn)知功能[5]?；艚鹚沟摹扒X智能”理論，不僅在神經(jīng)基礎(chǔ)上站不住腳，在實(shí)踐上也依然是一紙空文[6]。已故的埃德爾曼模仿小腦所得的“仿腦機(jī)”（也就是達(dá)爾文機(jī)）雖然能在實(shí)驗(yàn)室中自由穿越彎曲小徑，但今天真正在道路上行駛的無人汽車卻完全是機(jī)器學(xué)習(xí)的產(chǎn)物，與小腦毫無關(guān)系（當(dāng)然埃德爾曼的工作對(duì)認(rèn)識(shí)小腦機(jī)制有幫助）。當(dāng)然，我們的結(jié)論——“試圖在硅片上通過逆向工程建立一種生物腦并沒有太大希望”——還有待今后事實(shí)的進(jìn)一步考驗(yàn)。五年來的事實(shí)一次又一次地證明：大型腦計(jì)劃“將在腦研究的基本數(shù)據(jù)搜集、臨床數(shù)據(jù)搜集、圖譜和研究工具開發(fā)方面取得顯著進(jìn)展，但是難望在建立腦科學(xué)的基本理論框架方面取得突破?！盵1]確實(shí)，歐盟人腦計(jì)劃的最大成就是建立起供神經(jīng)科學(xué)家共享的信息技術(shù)平臺(tái)，藍(lán)腦計(jì)劃及其合作方美國艾倫腦科學(xué)研究所的主要成就是發(fā)表了鼠腦各個(gè)腦區(qū)神經(jīng)元的分類圖譜，許多國家的腦計(jì)劃在連接組圖譜上取得進(jìn)展，所有這些也許能為將來的腦機(jī)制研究的突破提供基礎(chǔ)資料，但是它們本身卻并非是突破。正如陳省身教授所說,“科學(xué)上最偉大的發(fā)現(xiàn)都不是計(jì)劃出來的”。對(duì)于開創(chuàng)性的研究和發(fā)現(xiàn)，“我們想到的是充滿熱情的個(gè)人和小團(tuán)隊(duì)，就像小型研究快艇的船長及其船員，尤其是那些年輕的學(xué)生。”[1]不過，何時(shí)和何處會(huì)涌現(xiàn)出這樣的個(gè)人或小團(tuán)隊(duì)，極難預(yù)言。當(dāng)前AI研發(fā)界中有一個(gè)普遍的問題，就是混淆了腦功能中的第一人稱視角（主體審視其內(nèi)心活動(dòng)的視角）的問題和第三人稱視角（第三者從旁觀察的視角）的問題。許多腦功能，特別是高級(jí)功能，尤其是心智，可以從兩種不同視角來看：第一人稱視角和第三人稱視角。前者如果要用一個(gè)詞來表達(dá)，可能叫“內(nèi)心活動(dòng)”；后者如果也要只用一個(gè)詞來表達(dá)，可能就是“行為”。目前，“心智”還沒有一個(gè)公認(rèn)的確切定義，往往用其所涵蓋的內(nèi)容來說明。例如，維基百科的心智（Mind）條目中就是這樣描述的：“心智是一組認(rèn)知能力的總稱，其中包括意識(shí)、想象、感知、思考、判斷、語言和記憶，這些認(rèn)知能力來自腦（有時(shí)包括中樞神經(jīng)系統(tǒng)）。它通常被定義為一個(gè)實(shí)體的思想和意識(shí)的能力。它擁有想象力、識(shí)別力和欣賞力，負(fù)責(zé)處理感受和情緒，從而產(chǎn)生態(tài)度和行動(dòng)?！盵7]第一人稱視角的內(nèi)心活動(dòng)是主觀的、私密的，只有主體自己才能體驗(yàn)，無法精確地分享給他人。第三人稱視角的行為是廣義的，包括一切可以觀察和測量的活動(dòng)。心智所涵蓋的諸多方面同時(shí)具有這兩種維度，在日常生活中人們常常對(duì)這兩個(gè)方面混淆不清。有時(shí)用一個(gè)詞來混指這兩個(gè)方面，有時(shí)用不同的詞強(qiáng)調(diào)不同的方面，但是也沒有明確的公認(rèn)的分界線，這也是令我下筆時(shí)傷腦筋的一個(gè)問題。例如，情緒（emotion）往往是一種統(tǒng)稱，而感受（feeling）則往往指內(nèi)心感受，表情（expression）則明顯地只指情緒的外在表現(xiàn)；類似地，感覺（sensation）強(qiáng)調(diào)感官對(duì)刺激的反應(yīng)，可以客觀測量，而知覺（perception）則是對(duì)刺激的主觀體驗(yàn)。當(dāng)然，一牽涉到意識(shí)，主觀性和私密性就更為突出——意識(shí)有沒有可以客觀測量的方面，現(xiàn)在恐怕還是一個(gè)見仁見智的問題。盡管人們提出“意識(shí)的神經(jīng)相關(guān)集合”聽上去似乎是可以客觀測量的，但是這只是“相關(guān)”；并且，如果沒有了主觀性和私密性，剩下來的還能叫意識(shí)嗎？這似乎也是個(gè)問題。到目前為止，我認(rèn)為，人工所能制造的都只能是從第三人稱視角來看的方面，也就是模仿行為，對(duì)于第一人稱視角的“內(nèi)心活動(dòng)”，還一籌莫展。問題是人們常?；煜诉@兩者，把人工模仿的行為說成是成功“實(shí)現(xiàn)了人工的內(nèi)心活動(dòng)”，于是一些人開始談?wù)摗叭斯ひ庾R(shí)”、“情緒機(jī)器”。至于司空見慣的“意念控制”（mind control），其實(shí)只不過是對(duì)腦信號(hào)的控制，這樣就會(huì)誤導(dǎo)公眾。當(dāng)然，我并非是斷定永遠(yuǎn)也不可能實(shí)現(xiàn)人工內(nèi)心活動(dòng)。因?yàn)榧热蝗四X有內(nèi)心活動(dòng)，而人腦歸根到底也是一種物質(zhì)系統(tǒng)，那就沒有理由排除其他物質(zhì)系統(tǒng)涌現(xiàn)出內(nèi)心活動(dòng)的可能性。我在這里強(qiáng)調(diào)的是，內(nèi)心活動(dòng)是高度復(fù)雜的物質(zhì)系統(tǒng)在特定條件（我們只是不知道這種條件是什么，和系統(tǒng)要復(fù)雜到什么程度）下涌現(xiàn)出來的一種屬性，而非獨(dú)立于腦的存在。不過，到現(xiàn)在我們也還不知道究竟需要什么條件，才能涌現(xiàn)出“第一人稱視角的感受”。我們還不了解人所需的條件，更遑論了解人工系統(tǒng)的了。確實(shí)，從應(yīng)用的角度講，我們可以撇開第一人稱視角，而只討論從第三人稱視角看到的方面（也就是行為），并從這一角度給出某種操作性定義，這樣就不致產(chǎn)生混淆。例如美國天普大學(xué)計(jì)算機(jī)系王培教授給智能下的定義：在知識(shí)和資源不足的情況下依然能適應(yīng)的能力[8]。這就是完全從第三人稱視角描寫的智能的重要方面，無論對(duì)人類智能還是人工智能都適用。王培的定義已經(jīng)足夠廣泛，能描寫許許多多智能行為，并以此出發(fā)，建立他的納思AGI系統(tǒng)來解決實(shí)際應(yīng)用上的問題，這對(duì)于他的目的來說已經(jīng)足夠了。那么智能有沒有從第一人稱視角描寫的方面呢？我想也是有的，如“理解”。所以我極不贊成人工智能領(lǐng)域使用“自然語言理解”這樣的提法，我認(rèn)為現(xiàn)階段所做的只是“自然語言處理”。對(duì)當(dāng)前人工智能方面的研究，我以為，如果用了類似心理學(xué)（或心智哲學(xué)）上的名詞，那么應(yīng)該在一開始便開宗明義地給出一個(gè)操作性定義，排除掉第一人稱視角的方面。并且也不要把以后工作的結(jié)論用到和第一人稱視角有關(guān)的問題上去。在這一問題上，之所以不能把從第一人稱視角體驗(yàn)到的現(xiàn)象“還原”到從第三人稱視角解釋得了的機(jī)制上去，根本原因是：前者發(fā)生在有極多層次的復(fù)雜系統(tǒng)的高層，且這些層次之間存在的并非簡單系統(tǒng)中的線性因果鏈，而是層次內(nèi)部以及層次之間存在互為因果的“循環(huán)因果關(guān)系”。長期以來，自然科學(xué)一直為基于線性因果鏈基礎(chǔ)之上的還原論所統(tǒng)治，正式提出“循環(huán)因果關(guān)系”還只是上世紀(jì)末的事[9]。在對(duì)這種因果關(guān)系有更深刻的認(rèn)識(shí)之前，希望解決人工“內(nèi)心活動(dòng)”的努力，如果不是掛羊頭賣狗肉的話，也將很難實(shí)現(xiàn)。參考文獻(xiàn)[1] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯 （2019）《腦研究的新大陸：一位德國工程師和一位中國科學(xué)家之間的對(duì)話》系列叢書，上海教育出版社[2] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯 （2019）《意識(shí)之謎與心智上傳的迷思：一位德國工程師和一位中國科學(xué)家之間的對(duì)話》系列叢書，上海教育出版社。[3] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯 （2019）《人工智能的第三個(gè)春天：一位德國工程師和一位中國科學(xué)家之間的對(duì)話》系列叢書，上海教育出版社。[4] 顧凡及（2020）欲駕馭AI，先與AI共生：馬斯克的“超人”計(jì)劃能成功嗎？返樸，2020年8月12日[5] Fan X and Markram H (2019) A Brief History of Simulation Neuroscience. Frontiers in Neuroinformatics. 13(Article 32):1-28[6] Hawkins J (2021) A Thousand Brains: A New Theory of Intelligence. Basic Books.中譯本：霍金斯著，廖璐等譯（2022）千腦智能，浙江教育出版社。[7] https://en.wikipedia.org/w/index.php?title=Mind&oldid=911062349[8]王培（2022）智能論綱要，上海科技教育出版社[9] Haken H (1996) Principles of Brain Functioning: A Synergetic Approach to Brain Activity, Behavior and Cognition. Springer.中譯本：哈肯著，郭治安、呂翎譯（2000）大腦工作原理：腦活動(dòng)、行為和認(rèn)知的協(xié)同學(xué)研究。上?？萍冀逃霭嫔绫疚氖芸破罩袊ば强沼?jì)劃項(xiàng)目扶持出品：中國科協(xié)科普部監(jiān)制：中國科學(xué)技術(shù)出版社有限公司、北京中科星河文化傳媒有限公司

特 別 提 示1. 進(jìn)入『返樸』微信公眾號(hào)底部菜單“精品專欄“，可查閱不同主題系列科普文章。2. 『返樸』提供按月檢索文章功能。關(guān)注公眾號(hào)，回復(fù)四位數(shù)組成的年份+月份，如“1903”，可獲取2019年3月的文章索引，以此類推。版權(quán)說明：歡迎個(gè)人轉(zhuǎn)發(fā)，任何形式的媒體或機(jī)構(gòu)未經(jīng)授權(quán)，不得轉(zhuǎn)載和摘編。轉(zhuǎn)載授權(quán)請?jiān)凇阜禈恪刮⑿殴娞?hào)內(nèi)聯(lián)系后臺(tái)。

標(biāo)簽：