聊天機(jī)器人會影響文明發(fā)展嗎？ 天天簡訊

原標(biāo)題：ChatGPT火爆背后的思考（引題）

聊天機(jī)器人會影響文明發(fā)展嗎？（主題）

(資料圖)

天津日報(bào)記者 孫瑜

時(shí)下，由人工智能公司OpenAI研發(fā)的通用聊天機(jī)器人ChatGPT，以強(qiáng)大的文字處理和人機(jī)交互功能迅速成為炙手可熱的新一代人工智能產(chǎn)品。與此相關(guān)的多個話題持續(xù)登錄各種熱搜頭條。種種跡象表明，以ChatGPT為代表的人工智能已經(jīng)逐步影響到人類生產(chǎn)和生活的方方面面。從古至今，科技的發(fā)展促使人類文明發(fā)生了翻天覆地的變化。那么，人工智能將對人類的文化和文明產(chǎn)生何種影響？我們?nèi)祟愒撊绾螒?yīng)對？都是我們將要面對的課題。

會接話茬兒的機(jī)器人?

它真的擁有“智慧”嗎？

2月24日上午，科技部部長王志剛在國新辦新聞發(fā)布會上談及ChatGPT時(shí)表示：“ChatGPT本質(zhì)上是一個大模型。什么叫大模型？大數(shù)據(jù)，大的計(jì)算力，還有一個強(qiáng)的計(jì)算方法。ChatGPT確實(shí)有它的優(yōu)勢，有它進(jìn)步的點(diǎn)。我們要看到這一點(diǎn)，同時(shí)要在算法、數(shù)據(jù)、算力上怎么樣能夠有效結(jié)合?！?/p>

ChatGPT，從字面出發(fā)可以分為2個部分，“聊天應(yīng)用”和“GPT模型”。其實(shí)ChatGPT并不神奇，神奇的是他后面的通用語言模型GPT。以第三代GPT模型GPT-3為例，已經(jīng)擁有前代1000倍的數(shù)據(jù)量和100倍的參數(shù)，達(dá)到了3000億詞匯的數(shù)據(jù)量和1750億的參數(shù)。

天津大學(xué)智算學(xué)部副教授王博表示，對于多數(shù)用戶來說，ChatGPT是一種可以進(jìn)行問答或者對話的機(jī)器人。從常見的使用方式上來看，這么說沒有問題，但是實(shí)際上ChatGPT不是專門被設(shè)計(jì)用來回答問題和跟人聊天兒的。它就是一個會接話茬兒的機(jī)器人。所謂接話茬，就是用戶輸入給它一些文字，而ChatGPT則接著這些文字，盡量合理地往下說。而當(dāng)用戶給它的這些文字是一個問題的時(shí)候，它要想合理地往下說，說出來的內(nèi)容就會是問題的答案。

“現(xiàn)在，很多人認(rèn)為ChatGPT具有一定通用人工智能的能力，能回答和解決各種不同的問題。”王博副教授坦言道，“其實(shí)原因就是完成這些任務(wù)的具體形式都是根據(jù)語言指令輸出正確的文字。因此，只要ChatGPT能夠根據(jù)用戶的指令把話說對，就能完成這些任務(wù)。是語言這個載體將這些不同的任務(wù)變成了同一件事。只要我們所問的問題經(jīng)過合理的設(shè)計(jì)，ChatGPT就能夠給我們合理的回答?！?/p>

王博還提到，由于ChatGPT只是在字面上進(jìn)行續(xù)寫，而沒有將說話的內(nèi)容和背后的客觀事實(shí)聯(lián)系起來，所以我們并不認(rèn)為它真正理解用戶的問題和自己所說的話。

“我們了解到，國外的一些學(xué)生用ChatGPT做作業(yè)，寫出的作業(yè)查重率很低，這說明ChatGPT并不是像傳統(tǒng)搜索引擎一樣直接選取互聯(lián)網(wǎng)或數(shù)據(jù)庫中已有的內(nèi)容，而是通過掌握語言詞匯之間的組合規(guī)律，來生成全新的內(nèi)容?！蓖醪┱f，這從根本上說明ChatGPT不是“大號的搜索引擎”。通過學(xué)習(xí)詞匯的組合規(guī)律，它能夠間接地“掌握”由詞匯組合表示的知識。由于這個學(xué)習(xí)是需要時(shí)間來訓(xùn)練的，所以ChatGPT還不能實(shí)時(shí)學(xué)習(xí)從網(wǎng)上直接搜來的東西。目前，ChatGPT使用的是2021年之前的信息。

ChatGPT可能在概念上被高估

人工智能在“模擬人類”上走了多遠(yuǎn)？

人機(jī)對話是人工智能發(fā)展的一個重要方向。科技部高新司司長陳家昌表示：從發(fā)展趨勢來看，人工智能有兩個非常明顯的特點(diǎn)。首先，人工智能對社會經(jīng)濟(jì)的發(fā)展具有滲透性、擴(kuò)散性和顛覆性的作用。特別是在科研端，人工智能為生物科學(xué)、材料科學(xué)、能源科學(xué)的一些研究提供了新方法和新途徑，正在引領(lǐng)科研范式的變革。這個影響非常大。其次，在互聯(lián)網(wǎng)、大數(shù)據(jù)、超級計(jì)算、智能計(jì)算、腦與認(rèn)知相關(guān)的技術(shù)的共同驅(qū)動下，人工智能領(lǐng)域加速發(fā)展，日益出現(xiàn)出一種群體性突破的態(tài)勢。特別是“智能+”的這種范式，在先進(jìn)制造、交通、醫(yī)療等領(lǐng)域，都得到了廣泛的應(yīng)用。

王博說，在世界范圍來看，目前國內(nèi)的人工智能發(fā)展基本上跟國際是同步的。當(dāng)前的人工智能技術(shù)主要體現(xiàn)為用算法來解決問題。其中，主流的算法被稱為機(jī)器學(xué)習(xí)。機(jī)器學(xué)習(xí)已經(jīng)有二三十年的歷史了，它依靠統(tǒng)計(jì)方法從歷史數(shù)據(jù)中發(fā)現(xiàn)規(guī)律，然后用于解決新的問題。

目前機(jī)器學(xué)習(xí)當(dāng)中的主流算法叫做深度學(xué)習(xí)，其核心是模擬人腦結(jié)構(gòu)的深度神經(jīng)網(wǎng)絡(luò)。現(xiàn)在許多前沿的人工智能技術(shù)都采用了深度學(xué)習(xí)算法，包括目前火爆全網(wǎng)的ChatGPT，都是深度學(xué)習(xí)的各種變體。

王博副教授進(jìn)一步解釋到，從對人類模擬的深度來看，當(dāng)前的人工智能技術(shù)可以分為認(rèn)知智能和感知智能。認(rèn)知智能較為深刻，它模擬人腦的認(rèn)知能力，最典型的就是ChatGPT所代表的自然語言處理技術(shù)，專門理解和生成人類自然發(fā)展出來的語言。因?yàn)檎Z言是人類文化的載體，也是人類思維的工具，所以語言的處理一直是人工智能的核心技術(shù)之一。

例如，法律就是一個以語言為主要形式的復(fù)雜領(lǐng)域。在法律領(lǐng)域，AI已經(jīng)能夠參與調(diào)研、立法和裁判等多個環(huán)節(jié)。天津大學(xué)與北京大學(xué)等單位合作承擔(dān)的國家重點(diǎn)研發(fā)計(jì)劃項(xiàng)目《面向法治調(diào)研的立法規(guī)劃、計(jì)劃的意見特征智能識別技術(shù)》就成功的實(shí)現(xiàn)在立法工作中利用AI技術(shù)自動判斷法律文本中的核心信息和觀點(diǎn)，顯著提高立法意見搜集和整理的效率。

而感知智能旨在模仿人類感知客觀世界的能力，其中典型的技術(shù)是圖形圖像處理。王博副教授說，圖形圖像處理要比自然語言處理相對簡單一些，技術(shù)發(fā)展也更加成熟，在我們當(dāng)前的生活中已經(jīng)有普遍應(yīng)用。另一種廣為應(yīng)用的感知智能技術(shù)是語音的識別和生成。就是將人說話的聲音轉(zhuǎn)化成文字，或者將文字轉(zhuǎn)化成聲音。

其他的一些人工智能技術(shù)還包括了單智能體或者多智能體的控制，比如掃地機(jī)器人、智能制造工廠里面的機(jī)器人，下圍棋或者象棋的機(jī)器人等都是單智能體，多智能體比如無人機(jī)陣列，智能駕駛多輛車互相協(xié)調(diào)，防止互相碰撞。

不僅如此，大數(shù)據(jù)、區(qū)塊鏈和物聯(lián)網(wǎng)等技術(shù)也與人工智能有著密切的聯(lián)系。王博坦言，與這幾種技術(shù)相比，ChatGPT在誕生之初的成熟度要更高，在很多領(lǐng)域已經(jīng)開始成為實(shí)實(shí)在在的生產(chǎn)力。

王博認(rèn)為，對于大眾而言，現(xiàn)階段ChatGPT可能在概念上被高估，而在應(yīng)用中被低估。什么意思呢？在概念中被高估，就是說人們甚至把它想象成流浪地球電影中的人工智能機(jī)器人一樣，可能擁有自由意志了，實(shí)際上它遠(yuǎn)未達(dá)到這種水平。而在應(yīng)用中被低估則是指人們還并沒有真正在生活中充分發(fā)揮它的能力。

新技術(shù)在推動人類文化發(fā)展同時(shí)

不可避免會帶來倫理與文化的碰撞和沖突

南開大學(xué)科技哲學(xué)教研室主任賈向桐教授認(rèn)為，以ChatGPT為最新進(jìn)展的人工智能本身就是當(dāng)代人類社會文化或文明發(fā)展的重要產(chǎn)物，當(dāng)然它也會對整個社會文化產(chǎn)生極為深遠(yuǎn)的影響，而且這種影響會隨著科技與社會的融合發(fā)展而更加明顯。

這種全方位的影響是包含正負(fù)兩個層面的：即，發(fā)展機(jī)遇與風(fēng)險(xiǎn)并存。一方面，人工智能技術(shù)推動了人類認(rèn)識世界和影響世界的能力，它為社會文化的發(fā)展提供了更有力而強(qiáng)大的物質(zhì)技術(shù)基礎(chǔ)，也為人們的文化交流與傳播提供了更加便捷、豐富的途徑和載體。而且更為至關(guān)重要的是，人工智能等新技術(shù)的應(yīng)用事實(shí)上是在不斷拓展著傳統(tǒng)的文化空間，進(jìn)而有利于推動社會文化的創(chuàng)新與進(jìn)一步變革。可以說，在21世紀(jì)這個信息革命的時(shí)代，以人工智能為代表的新技術(shù)構(gòu)成人類文化發(fā)展的重要動力，它們在豐富人們的物質(zhì)和精神文化生活的同時(shí)，也在提高著人們的精神文化水平，從而引領(lǐng)整個社會的文化進(jìn)步與發(fā)展。另一方面，相應(yīng)的消極或負(fù)面影響是非常需要我們特別去關(guān)注的，新技術(shù)在推動人類文化發(fā)展的同時(shí)，也不可避免會帶來一系列的社會與文化問題。無論是人工智能產(chǎn)品的設(shè)計(jì)、安全系數(shù)風(fēng)險(xiǎn)，還是在價(jià)值觀、社會公平以及倫理挑戰(zhàn)等生活與文化方面的碰撞和沖突，勢必都成為人們不得不面對的重要現(xiàn)實(shí)問題。

賈向桐表示，須知，人工智能的運(yùn)行方式是以人—機(jī)的交互模式為中心的，工具化和形式化構(gòu)成人們實(shí)踐活動的基本特征。具體而言，這種新技術(shù)的優(yōu)勢更在于能夠滿足人們的工具性、實(shí)用性認(rèn)知與交往活動方面的要求，但這種快速與便捷是基于人的情感性和體驗(yàn)性等維度被壓縮為前提的。因此，新技術(shù)產(chǎn)品帶來的往往是人與人交往的工具性、便捷以及功用性方面的收獲，而問題則是缺少了傳統(tǒng)交往本身人性的溫情和情感關(guān)懷。例如在學(xué)生利用ChatGPT完成論文或作業(yè)的過程中，全面而實(shí)用性的知識可以迅速擺在面前，但這也使得教育本身的完整意義被極大拆解了，教書育人的形式和結(jié)果導(dǎo)向偏離了教育的初衷，這也是許多大學(xué)禁用ChatGPT完成作業(yè)的重要原因。

近代以來隨著科學(xué)、技術(shù)和社會的融合進(jìn)入一個新的階段，科學(xué)技術(shù)成為引領(lǐng)社會與文化的發(fā)展的重要引擎。科學(xué)技術(shù)的發(fā)展在不斷豐富和擴(kuò)展著社會文化的內(nèi)容與形式，其實(shí)很多社會文化領(lǐng)域本身就是科學(xué)技術(shù)發(fā)展的產(chǎn)物，諸如動漫、影視文化均是如此，科技創(chuàng)新亦成為社會文化創(chuàng)新與發(fā)展的關(guān)鍵推動力。而且，新的科技創(chuàng)新成果應(yīng)用，也就是它們與社會緊密融合的過程，其中蘊(yùn)含的價(jià)值與觀念，同樣會在有意無意中融入人們的思想行為。這意味著人們的傳統(tǒng)文化價(jià)值和觀念也會逐漸隨著科技變革而發(fā)生相應(yīng)的轉(zhuǎn)變，這一過程既有潤物細(xì)無聲的融合和更新，又有新舊觀念與思想的沖突和對立。倫理與文化的碰撞和沖突勢必成為科技推動社會文化發(fā)展過程中人們繞不開的重要問題。

主動面對新的文化與倫理挑戰(zhàn)

是人類社會發(fā)展的一個重要使命

“怎么做到推動發(fā)展的同時(shí)，兼顧科技成果的兩面性，加強(qiáng)倫理規(guī)范?！笨萍疾坎块L王志剛說，“我們國家對于任何一個新的技術(shù)，包括AI技術(shù)出來以后，在倫理方面都采取了一些相應(yīng)的措施，對科學(xué)技術(shù)發(fā)展趨利避害，讓利更好地發(fā)揮出來?！?/p>

說起ChatGPT會造成大量人員失業(yè)，王博副教授認(rèn)為，嚴(yán)格來講，一種新技術(shù)會不會造成大量人員的失業(yè)，不僅取決于技術(shù)本身，也與我們的政策有關(guān)，是可以進(jìn)行調(diào)節(jié)的社會問題。隨著簡單的工作被逐步替代，人類往往會“水漲船高”地被推到更具創(chuàng)造性的工作中去，不過這需要一個過程。

ChatGPT及它背后的GPT模型能取代腦力勞動甚至人類嗎？鑒于這個問題，ChatGPT給出了自己的答案：“……我并不能完全取代人類，因?yàn)槿祟愑泻芏喾矫媸俏覠o法做到的?！睙o法取代人類 ，還真不是ChatGPT的謊言。因?yàn)樵贑hatGPT的算法中，AI被禁止進(jìn)行自我探索。

王博說，自我探索，可以理解為我們?nèi)粘Ｉ町?dāng)中說的反思，這種反思是以自我意識為前提的。人一旦有了這種反思，某種程度就代表著有了自我意識。而自我意識則是誘發(fā)自主行為，即自由意志的重要前提。我們一般不希望人工智能具有自由意志。目前我們還不能夠讓AI具有自由意志，事實(shí)上，如何確定一個AI是否具有自由意志都是一個挑戰(zhàn)。

對于AI是否會取代人類這個話題，賈向桐教授說，其中既包含了人們對人工智能技術(shù)發(fā)展本身的深深憂慮，又隱含了一種人們對其未來命運(yùn)、人類智能的本質(zhì)與發(fā)展的好奇。但客觀而言，當(dāng)前科學(xué)的進(jìn)展，還不足以回答這個問題。這里的一個關(guān)鍵環(huán)節(jié)在于人類智能（包括人工智能）的本質(zhì)還未得以完全揭示，在沒有理解人類智能本質(zhì)和規(guī)律的情況下，去討論人工智能是否能夠取代人類智能的問題，這與其說是解答，不如說是一種基于經(jīng)驗(yàn)的預(yù)測或推測。

從目前人工智能與認(rèn)知科學(xué)、腦科學(xué)等領(lǐng)域的發(fā)展情況來看，人工智能完全趕上甚至取代人類（智能）還存在一定的距離?？傮w來看，當(dāng)前的機(jī)器智能與人的智能之間還是存在明顯的不同，人工智能的重要優(yōu)勢表現(xiàn)為信息的存儲和高速的運(yùn)算能力，它在精確性和持續(xù)的高效性等方面遠(yuǎn)超人類的大腦。但是，基于低消耗的人類腦力活動的推理能力、豐富的想象力和創(chuàng)造力等，也遠(yuǎn)非當(dāng)前人工智能所能比擬的。

其實(shí)，任何一種新興事物突然介入到社會之中，總會或多或少帶來一些在倫理與文化層面的沖突，這是再自然不過的現(xiàn)象。也就是說，這并非人工智能技術(shù)所特有的情況。

近年來以人工智能為代表的科學(xué)技術(shù)的飛速發(fā)展，正在全方位構(gòu)建著人們新生活方式以及相應(yīng)活動模式。顛覆傳統(tǒng)社會的生活方式，由此產(chǎn)生的個人隱私、信息安全等問題，成為以人工智能為中介環(huán)節(jié)的社會交往活動的新隱患。而且，這些由新技術(shù)革命引起的倫理和文化問題將在今后的社會發(fā)展中變得更為突出，人工智能融入社會而觸動傳統(tǒng)倫理規(guī)范和價(jià)值觀的變革，并推動著新的倫理規(guī)范不斷出現(xiàn)以適應(yīng)新的生活空間。

主動面對新的文化與倫理挑戰(zhàn)，構(gòu)成當(dāng)代社會發(fā)展的一個重要使命。首先，我們要強(qiáng)化科技工作者的相關(guān)倫理責(zé)任與意識，人工智能技術(shù)的發(fā)展已經(jīng)超出了普通公眾的理解，這一情況為這些科技工作者提出了更高的倫理責(zé)任要求，其技術(shù)和功能各方面的設(shè)計(jì)規(guī)劃，必須考慮到應(yīng)用到社會之后可能產(chǎn)生的諸多負(fù)面效應(yīng)問題。其次，我們要完善人工智能的技術(shù)倫理評估系統(tǒng)，在組織成員方面要集科學(xué)家和工程師共同體、公眾和倫理學(xué)家于一體，實(shí)現(xiàn)不同社會群體的充分交流與溝通，達(dá)到普遍性的社會共識是處理好問題的關(guān)鍵。此外，我們應(yīng)該在心理和心態(tài)方面做好準(zhǔn)備，這方面的客觀做法是“持謹(jǐn)慎的開放態(tài)度”，提升倫理預(yù)判的前瞻性能力。

ChatGPT驚艷的對話和超強(qiáng)的檢索能力在使人大開眼界的同時(shí)，不免也會讓人心生困惑：未來教育又需要做出怎樣的改變呢？

賈向桐教授說，毫無疑問，人工智能技術(shù)的飛速發(fā)展的確在迅速改變著傳統(tǒng)的社會生產(chǎn)與產(chǎn)業(yè)結(jié)構(gòu)，世界各國也普遍意識到這種新的變化，從而開始制定新的發(fā)展戰(zhàn)略和規(guī)劃。比如，我國制定的《智能制造發(fā)展規(guī)劃（2016—2020年）》就明確指明了未來幾年智能制造的基本發(fā)展方向、重點(diǎn)和指定思想等關(guān)鍵問題。人工智能的核心驅(qū)動力對社會產(chǎn)業(yè)結(jié)構(gòu)、勞動力結(jié)構(gòu)等的變革升級、轉(zhuǎn)型和調(diào)整等都具有關(guān)鍵的導(dǎo)向作用，它直接影響著整個社會經(jīng)濟(jì)結(jié)構(gòu)的良性運(yùn)行。特別是大數(shù)據(jù)、人工智能技術(shù)與商業(yè)化發(fā)展的有機(jī)結(jié)合，有效推動了智能商業(yè)的興起和完善，智能購物和無人超市等對人工智能最新技術(shù)的廣泛應(yīng)用，對社會資源與產(chǎn)業(yè)的升級與調(diào)整意義重大。

更具體而言，在人工智能與社會生產(chǎn)、市場資源的配置之間，需要清晰區(qū)分資本要素和與勞動力要素二者的差異性，進(jìn)而均衡兩條配置路徑的協(xié)調(diào)統(tǒng)一。人工智能技術(shù)的良性發(fā)展本身就是協(xié)調(diào)市場配置的重要環(huán)節(jié)，其帶動的新興產(chǎn)業(yè)領(lǐng)域更多是在調(diào)配人力資源的新平衡，新的產(chǎn)業(yè)空間可以回避結(jié)構(gòu)性市場可能出現(xiàn)的問題。兩種資源要素的配置對應(yīng)于智能制造的發(fā)展特點(diǎn)，因地因時(shí)制宜，將產(chǎn)業(yè)升級和勞動就業(yè)結(jié)構(gòu)的優(yōu)化相匹配，如果能夠處理好人工智能技術(shù)的產(chǎn)業(yè)沖擊，也就保證了資源配置要素的有效健康流通，對整個社會生產(chǎn)的有序運(yùn)行意義重大。

標(biāo)簽：