與互聯(lián)網(wǎng)的發(fā)明、普及與使用相比，人工智能對(duì)人類(lèi)社會(huì)的影響更甚。在人工智能的時(shí)代，人類(lèi)最重要的就是想象力。

李星 清華大學(xué)電子工程系教授

　　30多年前，清華大學(xué)電子工程系李星本科畢業(yè)赴美留學(xué)，研究生專(zhuān)業(yè)和本科一樣，是信號(hào)和信息處理。留學(xué)和工作期間，他第一次接觸到互聯(lián)網(wǎng)，作為一名用戶(hù)，他深切感受到了互聯(lián)網(wǎng)的巨大潛力，并對(duì)其產(chǎn)生了一定的認(rèn)識(shí)和思考。

　　1991年，李星回到清華大學(xué)教書(shū)，深切感受到，沒(méi)有互聯(lián)網(wǎng)就無(wú)法建設(shè)世界一流大學(xué)。機(jī)緣巧合，1993年，他由一名互聯(lián)網(wǎng)用戶(hù)轉(zhuǎn)變?yōu)榛ヂ?lián)網(wǎng)研究者，成為中國(guó)教育和科研計(jì)算機(jī)網(wǎng)(CERNET)的設(shè)計(jì)建設(shè)者和運(yùn)營(yíng)者。面對(duì)CERNET建設(shè)初期所遇到的重大技術(shù)決策，他作為互聯(lián)網(wǎng)用戶(hù)時(shí)所積累的認(rèn)識(shí)和思考發(fā)揮了至關(guān)重要的作用。三十年一個(gè)輪回，如今他以人工智能的用戶(hù)身份，分享了自己對(duì)ChatGPT的認(rèn)識(shí)和思考，以供年輕一代參考。

　　與ChatGPT進(jìn)行智力游戲

　　“ChatGPT是幫助人而不是替代人。”李星教授說(shuō)。ChatGPT已經(jīng)在幫助程序員編寫(xiě)程序方面發(fā)揮了很大作用，雖然它依然無(wú)法完全取代人類(lèi)的編程工作，但它可以給我們帶來(lái)很多意想不到的啟發(fā)，并提高了工作效率。

　　以前，程序員需要實(shí)現(xiàn)某個(gè)輔助功能的算法或函數(shù)時(shí)，由于這些功能不是最核心的，對(duì)程序員而言，不一定很熟悉，往往就需要花費(fèi)很長(zhǎng)時(shí)間進(jìn)行檢索、尋找和判斷。但是，現(xiàn)在與ChatGPT進(jìn)行討論后，它可以快速地提供相關(guān)的代碼、語(yǔ)言版本、操作系統(tǒng)等信息，方便我們進(jìn)行下一步的判斷、選擇和修改。

　　此外，ChatGPT對(duì)于科研效率的提升也非常顯著。李星教授提到，過(guò)去他在產(chǎn)生一個(gè)想法后，往往會(huì)先放一放，用一段時(shí)間深入思考，之后再用幾天甚至幾周時(shí)間編寫(xiě)代碼進(jìn)行驗(yàn)證。然而，現(xiàn)在通過(guò)ChatGPT的協(xié)助，僅需幾個(gè)小時(shí)就可以完成最初的概念驗(yàn)證(PoC，全稱(chēng)Proof of Concept)，再以此為基礎(chǔ)推進(jìn)下一步的工作，如同順?biāo)浦郯愀咝?、?jiǎn)單而方便。

　　當(dāng)然，需要注意的是，雖然ChatGPT能給出答案，但很多時(shí)候這些答案并不準(zhǔn)確，無(wú)法直接采用。因此，在這種情況下，就需要繼續(xù)與ChatGPT進(jìn)行交互，并通過(guò)指引幫助它給出更好質(zhì)量的內(nèi)容。

　　ChatGPT的訓(xùn)練數(shù)據(jù)中包含了豐富多樣的信息，幾乎涵蓋了各個(gè)領(lǐng)域的知識(shí)。然而，關(guān)鍵是我們?nèi)绾翁岢鲇杏们腋叨认嚓P(guān)的問(wèn)題。換句話說(shuō)，提問(wèn)的能力非常重要。能不能問(wèn)出有質(zhì)量的問(wèn)題，是非?？简?yàn)人的。

　　同樣，得益于ChatGPT相當(dāng)全面(但不一定深入和準(zhǔn)確)的知識(shí)水平，它往往能給出比我們想到的更加全面的答案，幫助我們填補(bǔ)知識(shí)的空白。因此，當(dāng)我們產(chǎn)生一些創(chuàng)新性的想法時(shí)，可以與ChatGPT進(jìn)行對(duì)話，與它一起進(jìn)行不斷迭代的智力游戲，詢(xún)問(wèn)它對(duì)新的研究想法的看法。ChatGPT也會(huì)毫無(wú)保留地列出需要考慮的相關(guān)問(wèn)題和角度，這種全面性是獨(dú)立的人類(lèi)個(gè)體所難以匹敵的優(yōu)勢(shì)。

　　此外，不論提出的問(wèn)題多么新奇、奇特或離經(jīng)叛道，ChatGPT總能給出與之相關(guān)的回應(yīng)和答復(fù)，這得益于ChatGPT的泛化能力。

　　據(jù)報(bào)道，OpenAI在訓(xùn)練ChatGPT時(shí)，考慮的重要因素之一是數(shù)據(jù)的多樣性。首先是“語(yǔ)言的多樣性”。盡管數(shù)據(jù)以英文內(nèi)容為主，但中文和其他國(guó)家語(yǔ)言的內(nèi)容也盡可能地被納入訓(xùn)練中。也就是說(shuō)，如果在中文世界中有問(wèn)題未能得到解答，但在英文世界中已有人給出了答案，ChatGPT便能夠?qū)烧咦詣?dòng)關(guān)聯(lián)起來(lái)，并在需要時(shí)靈活應(yīng)用各種語(yǔ)言和文化背景下的知識(shí)。

　　其次是“領(lǐng)域的多樣性”。ChatGPT是博才而非專(zhuān)才，它收納了各類(lèi)學(xué)科領(lǐng)域的知識(shí)，使得學(xué)科之間有所平衡和聯(lián)系，實(shí)現(xiàn)真正的融會(huì)貫通。這就意味著，有時(shí)某一學(xué)科的問(wèn)題，或許ChatGPT可以從另一學(xué)科的知識(shí)體系中找到解法，并為我們提供解決問(wèn)題的線索。ChatGPT的知識(shí)量級(jí)使它能真正做到了融會(huì)貫通與觸類(lèi)旁通，各學(xué)科知識(shí)不再有鮮明的區(qū)隔而是交織相融到了一起。另外，ChatGPT的訓(xùn)練還兼顧了“語(yǔ)體的多樣性”和“觀點(diǎn)的多樣性”，這些多樣性帶來(lái)的泛化能力與“思考”的方法是傳統(tǒng)搜索引擎類(lèi)的問(wèn)答模式遠(yuǎn)不能及的。

　　ChatGPT的不可解釋性

　　目前的一種思路認(rèn)為，人工智能需要具有“可解釋性”。以自動(dòng)駕駛為例，如果自動(dòng)駕駛的原理不可解釋?zhuān)侨藗兙蜔o(wú)法分析交通事故的發(fā)生原因，因而就很難改進(jìn)、提升自動(dòng)駕駛的安全性。因此對(duì)于此類(lèi)科學(xué)技術(shù)來(lái)說(shuō)，可解釋性非常重要。

　　然而，對(duì)于ChatGPT這樣的技術(shù)應(yīng)用而言，可解釋性是否依舊重要?李星教授認(rèn)為，對(duì)此必須要打一個(gè)問(wèn)號(hào)。

　　他提到，雖然ChatGPT背后也有其遵循的、可理解的科學(xué)理論，但其強(qiáng)大表現(xiàn)的根源在于海量的數(shù)據(jù)和強(qiáng)大的算力。俗話說(shuō)“大力出奇跡”，正是基于這種巨大的算力和數(shù)據(jù)支持，ChatGPT展現(xiàn)出了迄今為止只有人類(lèi)身上才會(huì)出現(xiàn)的智能行為。盡管我們知道ChatGPT是通過(guò)訓(xùn)練得到的，但是訓(xùn)練一個(gè)人工智能模型的過(guò)程，即模型參數(shù)的優(yōu)化，有時(shí)候更像是玄學(xué)中的“煉丹”過(guò)程。如何調(diào)參?為什么這樣調(diào)參?到現(xiàn)在也沒(méi)有非常精確、完備的理論與方法，而這種隨機(jī)性和試驗(yàn)性正是ChatGPT不可解釋性的來(lái)源。

　　因此，李星教授認(rèn)為，按照傳統(tǒng)思路，我們應(yīng)該先對(duì)人造事物進(jìn)行深入理解，然后繼續(xù)研究和應(yīng)用。然而，ChatGPT打破了這種傳統(tǒng)路徑。對(duì)于ChatGPT，我們可以將其視為一種由上帝或自然界本身創(chuàng)造的產(chǎn)物，我們首先接受、使用和運(yùn)行它，然后進(jìn)一步研究和理解它，而這與過(guò)去技術(shù)發(fā)明中先理解規(guī)律再進(jìn)行應(yīng)用的過(guò)程恰好相反。

　　基于此，李星教授認(rèn)為，通用人工智能的真正生命力和靈魂在于其不可解釋性。

　　回顧科技發(fā)展史，計(jì)算機(jī)的發(fā)明是一個(gè)明顯的分界線。在計(jì)算機(jī)出現(xiàn)之前，人們發(fā)明的機(jī)器如電話、洗衣機(jī)、電冰箱、收音機(jī)等，都是具有單一、明確和固定功能的機(jī)器。然而，計(jì)算機(jī)完全不同，雖然它也由CPU、內(nèi)存、硬盤(pán)、顯示器、鍵盤(pán)等固定組件構(gòu)成，但它可以安裝各種不同的軟件，編寫(xiě)不同類(lèi)型的程序，每個(gè)軟件都有不同的功能和作用。計(jì)算機(jī)的使用方式如此豐富多樣，呈現(xiàn)出的結(jié)果如此多樣化，是當(dāng)初設(shè)計(jì)計(jì)算機(jī)的人們所不能全部想到的。隨著時(shí)間的推移，人們會(huì)開(kāi)發(fā)出更多的功能，實(shí)現(xiàn)更多的創(chuàng)意，計(jì)算機(jī)的發(fā)展空間依然廣闊而無(wú)限。

　　而人工智能出現(xiàn)后，這種功能的不可確定又邁上了一個(gè)新的臺(tái)階。

　　在互聯(lián)網(wǎng)游戲中，人們可以通過(guò)對(duì)計(jì)算機(jī)編程來(lái)創(chuàng)造各種機(jī)制、類(lèi)型和規(guī)則的電子游戲。然而，人工智能可以創(chuàng)造自己的游戲，并決定所有的設(shè)定，使之順利地運(yùn)行，這使背后的原理和機(jī)制有可能超出人類(lèi)的理解能力。

　　不可解釋性的破解之道

　　“面對(duì)不可解釋性，我們必須要接受這一事實(shí)，接受它的存在，與之共生。”李星教授表示，在接受的同時(shí)，我們應(yīng)該努力研究和理解人工智能背后的規(guī)律。

　　他認(rèn)為，我們已有的學(xué)科體系和知識(shí)架構(gòu)中，物理學(xué)和數(shù)學(xué)具有較強(qiáng)的可解釋性，它們由極為精準(zhǔn)的數(shù)學(xué)公式與物理定律構(gòu)成，因此我們可以嘗試用確切的公式或清晰的模型去描述它。而生物學(xué)雖然也是一門(mén)解釋世界的學(xué)科，但是其清晰性和精準(zhǔn)性遠(yuǎn)低于物理學(xué)，很多生物學(xué)現(xiàn)象背后蘊(yùn)藏的機(jī)制與規(guī)律，人類(lèi)到現(xiàn)在也依舊無(wú)法清晰、準(zhǔn)確、嚴(yán)謹(jǐn)?shù)剡M(jìn)行解釋與描述，也就是說(shuō)，不同的學(xué)科、不同的事物，其可解釋性的程度也是完全不同的。

　　而由人類(lèi)從海量數(shù)據(jù)中“煉丹”后產(chǎn)生的ChatGPT，不可解釋性更加突出，它更像是一個(gè)有機(jī)的生命體。

　　然而，李星教授也提出了另一種可能性，即用來(lái)理解人工智能的科學(xué)體系和理論工具，至今尚未被發(fā)現(xiàn)。也就是說(shuō)，只有一種嶄新的理論工具誕生后，才能去真正揭示當(dāng)下人工智能的本質(zhì)和原理?！昂驮谖⒎e分的發(fā)明之前，我們?nèi)狈σ罁?jù)來(lái)科學(xué)地描述力學(xué)三大定律一樣。很有可能，用來(lái)研究ChatGPT與人工智能的數(shù)學(xué)工具尚未出現(xiàn)。”

　　綜上所述，李星教授認(rèn)為，盡管人工智能的不可解釋性是一個(gè)挑戰(zhàn)，但通過(guò)探索新的方法和工具，我們可以努力理解和揭示其規(guī)律。這可能涉及借鑒現(xiàn)有學(xué)科的經(jīng)驗(yàn)，同時(shí)也可能需要?jiǎng)?chuàng)造全新的科學(xué)體系和理論工具。只有這樣，我們才能更好地理解和應(yīng)用人工智能。

　　人工智能與人類(lèi)的距離

　　在對(duì)人工智能與人類(lèi)的距離問(wèn)題上，李星教授認(rèn)為，當(dāng)前人工智能在人類(lèi)視角下仍然是一個(gè)可用的工具，但與以往的工具有所不同，人工智能的基礎(chǔ)還是概率推斷，所以具有不可消除的隨機(jī)性。因此，它的回答有時(shí)是正確的，有時(shí)又像“一本正經(jīng)地胡說(shuō)八道”，對(duì)此，我們必須自己進(jìn)行判斷和決策，不能完全依賴(lài)它。

　　那么，人工智能發(fā)展下去會(huì)不會(huì)成為與人類(lèi)相似的獨(dú)立智能行為者?

　　針對(duì)這個(gè)問(wèn)題，李星教授認(rèn)為，首先，人工智能必須實(shí)現(xiàn)實(shí)體化并具備主體性。類(lèi)似于人類(lèi)需對(duì)自己的行為負(fù)責(zé)，人工智能也需要一個(gè)獨(dú)立實(shí)體來(lái)承擔(dān)責(zé)任。這種實(shí)體化并不僅僅是給人工智能一個(gè)外形，還要建立人工智能思考和推理機(jī)制與實(shí)體之間的緊密聯(lián)系，類(lèi)似于人的身體與頭腦之間的聯(lián)系。

　　其次，人工智能需要具備繁殖的能力。繁殖是生物延續(xù)生命的方式，通過(guò)進(jìn)化和留存不同因素，生命變得愈發(fā)智慧、靈活和強(qiáng)大，同時(shí)產(chǎn)生創(chuàng)造力。如果人工智能無(wú)法自行繁殖，它的能力只會(huì)隨時(shí)間流逝而衰減、停滯不前，最終被淘汰。

　　李星教授認(rèn)為，當(dāng)前的人工智能雖然具備一定的創(chuàng)作力和邏輯推理能力，但這只是人類(lèi)智能的一部分。人類(lèi)擁有完整的創(chuàng)造力、想象力和主觀意識(shí)，與人工智能的創(chuàng)作能力存在差異。

　　人類(lèi)創(chuàng)造力與人工智能創(chuàng)作力的區(qū)別，類(lèi)似于真正的藝術(shù)家與手藝熟練的工匠之間的區(qū)別，即道與術(shù)的區(qū)別。想象力也是如此。物理學(xué)家愛(ài)因斯坦在《論科學(xué)》一文中表示：“想象力比知識(shí)更重要，因?yàn)橹R(shí)是有限的，而想象力則概括著世界的一切，推動(dòng)著進(jìn)步，并且是知識(shí)進(jìn)化的源泉。”目前，人工智能雖看似掌握了“無(wú)限”的知識(shí)，但只要是知識(shí)就擁有邊界，與人類(lèi)的想象力相比，這種“無(wú)限”始終都是一種“有限”。

　　“至于人工智能最終能否模擬出接近人類(lèi)的創(chuàng)造力與想象力，這一點(diǎn)我們依舊不得而知?！崩钚墙淌谡f(shuō)。

　　人類(lèi)社會(huì)的動(dòng)物園化

　　ChatGPT出現(xiàn)后，有一種廣泛的擔(dān)憂迅速出現(xiàn)：人類(lèi)的工作會(huì)被人工智能取代嗎?

　　李星教授認(rèn)為，極端一點(diǎn)的可能性是，未來(lái)人類(lèi)社會(huì)有可能近似于一個(gè)超大規(guī)模的動(dòng)物園，大部分人可能會(huì)像動(dòng)物園中懶洋洋的、等待被喂養(yǎng)的動(dòng)物一樣，進(jìn)入“躺平”狀態(tài)，將大部分時(shí)間用于娛樂(lè)、休閑，只需要在特定時(shí)間填飽肚子，就萬(wàn)事大吉。

　　然而，他也表示，肯定會(huì)有一部分人不滿(mǎn)足于這種狀態(tài)?？倳?huì)有人意識(shí)到，真正重要且有意義的是實(shí)現(xiàn)目標(biāo)的過(guò)程，而非目標(biāo)本身。雖然目標(biāo)仍然是重要的前提條件，但對(duì)于真正的大師級(jí)人物來(lái)說(shuō)，最寶貴且精彩的部分不在于達(dá)成目標(biāo)這一結(jié)果，而是在于奮斗、歷練、挑戰(zhàn)自我的過(guò)程。

　　因此，即使人工智能發(fā)展得更加強(qiáng)大，人類(lèi)社會(huì)也有可能進(jìn)入某種“躺平”狀態(tài)，但仍然會(huì)存在那些不滿(mǎn)足于此的人，他們將繼續(xù)追求目標(biāo)，并在奮斗的過(guò)程中找到真正的價(jià)值和意義。

　　挑戰(zhàn)與機(jī)遇并存的偉大時(shí)代

　　“人工智能和各種人工智能技術(shù)的意義與互聯(lián)網(wǎng)中TCP/IP協(xié)議的意義類(lèi)似，甚至可能更為重要，影響更廣泛?！崩钚墙淌谡J(rèn)為，與互聯(lián)網(wǎng)的發(fā)明、普及和使用相比，人工智能對(duì)人類(lèi)社會(huì)的影響更為深遠(yuǎn)。

　　然而，人工智能的影響有正面和負(fù)面兩個(gè)方面。人工智能的缺點(diǎn)給我們帶來(lái)了挑戰(zhàn)，但同時(shí)其優(yōu)勢(shì)也給我們帶來(lái)了無(wú)限機(jī)遇。對(duì)于互聯(lián)網(wǎng)領(lǐng)域的研究人員而言，李星教授認(rèn)為面臨著至少兩個(gè)重大挑戰(zhàn)。

　　首先是“分布式”的挑戰(zhàn)。目前大型的人工智能計(jì)算模型如ChatGPT都是集中式的，而互聯(lián)網(wǎng)的本質(zhì)是分布式的，也就是說(shuō)人工智能與互聯(lián)網(wǎng)的設(shè)計(jì)原理正好相反。作為互聯(lián)網(wǎng)研究人員，李星教授認(rèn)為，ChatGPT和人工智能要能夠進(jìn)行大規(guī)模分布式部署，而非集中化。當(dāng)然，分布式也存在它本身的問(wèn)題，例如在分布式后人工智能的計(jì)算效率是否能夠維持甚至提高?整個(gè)體系是否能夠良好地運(yùn)轉(zhuǎn)?等的問(wèn)題需要進(jìn)一步去探索。

　　第二個(gè)挑戰(zhàn)是“可信任性”。ChatGPT有時(shí)會(huì)“一本正經(jīng)地胡說(shuō)八道”。根據(jù)其隨機(jī)性原理，目前可以認(rèn)為不是故意地胡說(shuō)八道。然而，未來(lái)可能會(huì)出現(xiàn)成千上萬(wàn)種類(lèi)似ChatGPT的服務(wù)，不排除存在故意提供錯(cuò)誤信息的情況。因此，可信任性是非常重要的。我們是否可以通過(guò)互聯(lián)網(wǎng)的基礎(chǔ)設(shè)施提供某種程度的可信任性?

　　李星教授提到，當(dāng)最初在推廣IPv6時(shí)，大家一直在尋找IPv6的“殺手級(jí)應(yīng)用”。最初認(rèn)為，在線視頻和物聯(lián)網(wǎng)可能是IPv6的殺手級(jí)應(yīng)用，但后來(lái)發(fā)現(xiàn)IPv4也可以滿(mǎn)足這些需求。

　　“所以IPv6的殺手級(jí)應(yīng)用到底是什么?我們?cè)谧鯥Pv4/IPv6無(wú)狀態(tài)翻譯過(guò)渡技術(shù)IVI時(shí)，提出與IPv4互聯(lián)互通才是IPv6的殺手級(jí)應(yīng)用?，F(xiàn)在我覺(jué)得，還應(yīng)該加上機(jī)器人聯(lián)網(wǎng)(甚至是神經(jīng)元聯(lián)網(wǎng))，也就是人工智能與機(jī)器人之間的相連，這應(yīng)該也是IPv6的殺手級(jí)應(yīng)用。”李星教授說(shuō)。

　　“這是最好的時(shí)代，這是最壞的時(shí)代?！边@句話用來(lái)描述人工智能的時(shí)代，恰如其分。李星教授認(rèn)為，在人工智能等新事物出現(xiàn)后，我們?cè)械闹R(shí)和技能可以與新事物相互匹配、相互融合、互相整合。即使兩者之間存在矛盾，也無(wú)關(guān)緊要，因?yàn)樵谀Σ僚鲎仓锌赡軙?huì)產(chǎn)生更具創(chuàng)新性和有趣的東西。這是技術(shù)爆發(fā)時(shí)代賦予人類(lèi)的饋贈(zèng)，也是我們應(yīng)當(dāng)抓住的機(jī)會(huì)。

　　本文根據(jù)清華大學(xué)電子工程系李星教授的采訪觀點(diǎn)整理

　　撰文：王雅靜，ChatGPT 對(duì)此文亦有貢獻(xiàn)