我的新書《智能革命后的世界：AI技術(shù)與人類社會(huì)的命運(yùn)》，嘗試對(duì)一些智能革命與人類未來(lái)的問(wèn)題進(jìn)行回答。它是我規(guī)劃的“AI時(shí)代三部曲”的第一部，接下來(lái)的兩部擬題為“AI性別”“AI與人”，前者聚焦“生活世界的智能化”，后者討論“AI時(shí)代人的機(jī)器化”。
我為什么會(huì)執(zhí)著于AI的跨學(xué)科反思？因?yàn)榘ㄎ以趦?nèi)，越來(lái)越多的學(xué)者認(rèn)為，隨著智能革命的急速推進(jìn)，人類社會(huì)正在發(fā)生翻天覆地的變化。
對(duì)此，一些人歡欣鼓舞，自稱為“機(jī)器人帶路黨”；而另一些人則深感末日來(lái)臨，呼吁暫停甚至取締某些AI研究。無(wú)論如何，極少有人否認(rèn)智能革命的偉力正在彰顯。
一
在我看來(lái)，人類社會(huì)自20世紀(jì)下半葉就已經(jīng)進(jìn)入機(jī)器人勞動(dòng)社會(huì)。生成式人工智能（GAI）的興起，標(biāo)志著智能社會(huì)開始進(jìn)入AI輔助生存社會(huì)。也就是說(shuō)，很快人類就將處于AI輔助生存的環(huán)境中。在AI輔助生存社會(huì)中，人類的生活、學(xué)習(xí)和工作，比如規(guī)劃旅游、給領(lǐng)導(dǎo)寫稿子、學(xué)習(xí)編程，都將在AI的幫助下完成。
接下來(lái)，也許不需要100年時(shí)間，有人甚至預(yù)計(jì)是20年，機(jī)器人便有能力取代人類所有的體力勞動(dòng)和絕大部分的腦力勞動(dòng)。彼時(shí)，如果機(jī)器人火力全開，完全可以將科技生產(chǎn)力提升到今天的人們難以想象的高度。于是，AI輔助生存社會(huì)演化為AI替代勞動(dòng)社會(huì)，理論上人類基本不再需要?jiǎng)趧?dòng)。
按照馬克思主義原理，以機(jī)器人勞動(dòng)為基礎(chǔ)的新質(zhì)生產(chǎn)力，必然引發(fā)經(jīng)濟(jì)制度變革，接著是政治、社會(huì)、生態(tài)和文化等各個(gè)方面的全面革新。
比如，在經(jīng)濟(jì)方面，我們將面臨兩大問(wèn)題。一是AI增長(zhǎng)極限問(wèn)題，即地球資源最終設(shè)定了人類經(jīng)濟(jì)增長(zhǎng)的“天花板”，而24小時(shí)不眠不休的機(jī)器人勞動(dòng)會(huì)很快抵達(dá)這一“天花板”。二是AI富裕社會(huì)問(wèn)題，即AI科技生產(chǎn)力所生產(chǎn)的物質(zhì)財(cái)富遠(yuǎn)遠(yuǎn)超過(guò)社會(huì)成員舒適生活所需時(shí)，問(wèn)題的重心就會(huì)越來(lái)越急迫地轉(zhuǎn)向如何公正而合理地分配，而不是之前的如何生產(chǎn)更多的產(chǎn)品。如果能處理好經(jīng)濟(jì)制度創(chuàng)新問(wèn)題，接下來(lái)的問(wèn)題就是：如此巨大的生產(chǎn)力不能僅限于滿足人類的欲望，要不要尋找更高的發(fā)展目標(biāo)，如何從地球文明向星際文明躍遷？
比如，在知識(shí)方面，人工智能驅(qū)動(dòng)科研（AI for science）將極大提高科研活動(dòng)的效率，有人甚至擔(dān)心它會(huì)大量取代人類科研活動(dòng)；而人工智能生產(chǎn)內(nèi)容（AIGC）使得網(wǎng)上各種虛假信息泛濫。今天的問(wèn)題已經(jīng)不再是缺乏知識(shí)，相反人類社會(huì)開始患上“知識(shí)的冗余癥”，知識(shí)帶來(lái)的好處與它產(chǎn)生的麻煩開始處于相持狀態(tài)。未來(lái)人們將越來(lái)越多地為知識(shí)太多而苦惱，我稱之為“知識(shí)的銀屑病”，搜索引擎便是醫(yī)治此病的一味藥。更重要的是，知識(shí)不僅過(guò)載，還出現(xiàn)質(zhì)量越來(lái)越差的情況。
二
我認(rèn)為，類似的分析還不夠深入。我們正處于十字路口，從根本上說(shuō)，在于智能革命改造自然和社會(huì)的力量深入到人本身。智人在肉身和觀念兩個(gè)方面正在發(fā)生巨變，某種“新人類”必定在智能革命之后登場(chǎng)。
在肉身方面，預(yù)計(jì)存在兩種類型：一是賽博格，二是數(shù)字人。所謂賽博格進(jìn)路，本質(zhì)上是人與AI的融合，人類成為字面意義上的智能機(jī)器。所謂數(shù)字人進(jìn)路，指的是一些人主張通過(guò)數(shù)字復(fù)活或意識(shí)上傳的方式，使人在元宇宙中實(shí)現(xiàn)永生，人類徹底擺脫肉身的束縛。
智能革命對(duì)人類肉身的改變已經(jīng)開始。比如，自我測(cè)量、量化自我越來(lái)越流行。手上戴著腕表，家里備著血壓計(jì)、裝著攝像頭，吃東西有食譜，買東西看配料表，不斷從自己身上攫取各種數(shù)據(jù)，與標(biāo)準(zhǔn)量表相對(duì)照，并設(shè)計(jì)科學(xué)的塑身方案。
隨著智能革命不斷推進(jìn)，越來(lái)越多的人支持運(yùn)用新科技對(duì)智人肉身進(jìn)行改造或強(qiáng)化，即所謂“身心設(shè)計(jì)”。他們主要有3個(gè)理由：第一，想在機(jī)器人勞動(dòng)社會(huì)中與AI進(jìn)行勞動(dòng)競(jìng)爭(zhēng)，不至于成為“無(wú)用之人”，不得不進(jìn)行身心設(shè)計(jì)。第二，AI不斷“進(jìn)化”，加劇智人身心的退化，如人越來(lái)越愚蠢，需要用身心設(shè)計(jì)遏止。第三，未來(lái)與硅基生命的競(jìng)爭(zhēng)中，作為碳基生命的智人處于明顯劣勢(shì)，需要身心設(shè)計(jì)來(lái)扭轉(zhuǎn)。
身心設(shè)計(jì)論者主張的是一條“人的機(jī)器化”之路。智能社會(huì)最大的問(wèn)題，不再是機(jī)器的人化，而是人的機(jī)器化。更進(jìn)一步，發(fā)生巨變的不僅是人的身體，我們的精神也在發(fā)生巨變。一言以蔽之，我稱之為“科學(xué)人崛起”。
比如，越來(lái)越多的人討論能動(dòng)者、討論機(jī)器人權(quán)利。這說(shuō)明大家開始相信，人和機(jī)器人均為能動(dòng)者，機(jī)器人也有權(quán)利，人只是另一種智能機(jī)器。
類似的新觀念的流行，彰顯出人對(duì)自身理解的現(xiàn)實(shí)轉(zhuǎn)變。什么是人呢？人們不再信服哲學(xué)、文學(xué)、宗教、神話、巫術(shù)乃至迷信的解釋，越來(lái)越多地求助于新科技對(duì)智人研究的新成果。人類行為與情感被還原為物理、化學(xué)和生物參數(shù)，將人性瑕疵視為正常的演化缺陷。譬如，愛(ài)情根本不是源于苔絲的純情或卡門的瘋狂，而是某些化學(xué)物質(zhì)如多巴胺、內(nèi)啡肽的分泌。
這些新成果勾勒出“科學(xué)人”的形象，而“人的機(jī)器化”不過(guò)是“科學(xué)人崛起”的實(shí)踐表征。“科學(xué)人”的核心觀念在于——人可以也應(yīng)該被測(cè)量、控制和改造。那些關(guān)于人的不可測(cè)的東西，如靈魂、意志、心靈呢？它們將被斥責(zé)為多余的形而上學(xué)“闌尾”，遲早要全部被切除。
科學(xué)人相信，人形機(jī)器挺好的，純潔而無(wú)辜，相反人卻有一顆被玷污而蒙塵之心。韓國(guó)科幻劇《人類滅亡報(bào)告書》中有個(gè)情節(jié)，說(shuō)的是寺廟中的機(jī)器人先于和尚得道涅槃，和尚們得向它請(qǐng)教。
三
在奔向未來(lái)的旅程中，存在一道巨大的“AI文明危崖”。21世紀(jì)以降，很多思想家都開始關(guān)切當(dāng)下的文明是否存在全局性的崩潰，甚至滅絕的生存性風(fēng)險(xiǎn)，使得人類社會(huì)如跌落懸崖一般，突然陷入黑暗甚至永夜之中？這便是廣為討論的“文明危崖問(wèn)題”。
經(jīng)常被提及的生存性風(fēng)險(xiǎn)主要有氣候變化、核戰(zhàn)爭(zhēng)和新發(fā)病毒，而超級(jí)AI的威脅并未被嚴(yán)肅對(duì)待。雖然我認(rèn)為，AI的生存性風(fēng)險(xiǎn)的確很難排在前面，但是AI與全球性災(zāi)難融合在一起，將極大增加文明危崖的風(fēng)險(xiǎn)。比如，AI+核大戰(zhàn)、AI+生化武器，以及GAI加劇能源危機(jī)等。
在AI時(shí)代，我們?nèi)绾伪苊獾湮拿魑Ｑ履兀咳宋难芯繎?yīng)關(guān)注新科技發(fā)展對(duì)社會(huì)的沖擊，尤其要預(yù)測(cè)風(fēng)險(xiǎn)、預(yù)見問(wèn)題，提醒社會(huì)未雨綢繆，防患于未然，看護(hù)社會(huì)福祉和公眾利益。無(wú)論何時(shí)，人類都要努力控制包括AI在內(nèi)的所有新科技發(fā)展，使之有益于人類福祉。如果不確定AI的某一發(fā)展是否真正有益，就應(yīng)該停止、轉(zhuǎn)變和重置此種AI發(fā)展進(jìn)路，此即我稱之的“AI發(fā)展的有限主義進(jìn)路”。從根本上說(shuō)，這并非以人文為名阻礙新科技發(fā)展，而是以新科技健康發(fā)展為目標(biāo)的保駕護(hù)航之舉。
來(lái)源：《中國(guó)科學(xué)報(bào)》
