我的新書《智能革命后的世界：AI技術與人類社會的命運》，嘗試對一些智能革命與人類未來的問題進行回答。它是我規劃的“AI時代三部曲”的第一部，接下來的兩部擬題為“AI性別”“AI與人”，前者聚焦“生活世界的智能化”，后者討論“AI時代人的機器化”。
我為什么會執著于AI的跨學科反思？因為包括我在內，越來越多的學者認為，隨著智能革命的急速推進，人類社會正在發生翻天覆地的變化。
對此，一些人歡欣鼓舞，自稱為“機器人帶路黨”；而另一些人則深感末日來臨，呼吁暫停甚至取締某些AI研究。無論如何，極少有人否認智能革命的偉力正在彰顯。
一
在我看來，人類社會自20世紀下半葉就已經進入機器人勞動社會。生成式人工智能（GAI）的興起，標志著智能社會開始進入AI輔助生存社會。也就是說，很快人類就將處于AI輔助生存的環境中。在AI輔助生存社會中，人類的生活、學習和工作，比如規劃旅游、給領導寫稿子、學習編程，都將在AI的幫助下完成。
接下來，也許不需要100年時間，有人甚至預計是20年，機器人便有能力取代人類所有的體力勞動和絕大部分的腦力勞動。彼時，如果機器人火力全開，完全可以將科技生產力提升到今天的人們難以想象的高度。于是，AI輔助生存社會演化為AI替代勞動社會，理論上人類基本不再需要勞動。
按照馬克思主義原理，以機器人勞動為基礎的新質生產力，必然引發經濟制度變革，接著是政治、社會、生態和文化等各個方面的全面革新。
比如，在經濟方面，我們將面臨兩大問題。一是AI增長極限問題，即地球資源最終設定了人類經濟增長的“天花板”，而24小時不眠不休的機器人勞動會很快抵達這一“天花板”。二是AI富裕社會問題，即AI科技生產力所生產的物質財富遠遠超過社會成員舒適生活所需時，問題的重心就會越來越急迫地轉向如何公正而合理地分配，而不是之前的如何生產更多的產品。如果能處理好經濟制度創新問題，接下來的問題就是：如此巨大的生產力不能僅限于滿足人類的欲望，要不要尋找更高的發展目標，如何從地球文明向星際文明躍遷？
比如，在知識方面，人工智能驅動科研（AI for science）將極大提高科研活動的效率，有人甚至擔心它會大量取代人類科研活動；而人工智能生產內容（AIGC）使得網上各種虛假信息泛濫。今天的問題已經不再是缺乏知識，相反人類社會開始患上“知識的冗余癥”，知識帶來的好處與它產生的麻煩開始處于相持狀態。未來人們將越來越多地為知識太多而苦惱，我稱之為“知識的銀屑病”，搜索引擎便是醫治此病的一味藥。更重要的是，知識不僅過載，還出現質量越來越差的情況。
二
我認為，類似的分析還不夠深入。我們正處于十字路口，從根本上說，在于智能革命改造自然和社會的力量深入到人本身。智人在肉身和觀念兩個方面正在發生巨變，某種“新人類”必定在智能革命之后登場。
在肉身方面，預計存在兩種類型：一是賽博格，二是數字人。所謂賽博格進路，本質上是人與AI的融合，人類成為字面意義上的智能機器。所謂數字人進路，指的是一些人主張通過數字復活或意識上傳的方式，使人在元宇宙中實現永生，人類徹底擺脫肉身的束縛。
智能革命對人類肉身的改變已經開始。比如，自我測量、量化自我越來越流行。手上戴著腕表，家里備著血壓計、裝著攝像頭，吃東西有食譜，買東西看配料表，不斷從自己身上攫取各種數據，與標準量表相對照，并設計科學的塑身方案。
隨著智能革命不斷推進，越來越多的人支持運用新科技對智人肉身進行改造或強化，即所謂“身心設計”。他們主要有3個理由：第一，想在機器人勞動社會中與AI進行勞動競爭，不至于成為“無用之人”，不得不進行身心設計。第二，AI不斷“進化”，加劇智人身心的退化，如人越來越愚蠢，需要用身心設計遏止。第三，未來與硅基生命的競爭中，作為碳基生命的智人處于明顯劣勢，需要身心設計來扭轉。
身心設計論者主張的是一條“人的機器化”之路。智能社會最大的問題，不再是機器的人化，而是人的機器化。更進一步，發生巨變的不僅是人的身體，我們的精神也在發生巨變。一言以蔽之，我稱之為“科學人崛起”。
比如，越來越多的人討論能動者、討論機器人權利。這說明大家開始相信，人和機器人均為能動者，機器人也有權利，人只是另一種智能機器。
類似的新觀念的流行，彰顯出人對自身理解的現實轉變。什么是人呢？人們不再信服哲學、文學、宗教、神話、巫術乃至迷信的解釋，越來越多地求助于新科技對智人研究的新成果。人類行為與情感被還原為物理、化學和生物參數，將人性瑕疵視為正常的演化缺陷。譬如，愛情根本不是源于苔絲的純情或卡門的瘋狂，而是某些化學物質如多巴胺、內啡肽的分泌。
這些新成果勾勒出“科學人”的形象，而“人的機器化”不過是“科學人崛起”的實踐表征。“科學人”的核心觀念在于——人可以也應該被測量、控制和改造。那些關于人的不可測的東西，如靈魂、意志、心靈呢？它們將被斥責為多余的形而上學“闌尾”，遲早要全部被切除。
科學人相信，人形機器挺好的，純潔而無辜，相反人卻有一顆被玷污而蒙塵之心。韓國科幻劇《人類滅亡報告書》中有個情節，說的是寺廟中的機器人先于和尚得道涅槃，和尚們得向它請教。
三
在奔向未來的旅程中，存在一道巨大的“AI文明危崖”。21世紀以降，很多思想家都開始關切當下的文明是否存在全局性的崩潰，甚至滅絕的生存性風險，使得人類社會如跌落懸崖一般，突然陷入黑暗甚至永夜之中？這便是廣為討論的“文明危崖問題”。
經常被提及的生存性風險主要有氣候變化、核戰爭和新發病毒，而超級AI的威脅并未被嚴肅對待。雖然我認為，AI的生存性風險的確很難排在前面，但是AI與全球性災難融合在一起，將極大增加文明危崖的風險。比如，AI+核大戰、AI+生化武器，以及GAI加劇能源危機等。
在AI時代，我們如何避免跌落文明危崖呢？人文研究應關注新科技發展對社會的沖擊，尤其要預測風險、預見問題，提醒社會未雨綢繆，防患于未然，看護社會福祉和公眾利益。無論何時，人類都要努力控制包括AI在內的所有新科技發展，使之有益于人類福祉。如果不確定AI的某一發展是否真正有益，就應該停止、轉變和重置此種AI發展進路，此即我稱之的“AI發展的有限主義進路”。從根本上說，這并非以人文為名阻礙新科技發展，而是以新科技健康發展為目標的保駕護航之舉。
來源：《中國科學報》
