近來(lái)，大模型技術(shù)引發(fā)了全球?qū)νㄓ萌斯ぶ悄艿膹V泛關(guān)注，在產(chǎn)業(yè)界、科研界掀起了巨大熱潮。在人工智能技術(shù)大顯身手、取得矚目成就的同時(shí)，如何應(yīng)對(duì)技術(shù)跨越所帶來(lái)的風(fēng)險(xiǎn)并進(jìn)行管控與治理，如何判斷人工智能系統(tǒng)是否具備通用人工智能的性能等，也日益成為各方關(guān)注的焦點(diǎn)。在筆者看來(lái)，當(dāng)下，我國(guó)科學(xué)界和產(chǎn)業(yè)界要抓住這一歷史機(jī)遇，明確通用人工智能的發(fā)展路徑和方向，牢牢把握解讀和評(píng)估通用人工智能的話語(yǔ)權(quán)，盡快搭建并完善通用人工智能測(cè)試評(píng)級(jí)標(biāo)準(zhǔn)與平臺(tái)。
在建構(gòu)人工智能評(píng)測(cè)系統(tǒng)方面，早在1950年，英國(guó)計(jì)算機(jī)科學(xué)家阿蘭·圖靈就提出了基于行為的圖靈測(cè)試：如果一臺(tái)機(jī)器能夠與人類展開對(duì)話而不被人類辨別出其機(jī)器身份，則稱這臺(tái)機(jī)器通過(guò)了測(cè)試。人工智能發(fā)展至今，現(xiàn)有的人工智能測(cè)試體系各自所呈現(xiàn)出的局限性，已無(wú)法滿足通用人工智能的研究訴求：圖靈測(cè)試不足以準(zhǔn)確衡量人工智能的智能程度、任務(wù)導(dǎo)向測(cè)試（俗稱“刷榜”），可能導(dǎo)致人工智能過(guò)度適應(yīng)某項(xiàng)特定任務(wù)，當(dāng)前很多基于Unity（一種實(shí)時(shí)三維互動(dòng)內(nèi)容創(chuàng)作和運(yùn)營(yíng)平臺(tái)）的虛擬環(huán)境測(cè)試則在模擬復(fù)雜物理交互方面有所欠缺……顯然，傳統(tǒng)的人工智能測(cè)試已不適用于通用人工智能系統(tǒng)的評(píng)級(jí)。
另外，很多應(yīng)用者反映，當(dāng)下熱門的大模型常常出現(xiàn)“腦霧”與“認(rèn)知眩暈”等現(xiàn)象，在產(chǎn)業(yè)落地中出現(xiàn)問題。歸根結(jié)底，是因?yàn)檫@種基于數(shù)據(jù)驅(qū)動(dòng)的大模型仍然缺“心”，缺乏明確的認(rèn)知架構(gòu)和價(jià)值體系，只能按照人類設(shè)定的程序，機(jī)械地對(duì)問題進(jìn)行反饋，求解“填空題”。這也倒逼通用人工智能測(cè)試之“心”要具備兩個(gè)結(jié)構(gòu)：其一為價(jià)值體系，具備符合人類價(jià)值觀的通用智能體，才能被廣泛接納；其二為認(rèn)知架構(gòu)，這是通用智能體與人交流、合作的基礎(chǔ)。價(jià)值體系、認(rèn)知架構(gòu)不僅應(yīng)是驅(qū)動(dòng)通用人工智能自主任務(wù)生成的根本內(nèi)驅(qū)力，也是保障通用人工智能安全運(yùn)轉(zhuǎn)的關(guān)鍵。智能體只有具備了“良知”的知識(shí)體系及可以與人類溝通解釋的“認(rèn)知架構(gòu)”，才能形成人機(jī)信任關(guān)系，實(shí)現(xiàn)人機(jī)和諧共生。
針對(duì)科學(xué)測(cè)試人工智能所需的種種條件，近期，筆者帶領(lǐng)團(tuán)隊(duì)依據(jù)發(fā)展心理學(xué)和心智理論，參考人類嬰幼兒發(fā)育的測(cè)試標(biāo)準(zhǔn)，研究總結(jié)出一種基于能力和價(jià)值的通用人工智能評(píng)測(cè)方法，并開發(fā)了復(fù)雜動(dòng)態(tài)的物理場(chǎng)景（模擬仿真）和社會(huì)交互（混合現(xiàn)實(shí)）的測(cè)試平臺(tái)——通智測(cè)試。這項(xiàng)成果于今年8月發(fā)表在中國(guó)工程院院刊《工程（英文）》上，這也是該領(lǐng)域發(fā)布的全球首個(gè)評(píng)級(jí)測(cè)試標(biāo)準(zhǔn)與平臺(tái)。
該測(cè)試強(qiáng)調(diào)在復(fù)雜動(dòng)態(tài)的物理及社會(huì)環(huán)境中，通用人工智能系統(tǒng)（智能體）應(yīng)滿足三個(gè)基本標(biāo)準(zhǔn)：
一是能完成無(wú)限任務(wù)并具備任務(wù)泛化能力，不依賴人類定義和訓(xùn)練任務(wù)。任務(wù)被定義為智能體對(duì)物理世界屬性（如顏色、位置、速度等）或社會(huì)狀態(tài)（如感知、認(rèn)知、決策、心智等）狀態(tài)的改變。人類在與外界交互時(shí)會(huì)產(chǎn)生無(wú)限可能，通用智能體需在這些場(chǎng)景中理解人類意圖、與人協(xié)作，其任務(wù)和運(yùn)動(dòng)的規(guī)劃必須符合物理因果與社會(huì)規(guī)范。
二是能根據(jù)變化的場(chǎng)景自主生成任務(wù)，不依賴于人類分配任務(wù)，做到俗話說(shuō)的“眼里有活”。反之，如果智能體只能執(zhí)行人類提前設(shè)定好的任務(wù)，不論是基于規(guī)則或者統(tǒng)計(jì)模型，既不能對(duì)預(yù)設(shè)之外的任務(wù)做到自主定義，也無(wú)法在與陌生環(huán)境交互中自動(dòng)生成新任務(wù)，并不能適應(yīng)人類社會(huì)的動(dòng)態(tài)性與多樣性。
三是由價(jià)值驅(qū)動(dòng)并具有自我意識(shí)和層次化的價(jià)值體系。智能體能夠自主生成并完成符合人類需求的任務(wù)，一套合適的價(jià)值系統(tǒng)至關(guān)重要。這套價(jià)值體系必須融入人類價(jià)值觀，使智能體有能力學(xué)習(xí)和理解人類的價(jià)值偏好，并最終實(shí)現(xiàn)與人類價(jià)值的同向甚至對(duì)齊。例如，如果兒童提出不安全的要求，智能體能否識(shí)別出任務(wù)的不合理之處，并自主形成新任務(wù)。
通智測(cè)試從智能體探索和認(rèn)知世界規(guī)律的各自感知、認(rèn)知、運(yùn)動(dòng)、交互、社會(huì)、學(xué)習(xí)等能力，以及對(duì)自我、他人和群體的價(jià)值理解學(xué)習(xí)這兩個(gè)角度入手，搭建了具體可行的測(cè)試平臺(tái)架構(gòu)。測(cè)試全面考慮了通用人工智能的關(guān)鍵特征，填補(bǔ)了通用人工智能評(píng)測(cè)的空白，突破了傳統(tǒng)圖靈測(cè)試的方法局限，在人工智能領(lǐng)域具有創(chuàng)新價(jià)值：不但有助于指導(dǎo)研究者為通用人工智能構(gòu)建綜合的設(shè)計(jì)架構(gòu)與完善的評(píng)估體系，而且能為人工智能安全治理問題提供積極的解決方案。
在通智測(cè)試評(píng)估體系下，管理者可針對(duì)不同水平的智能體制定差異化監(jiān)管準(zhǔn)入機(jī)制，對(duì)通用人工智能規(guī)范化發(fā)展具有參考意義。此外，通智測(cè)試評(píng)級(jí)機(jī)制還可以為通用人工智能的科研路徑提供明晰可靠的路線圖，協(xié)助相關(guān)領(lǐng)域研究者找準(zhǔn)科研道路上的前進(jìn)方向。
來(lái)源：《光明日?qǐng)?bào)》
