《人工智能之不能》，馬兆遠著，中信出版社2020年3月出版
只有知道了人工智能的“不能”，對人工智能的了解才算全面。科學不是靜止的結論，它的結論是演進變化的；科學工作者也不是秉持真理的圣徒，他們只是秉持著對宇宙和人的好奇心而探索的人類中的一分子。
知其不能而能，“學問之道無他，求其放心而已矣”。
會存在一個超級人工智能系統嗎？人工智能會超越人嗎？在《人工智能之不能》中我分享了我的答案和思考。
1936年，圖靈在論文《論可計算函數和在可判定問題中的應用》中寫道：“按照我在本文中的設定，一個函數如果是機器可計算的，就是可計算函數……本文得出跟哥德爾的不完備定理極其一致的結論，尤其是，希爾伯特的可判定性問題是不可解問題。”
圖靈所指的“機器”就是我們后來說的圖靈機，圖靈這篇著名的論文是對哥德爾不完備定理的詮釋，他在文中指出了哪些問題是圖靈機做不了的，以此來拓展哥德爾的不完備定理證明。今天的人工智能設備，無非是這樣那樣的圖靈機，沒有例外。
回溯歷史，竟然是人類先發現了圖靈機做不了的事，而后才發明了它。但圖靈機是如此的強大和成功，那些“它做不了的事情”很快就被湮沒在故紙堆里。
我覺得我應該寫一些文字，向被遺忘的哥德爾等人類歷史上的偉大思考者致敬。和前一本我寫作的《量子大嘮嗑》一樣，我想以此做一些科學啟蒙的工作。而當我們能夠回溯科學的常識、回溯認知的常識時，會發現可以有更加平和的理解世界的態度。
近現代科學從牛頓開始，凡三百余年，大概經歷了兩個重要的階段。
科學的第一個階段，雖然以牛頓力學為思想有了很多新的結論和方法，但一定意義上還是舊的神學思想的延伸：存在一個客觀實在的主體，無非是這個主體從“上帝”換成了“自然”。至今我們依然不知道這是否一定是對的或者是錯的。這一階段，科學努力地把理性主義貫穿到科學的整體中去。因此要建立穩定的、可模型化的科學體系。
脫離了神的信仰，并沒有阻止科學的進步或者人們對真理的信仰，無非是那個絕對真理的主張，可以是上帝，也可以是自然。人們相信有客觀的、不由人所左右的規律存在于宇宙中。這一點不難理解，既然上帝不是為人類造了宇宙，那么人也沒有理由成為宇宙的中心或者是宇宙中最重要的物種。但人們有種內心的信心，或者說信仰，雖然不是天生的宇宙中心，但可以認識宇宙。
這自然滋生了人類的信心，人定勝天，認識世界是無窮盡的。
如果19世紀末的科學家有這樣的信心和勇氣，并不值得驚訝。從牛頓之后的兩百年已經取得了從自然到社會的重大進展，人們相信不僅自然可以認知，社會也可以，人心也可以。
在這個時候，這些知識也進入了中國，跟中國的傳統文化產生了激烈的斗爭而慢慢進入普通人的生活。科學也成為一個至高無上的名詞，代表了真理、正義。事實上它變成一個形容詞，等價于正確和不可侵犯，很多與科學無關的學問，也冠以科學之名并以此為榮。
問題是，一旦標榜自己為真理，事實上就成為它致命的弱點。一個反例就讓人們失去對它的信心，也讓本來陳舊的東西、本來該進入歷史塵灰的東西死灰復燃。20世紀初，當“李約瑟之問”提出時，科學或者被捧殺，或者被揚棄，艱難地在這個文明古國中開啟啟蒙之路。
但也就在這個時候，科學迎來了第二次革命，進入第二個階段。這次革命與上一次一樣，似乎開始只是在科學界，但這一百年來，它的影響已經滲透出去，彌散到人類的整個認知領域。
然而，由于中國還在糾纏于第一階段的科學革命和傳統文化的爭執中，對第二次革命的科學浪潮視而不見，而生生錯過了。
但這由不得你的緩慢而停下來等，一場轟轟烈烈的舊科學的革命在20世紀二三十年代又開始了。這場革命以愛因斯坦對量子力學的建立和反對，以哥德爾對經典數學的擁護和反對為起始點。這兩個本應該學術觀點對立的人成了莫逆之交，他們也從人類曠古爍今中呈現出來，他們倆自high，根本不在乎別人怎么看他們。
事實上，海森堡不確定性原理和哥德爾的不完備定理，都指向人類認知過程中的不確定性。雖然哥德爾本人對此毫不關心，甚至他受愛因斯坦影響，對量子力學沒有半點好感。
但只有這一片補上之后，我們才理解了科學為什么是這個樣子。首先，科學不代表絕對真理。哥德爾不完備定理證明了任何一個有限的理論體系，都會存在無法被證明的問題，直覺上我們可以認知的問題，未必能夠被理性證明或證偽。任何一個可以認為是真的判定，都必然有有限的前提，而這些前提無法證明其本身是正確的。
而可能最讓女性讀者開心的是，直覺無法從人類的認知中排除出去，甚至是在人類的認知中更重要的部分。這一切結論似乎跟人們從亞里士多德時代努力建立起來的理性主義、客觀唯物主義不同，甚至有些離經叛道，但似乎這樣的認知才更符合人類認識的真實感覺。
是的，對宇宙的認知到底是怎樣的過程、宇宙是怎樣的，我們至今沒有一個好的結論，甚至這個結論本身就不存在。因為這個結論也是宇宙的一部分。
我們曾經以為哥德爾不完備定理只是描述了一個小問題，但歷史的經驗告訴我們，一個偉大的理論的大廈，往往傾覆于一兩個反例。而以哥德爾為精神領袖的圖靈，把這個定理的適用范圍放大了。當我們用圖靈機來實現人工智能的任何一個算法的時候，并且圖靈宣稱每一個可描述算法都可以用圖靈機來實現的時候，不完備定理如幽靈般擴展到了每一個可描述的問題背后。可以說，圖靈機的應用有多廣泛，哥德爾不完備所涵蓋的范圍就有多廣泛。這一點，如同哥德爾第二不完備定理所講，是無窮盡的。
需要指出的是，現在學校教授的課程，還停留在第一代所謂經典科學的范疇之內，即19世紀的科學理論。
這樣的理論與人的認知發生沖突的時候，第一是讓以科學為新真理代言的人臉上難堪，進而憤怒，認為科學所不能解釋的問題更多，而科學本身也不可靠。第二是讓本來就沒有了解科學基本思想的人重新去抱殘守缺，搬出老祖宗，他們覺得還是祖傳的可靠。
然而敵人的敵人未必是你的朋友，在20世紀二三十年代，現代科學又一次革命了，對這次革命，我們的中學教育、大學教育都幾乎不去碰觸、不講，甚至是不知道。
回到人工智能本身，只有知道了人工智能的“不能”，對人工智能的了解才算全面。正如我們知道了理性的不能，對人類通過理性來認知世界才更全面。這才是更貼近常識的科學，它不是靜止的結論，它的結論是演進變化的。科學工作者也不是秉持真理的圣徒，他們只是秉持著對宇宙和人的奧秘的好奇心而探索的人類中的一分子。知其不能而能，“學問之道無他，求其放心而已矣”。
愛因斯坦評價哥德爾說，“與哥德爾交談，我才知道了數學中有跟物理一樣重要的東西”。如果說物理學是人類探索自然世界的第一道邊界，數學便是人類理性工具高度濃縮的精華。這兩者在20世紀二三十年代的發展，都告訴我們人類對世界認知的極限。這個極限超越了工具，但也鼓勵人們不再為工具擔憂。
在《人工智能之不能》中談到了“人識原理”：圖靈機保證了所有我們可認識、可描述的問題圖靈機都能做到，而我們不能描述的問題，圖靈機也做不到，但我們不能描述的問題，我們也不懂啊！因此，從理性邏輯角度講，我們不比圖靈機強多少，但它們也不會比我們強。但我們有直覺，至少這一點是不同的，無法用理性邏輯來取代。
當然，我們討論的不僅是數學哲學。最近二三十年的物理學和數學進展，同樣告訴人們，更多的問題超越了圖靈機，量子計算和計算復雜性問題，都超越了這一代圖靈機和它延伸出來的人工智能的能力。我們還遠遠不能夠描述人類的直覺來源、感情的產生，好在科學本身只是日拱一卒的努力，不求包羅萬象的萬能理論，只是“進一寸有一寸的歡喜”地慢慢來，日子久了，定然就有長足的進步了。
《量子大嘮嗑》和《人工智能之不能》這兩本書寫作了五年，這兩本書一本從物理出發，一本從數學出發，都在闡述什么是現代的科學認知和科學方法，一定意義上，是胡適那一代人科學啟蒙的繼續——我們不僅要用科學武裝我們的生產力，更要用科學令我們的頭腦現代化。
科學不代表靜止的真理，它是我們迄今能夠了解世界的最好的工具。
來源：《中國科學報》
