機器人玩冰壺游戲比人類還厲害！被別人要墨寶要煩了可以讓機器人替自己寫！10月18日，在由中國計算機學會（CCF）主辦的2019中國計算機大會（CNCC2019）上，當韓國高麗大學人工智能系主任李晟瑍教授和中國工程院院士徐揚生分享自己研發的機器人成果時，在場聽眾給予了熱烈的掌聲。
然而，同樣是在這次大會上，復旦大學教授王國豫也指出了人工智能（AI）發展的另一面，例如由算法偏見造成的性別、年齡、種族等歧視，以及由數據共享帶來的隱私泄露等。正如她所言，“人工智能的倫理問題已不是單個的技術問題，也不是算法問題，而是緣于技術系統和人的社會生活系統的交互作用。”
智能化引發的技術變革
“未來的社會將是智能化的社會，將是互聯網、云計算、大數據、物聯網與人工智能共舞的社會，將是智能+引領各行各業全面轉型提升變革的社會。”大會主席、中國科學院院士、南京大學校長呂建在10月17日致開幕詞時的這番話代表了目前計算機領域學術界和產業界對于未來發展趨勢的基本判斷。目前業界已經形成的共識是，無論是在傳統產業智能化轉型升級過程中，還是新興產業飛速發展的進程中，智能技術的重要性都日益凸顯，將作為基礎引領社會發展。
然而，隨著智能化社會的到來，首當其沖的就是信息技術各個細分領域迎來變革期的挑戰。
例如，就軟件發展而言，中國工程院院士陳左寧認為，“在以5G技術為代表的物聯網時代，萬物互聯成為軟件的必然要求和重要使能技術，系統軟件發展迎來了重要的變革期。”
其具體表現是，在泛在化的背景下，跟系統軟件相關的資源域、應用域、作用域等要素發生了變化。“軟件定義”的趨勢愈加明顯，整個IT架構可以重新整合并分配，提升系統靈活性和可擴展性。而根據泛在資源和泛在應用的變化，系統軟件的邊界必須能夠柔性定義，能夠和硬件、應用軟件垂直整合。在這一背景下，“未來系統軟件發展的核心將是生態”。陳左寧說。
今年是國際互聯網誕生50周年，也是中國接入互聯網25周年。在此之際，談及未來互聯網的發展方向，中國工程院院士吳建平認為，互聯網的關鍵核心技術是互聯網體系結構。多年來的發展證明，互聯網體系結構已經與計算機體系結構、軟件操作系統（OS）一起成為數字世界三大基礎性關鍵核心技術。然而，隨著智能化程度的日益加深，未來互聯網體系結構也將面臨擴展性、安全性、實時性、移動性和高性能等五大技術挑戰。例如，互聯網安全問題日益嚴峻，急需可信任基礎；互聯網缺乏實時性保證，許多應用受到限制等。
如何在現有的基礎上進行突破？徐揚生在分享他長達30多年研究人工智能的感悟時說：“很多人常常問我，你這個機器人做出來有什么用？我跟他說大多數機器人做出來其實都沒什么用，我做的時候也根本沒有想它有什么用，就是覺得挺好玩的。”
“搞科研就是這樣，不能太功利了。”徐揚生意味深長地說。
人工智能倫理的可行性探索
近年來，科學家們對于人工智能倫理的關注日漸增多，對此王國豫深有感觸。2015年，王國豫和國內外多名學者聯名在《科學》的Letters 欄目發表《承認人工智能的陰暗面》（Acknowledging AI’s dark side）時，國內學界對人工智能倫理的關注還不多，科學家就更少。
在王國豫看來，人工智能倫理起源于人們對人工智能技術風險的恐懼和擔憂。然而，人工智能不是單一的技術，而是涉及多方面的技術系統。作為促能技術，人工智能具有一種中介性，和社會的政治經濟文化系統與社會實踐交織在一起。
人工智能一旦獲得了自我意識，是否會“從奴隸到將軍”？對于這一問題，王國豫認為，從人的自主性和自由喪失的角度看，事實上我們今天已經感受到了人工智能在增強人的能力和行為自由的同時，使得人越來越依賴于它，這種依賴性也可以解釋為人的獨立性的喪失。因此，“我覺得如果我們不早作準備，理論上人對機器人將會越來越依賴，以致喪失人的自主性。”王國豫說。
近在眼前的現實是，人工智能因算法偏見導致的性別歧視、年齡歧視、種族歧視、地域歧視、語言偏見和相貌偏見，數據共享帶來的隱私泄露特別是群組隱私泄露問題，都已經到了亟待解決的地步。
因此，“人工智能倫理應該從可能性推測走向可行性探索。”王國豫認為，“人工智能倫理問題的治理，不僅是倫理學家的事情，也不僅是科學家和工程師的事情，而是需要更多的跨學科的合作。”
對于人工智能的未來，作為人工智能領域從業者，電氣和電子工程師協會會士（IEEE Fellow）、微軟亞洲研究院院長洪小文則持樂觀態度。他告訴大家，1950年，當人工智能還沒有出現的時候，《時代》周刊就已經發出了這樣的警告：“人類是否會制造出一個超人？”然而，時至今日，人工智能還處在弱人工智能發展階段，強人工智能還遙遙無期，仍然是“弱人工智能很強，而強人工智能很弱”。
在他看來，水能載舟亦能覆舟。因此，即便人工智能出現問題，“最后還是要怪人而不是怪技術”。
“卡脖子”問題的解決方案
自“中興事件”發生以來，如何解決“卡脖子”技術問題一直是學術界和產業界共同關注的話題。隨著智能化社會的到來，信息技術領域這一問題變得更加突出。
10月17日下午 CNCC2019上舉行的中國計算機學會青年計算機科技論壇（CCF YOCSEF），以“解決卡脖子技術問題，是力出一孔還是百花齊放”為主題探討了這一問題的解決方案。
論壇主持人北京并行科技股份有限公司董事長陳健和滴滴出行科技合作總監吳國斌將“卡脖子”技術總結為芯片制造工藝、超級計算機、5G等“硬卡”，操作系統“半卡”，EDA、工業軟件等“暗卡”多種形態。
北京彩智科技有限公司CEO徐劍軍認為，要想解決“卡脖子”難題，最關鍵的還是要發揮人的主觀能動性，如果過多強調“力出一孔”，多方整合、協調，反而會導致解決過程流于形式。“其實，歸根到底還是要激發市場的創造力。”
要想破解上述瓶頸，重在營造更好的學術環境和氛圍，改變目前比較浮躁的學風，讓學者們真正做他們應該做的事情，回歸最本質的問題。清華大學教授唐杰認為， “如果你在你的領域變成最牛的學者，或許就能幫國家解決這個‘卡脖子’的問題了。”
“‘卡脖子’問題，如果只是往后看，實際上我們是被動的，因為我們一直都在去彌補過去所沒有達到的高度，在做‘亡羊補牢’的跟隨和替代。事實上，面向未來，我們不只要關注已經落后的部分，更應該站在現在去想未來可能被‘卡’的地方，然后去突破它。”鵬城實驗室AI開源平臺辦公室主任劉明提醒說。
摘自《中國科學報》
