日本在线www-日本在线播放一区-日本在线不卡免费视频一区-日本在线不卡视频-成人影院久久久久久影院-成人影院一区二区三区

人工智能：機遇挑戰(zhàn)和安全風險并存

在科技發(fā)展史上，技術(shù)的進步和變革都會帶來“雙刃劍”效應(yīng)。從人工智能概念的提出，到人工智能應(yīng)用的落地，已經(jīng)影響到社會發(fā)展的諸多方面，而人工智能技術(shù)本身的安全問題和與此相關(guān)的安全威脅，同樣不容忽視。在各國出臺國家戰(zhàn)略、政策法規(guī)、制度措施等助力人工智能發(fā)展的同時，人工智能的安全、風險、法律與倫理等問題，值得關(guān)注。

新一代人工智能（AI）作為一項具有顛覆性的技術(shù)，正成為影響未來社會最重要的技術(shù)領(lǐng)域，世界各國紛紛出臺AI國家戰(zhàn)略，助力AI的創(chuàng)新與發(fā)展。然而，在AI的發(fā)展進程中，安全與風險問題也隨之上升到前所未有的高度。AI的風險與威脅，不僅會導(dǎo)致法律、倫理等方面的風險，同時，會引發(fā)社會、經(jīng)濟、軍事等重大領(lǐng)域的風險與安全。

2017年7月，國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》明確要求，在大力發(fā)展人工智能的同時，必須高度重視可能帶來的安全風險挑戰(zhàn)，加強前瞻預(yù)防與約束引導(dǎo)，最大限度降低風險，確保人工智能安全、可靠、可控發(fā)展。2018年10月，習(xí)近平總書記在主持中共中央政治局第九次集體學(xué)習(xí)時強調(diào)，要加強人工智能發(fā)展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控。要整合多學(xué)科力量，加強人工智能相關(guān)法律、倫理、社會問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德。

2017年11月，七十多個國家的代表出席了在日內(nèi)瓦舉行的聯(lián)合國《特定常規(guī)武器公約》（CCW）大會。在大會上，伯克利大學(xué)教授、資深A(yù)I研究者斯圖爾特·羅素（Stuart Russell）公布了一段十分恐怖的視頻，一群形似“殺人蜂”的小型機器人，沖進課堂，通過人臉識別和精準定位瞬間殺死了一群正在上課的學(xué)生。視頻中的這種形體類似殺人蜂的機器人，其內(nèi)置了各種傳感器、廣角攝像頭、支持面部識別，同時裝載3克炸藥。此外，它還具有反狙擊（anti-sniper）技術(shù)，完全基于AI，可輕易躲避人的抓捕。通過面部識別技術(shù)，該機器人可快速鎖定獵殺目標，對準額頭一擊致命，這個視頻讓所有參會代表心驚膽戰(zhàn)。

從人類誕生起，一共經(jīng)歷了兩次武器革命：第一次以火藥為代表，包括槍械和炮彈；第二次以核武器為代表，包括裂變原子彈和聚變氫彈等。每次武器革命，都給人類帶來了數(shù)不盡的災(zāi)難。然而，隨著新一代AI的發(fā)展，“致命性自主武器”（lethal autonomous weapons，LAWS）技術(shù)越來越成熟。LAWS實際上是一種軍用智能機器人，這種機器人與人臉識別、無人機、精準定位等技術(shù)的結(jié)合，可以不經(jīng)過人類干預(yù)，自主選擇和攻擊包括人員和裝備在內(nèi)的軍事目標。AI技術(shù)不是武器，但是，能夠成為武器性能提升的助推器，AI+無人機、AI+無人地面車輛、AI+無人潛航設(shè)備已經(jīng)廣泛應(yīng)用于軍事領(lǐng)域，機器人作戰(zhàn)系統(tǒng)也正在研究和部署。

2018年7月，在瑞典斯德哥爾摩舉辦的國際人工智能聯(lián)合會議上，包括SpaceX及特斯拉CEO埃隆·馬斯克（Elon Musk）、谷歌DeepMind的三位創(chuàng)始人在內(nèi)的超過2000名AI學(xué)者共同簽署《禁止致命性自主武器宣言》（Lethal Autonomous Weapons Pledge），宣誓不參與LAWS系統(tǒng)的開發(fā)、研制工作。筆者有幸參與簽署了這份宣言。這也是學(xué)界針對“殺人機器人”最大規(guī)模的一次集體發(fā)聲。

《禁止致命性自主武器宣言》呼吁，人的生命絕不能交給機器處置。我們的呼吁充滿了道德與倫理價值取向，如果讓機器人控制人的生死，那將是對社會、對人類最大的負罪，因此，人類在任何時候都不能被機器所掌控。LAWS在沒有人為干預(yù)的情況下會自動以人為目標進行攻擊，并致人死亡，這將給每個國家?guī)砜只?，給人類帶來傷害。

當前，共有28個聯(lián)合國成員國明確，公開支持禁止殺傷性自主武器系統(tǒng)的呼吁。在此，筆者呼吁：應(yīng)當在聯(lián)合國層面，由各主權(quán)國家討論“致命性自主武器”給全球性帶來的風險與安全問題，并簽署《聯(lián)合國禁止致命性自主武器公約》。

新一代AI的三大基石，即算法、數(shù)據(jù)和計算能力，其中，數(shù)據(jù)是新一代AI發(fā)展的基礎(chǔ)，計算能力將數(shù)據(jù)進行計算，算法則是針對不同行業(yè)建立的對應(yīng)的模型，滿足這三者，才能實現(xiàn)從數(shù)據(jù)到價值的輸出。當前，加速積累的技術(shù)能力與海量的數(shù)據(jù)資源，巨大的應(yīng)用需求，以及開放的市場環(huán)境有機結(jié)合，形成了我國人工智能發(fā)展的獨特優(yōu)勢。

事實上，我國人工智能的發(fā)展，不缺少數(shù)據(jù)，而缺少智能數(shù)據(jù)的支撐，因此，應(yīng)當強化對數(shù)據(jù)驅(qū)動與知識引導(dǎo)相結(jié)合的AI新方法的研究，特別是加強以自然語言理解和圖像圖形為核心的認知計算理論和方法、綜合深度推理與創(chuàng)意AI理論與方法、非完全信息下智能決策基礎(chǔ)理論與框架，以及數(shù)據(jù)驅(qū)動的通用AI數(shù)學(xué)模型與理論等基礎(chǔ)領(lǐng)域的研究，在此基礎(chǔ)上應(yīng)當統(tǒng)籌利用大數(shù)據(jù)基礎(chǔ)設(shè)施，強化AI領(lǐng)域的智能數(shù)據(jù)安全與個人隱私保護。

新一代AI的本質(zhì)是建立在大數(shù)據(jù)基礎(chǔ)上的自我學(xué)習(xí)、判斷和決策的算法，AI系統(tǒng)需要大量的數(shù)據(jù)訓(xùn)練學(xué)習(xí)算法，因此，數(shù)據(jù)被稱為AI時代的“新石油”。算法的核心是基于網(wǎng)絡(luò)的編程技術(shù)，但是，這種編程技術(shù)絕非中立。目前，AI的算法決策具有典型的“黑箱”特點，大量的違背科研道德和倫理算法給新一代AI的發(fā)展蒙上了一層陰影。國務(wù)院總理、國家科技領(lǐng)導(dǎo)小組組長李克強在主持國家科技領(lǐng)導(dǎo)小組第一次全體會議時強調(diào)，要加強科研誠信建設(shè)，避免浮躁，嚴肅查處違背科研道德和倫理的不端行為。

在“技術(shù)中性”的背后，一些推送者利用智能推介算法為用戶推介信息，這種行為不但違反了自愿和知情原則，而且，也加速不良信息的傳播，特別是一些不法分子利用人工智能技術(shù)制作和傳播虛假信息，實施詐騙等違法犯罪活動。  

筆者認為，網(wǎng)絡(luò)運營商基于一定算法，向用戶定向推送有關(guān)信息、商品或服務(wù)的，應(yīng)當取得用戶的同意，并就其算法進行公開說明，不得以所謂的商業(yè)秘密為由拒絕對其算法的公開說明。同時，國家應(yīng)該在相關(guān)立法中明確規(guī)定，網(wǎng)絡(luò)運營者向用戶定向推送有關(guān)信息、商品或服務(wù)的，應(yīng)當取得用戶的同意，并就其算法進行公開說明，對其算法給公民和社會造成危害的，應(yīng)當承擔相應(yīng)的法律責任。

2019年5月28日，國家網(wǎng)信辦發(fā)布的《數(shù)據(jù)安全管理辦法（征求意見稿）》明確規(guī)定，網(wǎng)絡(luò)運營者利用用戶數(shù)據(jù)和算法推送新聞信息、商業(yè)廣告等，應(yīng)當以明顯方式標明“定推”字樣，為用戶提供停止接收定向推送信息的功能；用戶選擇停止接收定向推送信息時，應(yīng)當停止推送，并刪除已經(jīng)收集的設(shè)備識別碼等用戶數(shù)據(jù)和個人信息。

人工智能的倫理問題往往會直接轉(zhuǎn)化為具體的法律挑戰(zhàn)，或是引發(fā)復(fù)雜的連帶法律問題，而且，每個倫理問題一般都涉及相關(guān)法律問題。對此，筆者呼吁，國家應(yīng)當高度重視人工智能和自主系統(tǒng)（AI/AS）帶來的許多復(fù)雜的倫理和法律問題。2016年，標準制定組織國際電氣與電子工程師學(xué)會（IEEE）發(fā)布了一份題為《利用人工智能和自主系統(tǒng)最大化人類福祉的愿景》（The Vision of Maximizing Human Well-being by Using Artificial Intelligence and Autonomous Systems）的報告。該報告提出發(fā)展人工智能的一般性原則，主要涉及AI可靠性以及高層次的倫理問題。報告認為，人工智能發(fā)展的一般性原則將適用于所有類型的人工智能和自主系統(tǒng)。在確定一般原則時，主要考慮三大因素：一是體現(xiàn)人權(quán)；二是優(yōu)先考慮最大化對人類和自然環(huán)境的好處；三是削弱人工智能的風險和負面影響。

原則之一：人類利益原則。人類利益原則要求，考慮如何確保人工智能和自主系統(tǒng)不侵犯人權(quán)。為了實現(xiàn)人工智能和自主系統(tǒng)尊重人權(quán)、自由、人類尊嚴及文化多樣性，在使用年限內(nèi)是安全、可靠的，一旦造成損害必須能夠找出根本原因(可追溯性)等目的，應(yīng)當構(gòu)建治理框架，包括標準化機構(gòu)和監(jiān)管機構(gòu)，增進公眾對人工智能和自主系統(tǒng)的信任。

原則之二：責任原則。責任原則涉及如何確保人工智能和自主系統(tǒng)是可以被問責的。為了解決過錯問題，避免公眾困惑，人工智能系統(tǒng)必須在程序?qū)用婢哂锌韶熜?，證明其為什么以特定方式運作。首先，立法機構(gòu)/法院應(yīng)當闡明人工智能系統(tǒng)開發(fā)和部署過程中的職責、過錯、責任、可追責性等問題，以便于制造商和使用者可以知曉其權(quán)利和義務(wù)分別是什么；其次，人工智能設(shè)計者和開發(fā)者在必要時考慮使用群體的文化規(guī)范的多樣性；再次，當人工智能及其影響游離于既有規(guī)范之外時，利益相關(guān)方應(yīng)當一起制定新的規(guī)范；第四，自主系統(tǒng)的生產(chǎn)商/使用者應(yīng)當創(chuàng)建記錄系統(tǒng)，記錄核心參數(shù)。

原則之三：透明性原則。透明性原則意味著，自主系統(tǒng)的運作必須是透明的，人們能夠發(fā)現(xiàn)其如何以及為何作出特定決定。人工智能的不透明性，加上人工智能開發(fā)的去中心化模式，加重了責任確定和責任分配的難度。透明性對每個利益相關(guān)方都意義重大：首先，對于使用者，透明性可以增進信任，讓其知道人工智能系統(tǒng)可以做什么及其這樣做的原因；其次，對人工智能和自主系統(tǒng)批準和認證機構(gòu)，透明性能確保人工智能系統(tǒng)可以接受審查；再次，如果發(fā)生事故，透明性有助于事故調(diào)查人員查明事故原因；第四，事故發(fā)生之后，參與審判的法官、陪審團、律師、專家證人需要借助透明性提交證據(jù)作出決定；第五，對于自動駕駛汽車等顛覆性技術(shù)，一定程度的透明性有助于增強公眾對技術(shù)的信心。

原則之四：教育和意識原則。教育和意識原則涉及如何擴大人工智能和自主系統(tǒng)技術(shù)的好處，最小化其被濫用的風險。在人工智能和自主系統(tǒng)越來越普及的時代，需要推進倫理教育和安全意識教育，讓人們警惕人工智能和自主系統(tǒng)被濫用的潛在風險。2017年，國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃的通知》對人工智能倫理和法律框架的建立和時間表提出了具體的要求。《通知》提出，要加強人工智能相關(guān)法律、倫理和社會問題研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架；開展與人工智能應(yīng)用相關(guān)的民事與刑事責任確認、隱私和產(chǎn)權(quán)保護、信息安全利用等法律問題研究，建立追溯和問責制度，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責任等?！锻ㄖ芬螅?030年，建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。

我國應(yīng)當建立健全公開透明的AI監(jiān)管體系，重點在AI的設(shè)計問責和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)上做充分的準備，實現(xiàn)對AI算法設(shè)計、產(chǎn)品開發(fā)和成果應(yīng)用等的全過程監(jiān)管。促進AI行業(yè)和企業(yè)自律，切實加強AI協(xié)同一體化的管理體系，加大對AI領(lǐng)域數(shù)據(jù)濫用、算法陷阱、侵犯個人隱私、違背道德倫理等行為的懲戒力度。

在AI技術(shù)研發(fā)的同時，要加強人工智能相關(guān)法律、倫理和社會問題的同步研究，尤其要關(guān)注AI模仿人類傳播錯誤信息或?qū)⑸虡I(yè)無人機轉(zhuǎn)化為目標武器攻擊人類，建立和優(yōu)化保障AI健康發(fā)展的法律法規(guī)和倫理道德框架。法律研究領(lǐng)域要開展與AI應(yīng)用相關(guān)的民事與刑事責任確認、隱私和產(chǎn)權(quán)保護、機器倫理與破壞力評價等倫理與法律問題的交叉研究，建立AI的可追溯和問責制度，明確人工智能的設(shè)計者、控制者、使用者等相關(guān)法律主體的權(quán)利、義務(wù)和責任。

關(guān)于AI監(jiān)管的原則，科幻作家艾薩夫·阿西莫夫（Isaac Asimov）于1942年提出的“機器人學(xué)三律”仍具有參照價值，值得借鑒。第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管；第二定律：機器人必須服從人給予它的命令，當該命令與第一定律沖突時例外；第三定律：機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。

筆者始終認為，AI的本質(zhì)是服務(wù)人類社會（AI as a service，AIaas），而人類社會的核心價值就是“以人為本”。由此，AI健康發(fā)展的方向必須以造福于人類為宗旨。筆者建議，國家有關(guān)部門或行業(yè)組織應(yīng)當制定AI產(chǎn)品研發(fā)設(shè)計人員的道德規(guī)范和行為守則，加強對AI潛在危害與收益的評估，構(gòu)建AI復(fù)雜場景下突發(fā)事件的解決方案。同時，我國應(yīng)當積極參與AI的全球治理，加強機器人異化和安全監(jiān)管等AI重大國際共性問題的研究，深化在AI國際標準、國際規(guī)則等方面的合作，構(gòu)建我國AI領(lǐng)域的國際制度性話語權(quán)。

來源：戰(zhàn)略前沿技術(shù)