“當今世界以人工智能、大數據為代表的現代信息技術與人類生產和生活高度融合，全球數據爆發式增長、海量聚集，大數據發展日新月異，對經濟社會發展產生了深遠的影響。與此同時，以人工智能、大數據為代表的新型數據安全風險日益凸顯，特別是侵害消費者隱私和侵害消費者利益的事件以及網絡詐騙，網絡黑產、灰產出現了新的情況，給公民的財產和信息安全帶來了嚴重威脅。”在近日舉行的２０１９中國互聯網ＡＩ隱私保護論壇上，中國信息通信研究院副院長、中國互聯網協會副秘書長何桂立說。
如何找尋ＡＩ時代隱私保護、政府監管、商業訴求的平衡點已經成為學界和業界迫切需要探討的問題。
ＡＩ新產品新業態層出不窮 隱私保護提上日程
近年來，隨著大數據、邊緣計算、深度學習等ＡＩ各相關領域技術的巨大進步，人工智能產業的應用迎來了新的機遇，自動駕駛、智能服務機器人、智能安防等人工智能新產品新業態層出不窮。
人工智能注定不是一場零和游戲，開放共融將成為大勢所趨。在此過程中，高度依賴于海量用戶數據的訓練分析式人工智能算法，也加大了用戶個人信息泄露的風險。
鑒于此，２０１７年６月１日起施行的《中華人民共和國網絡安全法》在法律層面規定了個人信息保護的基本原則；今年５月，國家互聯網信息辦公室發布《數據安全管理辦法（征求意見稿）》，７月，工業和信息化部印發《電信和互聯網行業提升網絡數據安全保護能力專項行動方案》。
中國保密協會隱私保護專委會副主任杜躍進表示，由于產品和服務是全球化的，企業不僅需要遵從與用戶數據隱私相關的各國的法律法規，還將面臨著技術架構、本地化運營等多項挑戰。
中國網絡安全審查技術與認證中心體系與服務認證部主任張劍認為，數據本身有控制者、使用者、加工者和處置者，這些往往不在一個主體上。“數據安全最核心的精神是如何為社會負責、為用戶負責。”
據悉，在此次論壇上，中國信息通信研究院聯合中國互聯網協會、電信終端產業協會、小米、ＯＰＰＯ、ｖｉｖｏ、華為、聯想、中興、魅族、努比亞、三星等，在來自終端廠商、互聯網企業、安全企業、科研院所共４００余人的見證下共同發布了移動智能設備標識公共服務平臺，旨在解決移動互聯網環境下涉及個人隱私的設備標識濫用問題，在商業價值和隱私保護合規中找到平衡。
移動安全聯盟秘書長楊正軍表示，ＡＩｏＴ時代，共建智能設備標識體系意義重大。就補充設備標識體系的意義而言，在商業價值方面，新的標識體系將幫助公司提升識別精準度，降低偽造設備標識帶來的損失；在合規價值方面，滿足各國隱私相關法律、法規、標準要求，如ＧＤＰＲ、信安標委相關國家標準等法規和標準；在社會價值方面，可用于網信、質檢、海關、工商等部門打擊灰黑產、走私、山寨等違法行為。
下一步，中國信通院將推進更多的設備生產廠商支持移動智能終端補充設備標識體系，移動安全聯盟將每個設備廠商的商業化標識接口進行統一集成，開放給互聯網公司進行技術輸出，確保互聯網商業營銷正常有序。
“除了對個人數據和重要數據的保護，數據質量、數據完整性都可能對數據算法以及數據學習的模型造成影響。人工智能算法不可避免地要體現設計者與執行者的利益和價值取向。由于算法的不透明和難以理解，有時候很難看出其中的歧視和不公。其實，人工智能也會面臨算法歧視問題，尤其是機器學習下的算法歧視。比如在安防、信用征信以及社會招聘過程中都會存在這樣的問題。”德勤中國科技風險及網絡安全領導合伙人薛梓源表示。比如，２０１４年微軟的小冰被微信封殺２４天之后機器就會爆出粗口，同時聊天機器人也帶來了大數據的殺熟現象。
為此，德勤建議，人工智能的發展，要保證數據安全、算法透明，加強ＡＩ培訓，確保人工智能發展要有穩健的風險管理機制、多樣性測試和審核的流程，并及時對產品產生的錯誤算法、倫理問題、算法和產權問題、算法和責任問題等進行測試和規范。
挺過“黑暗”人工智能產業“黎明”將至
正如設備標識的使用，在監管層面還是在商業化層面均是不可或缺的部分一樣，對于絕大多數從事人工智能的企業來說，許多問題都游離于進退兩難的邊緣。一邊是用戶對ＡＩ的發展要以犧牲自身隱私為代價的擔心；一邊又是企業由隱私監管高壓下帶來的商業化受挫和技術創新方面的沖擊。
百度安全總經理馬杰認為，“現在的時刻是最糟糕的時刻，就像黎明前黑暗的時刻。由于用戶和廠家之間沒有建立起信任，才導致了黑色產業鏈的產生。盡管ＡＩ存在著一定的數據安全問題，我相信只要給產業留出一定的時間，黎明就會到來。”馬杰說。
同時，馬杰也坦言，在前期規范的過程中，如果沒有統一的治理方法，市場上將會出現劣幣驅逐良幣的現象。
維沃移動通信有限公司ＣＳＯ／首席安全專家魯京輝則表現得比較冷靜，他表示，對于從業者而言，應該從兩個方面著手：一是如何真正認識數據的價值，并在有效的利用數據價值的基礎上去保護用戶的隱私。二是在企業承擔責任的同時，社會層面上要形成一個機制保障和文化氛圍，不要讓劣幣驅逐良幣的現象出現。
魯京輝表示，隱私保護應該是一個技術＋管理＋流程＋法規＋落地完整的生態。“數據本身是無罪的，有罪的是使用數據的這些控制者、處理者。企業在做數據合規性的過程中不可避免地會感覺到鎮痛，但我們更愿意以積極的態度去面對。”魯京輝說。
如何平衡商業與用戶隱私的關系？作為第三方監管者的何桂立從三方面提出了自己的建議：一是深耕終端設備領域，在５Ｇ＋ＡＩ的大背景下，面向泛智能終端，集中攻關突破技術難點，推進隱私保護安全防護能力；二是建設服務平臺，促進新一代人工智能產業發展，平衡隱私保護和商業化的沖突，為中小企業發展提供更多的公共服務；三是促進產業交流，積極推動國內外政產學研用各界的交流合作，提升我國隱私保護在學術、政策、產業等方面的全球影響力。
摘自《中國高新技術產業導報》
