自去年底以來，生成式人工智能熱度高漲，國內公開發布的大模型已達百余個，不僅帶動了人工智能產業的蓬勃發展，也為其他產業注入了新動能。
在日前舉辦的第十一屆互聯網安全大會（ISC 2023）上，多位專家提出，通用人工智能發展日益體現出技術創新快、應用滲透強、經濟社會影響大、國際競爭激烈的特點。但發展與安全并重，對于當前火熱的人工智能大模型以及人工智能技術，都需要把數字安全放在更突出的位置，讓數字安全與人工智能技術融合發展。
發展與安全并重
“人工智能是引領新一輪產業變革的核心技術引擎，為各領域提供信息化、數字化、智能化的解決方案，正在引發經濟結構重大變革，實現社會生產力整體躍升。”中國工程院院士鄔江興說。
中國工程院院士鄔賀銓認為，以人工智能為代表的數字技術將重塑數字內容生產方式和消費模式，通用人工智能將實現知識與數據雙輪驅動，把智腦加進去，未來單個模型有望通過遷移學習支持多種業務，并能精準選擇節點，有效降低功耗和成本。數字化將逐漸走向智能化高峰，開啟人工智能時代。同時，數字安全也在不斷發展演進，傳統安全防護的手段亟待升級。
“生成式人工智能正在引發新一輪智能化浪潮，但也伴隨著數據泄露、虛假信息、算法歧視等網絡和信息安全新挑戰、新問題?！敝袊ヂ摼W協會理事長尚冰說。
中央網信辦網絡安全協調局副局長羅鋒盈也表示，當前，生成式人工智能還有很多亟待解決的問題，比如生成信息的準確性、真實性以及價值觀等問題。
“當前，深度學習進入快速發展期，但也是一把雙刃劍。如果不能有效應對人工智能安全挑戰，數字社會、數字經濟都會基礎不牢，成為國家安全戰略最脆弱、最致命的環節。”鄔江興認為，深度學習人工智能模型存在“三不可”內生安全個性問題，即神經網絡“黑盒”特點導致人工智能存在不可解釋性；深度學習對訓練樣本過度依賴，導致學習結果的不可判定性；神經網絡前向推進的不可逆，導致結果的不可推論性。
“充分數字化，讓企業、政府、城市成為網絡安全的主陣地。當大數據成為核心資產后，政府、企業都面臨數據泄露、丟失的安全威脅。生成式人工智能帶來的內容安全、安全可控問題將更為顯著。”360集團創始人周鴻祎說。
國家網信辦等7部門近日聯合發布《生成式人工智能服務管理暫行辦法》，提出國家堅持發展和安全并重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。
創新技術手段
第十三屆全國政協經濟委員會副主任蘇波表示，推動人工智能產業快速發展，必須要把保障數據安全放在突出位置。要加快人工智能數據資源建設，創新人工智能技術手段，完善人工智能數據安全監管體系。
“要用技術進步解決安全風險難題，加強人工智能數據安全保護基礎理論研究和技術研發。發展負責任、可信任、能受控的通用人工智能。鼓勵企業建設完善人工智能開源學習框架，增強框架內置學習數據和基礎設施。并通過我國巨大的市場優勢，加快培育人工智能開源平臺生態圈和產業鏈?！碧K波說。
我國網絡安全產業綜合實力已顯著增強。數據顯示，2022年我國網絡安全產業規模近2200億元，北京、長沙、成渝地區國家三大網絡安全產業園區相繼成立，長三角、珠三角等網絡安全產業基礎優勢逐步激發。截至2022年底，我國已有21家網絡安全企業上市，越來越多的互聯網企業、設備廠商、電信運營商成為網絡安全領域新生力量，傳統安全企業、互聯網企業紛紛布局數據安全賽道。
同時，網絡安全技術體系持續完備，零信任、以太坊等信息安全技術逐步成熟落地。隱私計算、圖片加密等領域布局加快，網絡安全與人工智能、云計算、區塊鏈、工業互聯網融合發展加速。
創新是網絡安全保障能力提升的根本動力。工業和信息化部網絡安全管理局局長隋靜表示，要健全科技創新體系，強化體系創新主體地位，全面激發企業創新活力。圍繞5G、工業互聯網、車聯網等重點領域開展關鍵技術攻關，加快突破安全風險感知、監測預警、實時阻斷、追蹤溯源等核心能力。前瞻布局人工智能與網絡安全技術融合創新，增強產業鏈、供應鏈韌性和安全水平。
培育產業生態
“目前360集團有全球最大的網絡安全攻擊樣本庫和攻擊整個過程全記錄的知識庫，記錄了數以億計的網絡攻擊知識。我們也在試驗把這些知識加入專門的垂直大模型里，爭取下次遇到攻擊時，由大模型判斷這是否是一次真實攻擊。目前，大模型判斷網絡攻擊的準確率已提升到97%，當該準確率超過99%時就可以投入應用?！敝茗櫟t介紹。
周鴻祎認為，隨著安全挑戰不斷升級，傳統安全方案已難以應對數字文明時代的新挑戰，出現“企業抱怨沒效果、廠商抱怨投入少”的局面。企業實現體系化安全運營，存在缺平臺、缺探針、缺數據、缺專家四大障礙。云化和服務化將成為安全行業發展必然趨勢。為此，360推出“安全即服務”理念，將沉淀在全網安全大腦里的世界級安全能力全面云化和服務化，低成本、高效能輸送給企業級客戶，為政府、城市和企業筑牢數字安全屏障，守護數字經濟成果。
“要摒棄硬件式碎片化弱協同的傳統安全防護手段，向云化、服務化的理念升級。數字安全企業需要建立體系化的安全運營服務框架，面向各行各業輸出數字安全能力，幫助企業構建安全防御體系，保護數據安全與商業秘密?！编w賀銓說。
全國工商聯副主席汪鴻雁表示，網絡安全龍頭企業要牽頭組建創新聯合體，發揮創新主體作用，主動承擔國家重大科技項目，開展數字安全的基礎理論創新，及重大問題研究和關鍵的核心技術攻關，著力加強數字安全的人才培養，推動人才、技術和產業的融通發展，不斷增進數字安全國際交流與合作，建設國際數字安全保障合作機制。
“互聯網龍頭企業要積極開展原創性、引領性、基礎性安全技術攻關，延伸技術領域，拓展產品服務范圍，完善產品矩陣。互聯網初創企業要發揮快速靈活、資源集中的特點，以創新技術和產品切入細分領域，推動產品服務和行業發展緊密結合?！鄙斜f。
鄔賀銓強調，要完善數字安全的生態系統，覆蓋工業企業設備供應商、基礎電信運營商、云服務商、工業互聯網平臺運營商、工業應用提供商、數字安全提供企業、第三方檢測機構與用戶等，實現危險威脅處置情報共享。
隋靜表示，網絡安全產業是維護國家網絡安全的重要基礎，要完善支持產業發展的政策措施，引導供給不斷提升，需求充分釋放，構建供需雙向發力，產業鏈協同聯動的高水平動態平衡。要創新網絡安全服務模式，大力發展網絡安全保險服務，深化產融合作，引導資本加大對產業支持力度，加快培育一批網絡安全專精特新企業。優化產業園區產業布局，充分發揮聯盟協會紐帶作用，培育壯大產業生態，推動產業高質量發展。
來源：《經濟日報》
