當前，以人工智能、大數據、云計算、5G等為代表的新一代信息通信技術發展日新月異，深刻改變各行各業的發展方式，尤其是生成式人工智能正在引發新一輪智能化浪潮，為經濟注入強勁發展動能，但與此同時，也帶來了數據泄露、虛假信息、算法歧視等網絡和信息安全新挑戰、新問題。

人工智能安全成為備受關注的熱點

4月28日，中共中央政治局會議提出，要重視通用人工智能發展，營造創新生態，重視防范風險；

7月24日，中共中央政治局會議再次提出“促進人工智能安全發展”；

《生成式人工智能服務管理暫行辦法》將于8月15日開始實施；

日前召開的第十一屆互聯網安全大會（ISC 2023）將主題定為“安全即服務，開啟人工智能時代數字安全新范式”。

新機遇帶來新挑戰

近年來，中國網絡安全產業綜合實力顯著增強。數據顯示，2022年中國網絡安全產業規模近2200億元，截至2022年底，中國已有21家網絡安全企業上市，傳統安全企業、互聯網企業紛紛布局數據安全賽道。網絡安全技術體系持續完備，零信任、以太坊等信息安全技術逐步成熟落地。隱私計算、圖片加密等領域布局加快，網絡安全與人工智能、云計算、區塊鏈、工業互聯網融合發展加速。

但隨著新技術的發展，新型威脅也在不斷升級，網絡勒索、釣魚攻擊、數據竊取等重大安全事件頻發。根據IBM日前發布的報告，數據泄露的平均成本在2023年達到歷史新高，為445萬美元，這比2022年的435萬美元增加了2.3％。全面加強網絡安全保障體系和能力建設已經成為應對新形勢、新挑戰的必然之舉。

中國工程院院士鄔江興介紹，AI應用系統中，內生安全個性和共性問題往往是交織疊加存在的，既有漏洞、后門引起的問題，又有黑盒效應引起的問題，交織疊加使得AI應用系統的安全問題變得極其復雜，給安全使用和維護帶來了前所未有的挑戰。

“推動人工智能產業快速發展，必須把保障數據安全放在突出位置。”十三屆全國政協經濟委員會副主任蘇波在ISC 2023開幕致辭中表示，要加快人工智能數據資源建設，創新人工智能技術手段，完善人工智能數據安全監管體系。

中國工程院院士鄔賀銓表示，數字化將逐漸走向智能化高峰，這將開啟人工智能時代，但數字安全永遠是魔高一尺，道高一丈，也在不斷地發展演進，傳統安全防護的手段急需升級。

新挑戰呼喚新打法

“隨著安全挑戰的不斷升級，傳統安全方案已經難以應對數字時代的新挑戰。”360集團創始人周鴻祎表示，企業實現體系化安全運營存在缺平臺、缺探針、缺數據、缺專家等問題。

推動人工智能產業快速發展，必須要把數據安全放在突出位置。在蘇波看來，要創新人工智能技術手段，用技術進步解決安全風險難題，加強人工智能數據安全保護基礎理論研究和技術研發，發展負責任、可信任、能受控的通用人工智能。

實際上，人工智能時代的安全問題，一方面是人工智能應用場景下的數據安全風險防范，另一方面是將人工智能技術應用在數據安全治理與網絡攻防對抗中。“人工智能等數字技術的應用本身既是安全防御的重點、手段，也是保障的有力手段。”鄔賀銓表示，數字安全已經成為數字經濟發展的焦點，需要融合大數據、人工智能、互聯網等技術，提升保障能力。

“創新是網絡安全保障能力提升的根本動力。”工業和信息化部網絡安全管理局局長隋靜表示，要圍繞5G、工業互聯網、車聯網等重點領域開展關鍵技術攻關，加快強化安全風險感知、監測預警、實時阻斷、追蹤溯源等核心能力；前瞻布局人工智能與網絡安全技術融合創新，提高產業鏈、供應鏈韌性和安全水平。

對于技術創新，中國互聯網協會理事長尚冰表示，互聯網龍頭企業要積極開展原創性、引領性、基礎性安全技術攻關，延伸技術領域，拓展產品服務范圍，完善產品矩陣，以創新技術和產品切入細分領域，推動產品服務和行業發展緊密結合。

維護網絡安全是全社會的共同責任，需要各方共同參與，也需要多措并舉。蘇波表示，要加快明確人工智能數據安全法律制定，通過檢測驗證提升人工智能產品的安全性和成熟度，降低人工智能數據安全風險。

“要摒棄硬件式、碎片化、弱協同的傳統安全防護手段，向云化、服務化的理念升級。”鄔賀銓表示，數字安全企業需要建立體系化的安全運營服務框架，面向各行各業輸出數字安全能力，幫助企業構建安全防御體系，保護數據安全與商業秘密。