當前，以人工智能、大數據、云計算、5G等為代表的新一代信息通信技術(shù)發(fā)展日新月異，深刻改變各行各業(yè)的發(fā)展方式，尤其是生成式人工智能正在引發(fā)新一輪智能化浪潮，為經(jīng)濟注入強勁發(fā)展動(dòng)能，但與此同時(shí)，也帶來(lái)了數據泄露、虛假信息、算法歧視等網(wǎng)絡(luò )和信息安全新挑戰、新問(wèn)題。

人工智能安全成為備受關(guān)注的熱點(diǎn)

4月28日，中共中央政治局會(huì )議提出，要重視通用人工智能發(fā)展，營(yíng)造創(chuàng )新生態(tài)，重視防范風(fēng)險；

7月24日，中共中央政治局會(huì )議再次提出“促進(jìn)人工智能安全發(fā)展”；

《生成式人工智能服務(wù)管理暫行辦法》將于8月15日開(kāi)始實(shí)施；

日前召開(kāi)的第十一屆互聯(lián)網(wǎng)安全大會(huì )（ISC 2023）將主題定為“安全即服務(wù)，開(kāi)啟人工智能時(shí)代數字安全新范式”。

新機遇帶來(lái)新挑戰

近年來(lái)，中國網(wǎng)絡(luò )安全產(chǎn)業(yè)綜合實(shí)力顯著(zhù)增強。數據顯示，2022年中國網(wǎng)絡(luò )安全產(chǎn)業(yè)規模近2200億元，截至2022年底，中國已有21家網(wǎng)絡(luò )安全企業(yè)上市，傳統安全企業(yè)、互聯(lián)網(wǎng)企業(yè)紛紛布局數據安全賽道。網(wǎng)絡(luò )安全技術(shù)體系持續完備，零信任、以太坊等信息安全技術(shù)逐步成熟落地。隱私計算、圖片加密等領(lǐng)域布局加快，網(wǎng)絡(luò )安全與人工智能、云計算、區塊鏈、工業(yè)互聯(lián)網(wǎng)融合發(fā)展加速。

但隨著(zhù)新技術(shù)的發(fā)展，新型威脅也在不斷升級，網(wǎng)絡(luò )勒索、釣魚(yú)攻擊、數據竊取等重大安全事件頻發(fā)。根據IBM日前發(fā)布的報告，數據泄露的平均成本在2023年達到歷史新高，為445萬(wàn)美元，這比2022年的435萬(wàn)美元增加了2.3％。全面加強網(wǎng)絡(luò )安全保障體系和能力建設已經(jīng)成為應對新形勢、新挑戰的必然之舉。

中國工程院院士鄔江興介紹，AI應用系統中，內生安全個(gè)性和共性問(wèn)題往往是交織疊加存在的，既有漏洞、后門(mén)引起的問(wèn)題，又有黑盒效應引起的問(wèn)題，交織疊加使得AI應用系統的安全問(wèn)題變得極其復雜，給安全使用和維護帶來(lái)了前所未有的挑戰。

“推動(dòng)人工智能產(chǎn)業(yè)快速發(fā)展，必須把保障數據安全放在突出位置?！笔龑萌珖f(xié)經(jīng)濟委員會(huì )副主任蘇波在ISC 2023開(kāi)幕致辭中表示，要加快人工智能數據資源建設，創(chuàng )新人工智能技術(shù)手段，完善人工智能數據安全監管體系。

中國工程院院士鄔賀銓表示，數字化將逐漸走向智能化高峰，這將開(kāi)啟人工智能時(shí)代，但數字安全永遠是魔高一尺，道高一丈，也在不斷地發(fā)展演進(jìn)，傳統安全防護的手段急需升級。

新挑戰呼喚新打法

“隨著(zhù)安全挑戰的不斷升級，傳統安全方案已經(jīng)難以應對數字時(shí)代的新挑戰?！?60集團創(chuàng )始人周鴻祎表示，企業(yè)實(shí)現體系化安全運營(yíng)存在缺平臺、缺探針、缺數據、缺專(zhuān)家等問(wèn)題。

推動(dòng)人工智能產(chǎn)業(yè)快速發(fā)展，必須要把數據安全放在突出位置。在蘇波看來(lái)，要創(chuàng )新人工智能技術(shù)手段，用技術(shù)進(jìn)步解決安全風(fēng)險難題，加強人工智能數據安全保護基礎理論研究和技術(shù)研發(fā)，發(fā)展負責任、可信任、能受控的通用人工智能。

實(shí)際上，人工智能時(shí)代的安全問(wèn)題，一方面是人工智能應用場(chǎng)景下的數據安全風(fēng)險防范，另一方面是將人工智能技術(shù)應用在數據安全治理與網(wǎng)絡(luò )攻防對抗中?！叭斯ぶ悄艿葦底旨夹g(shù)的應用本身既是安全防御的重點(diǎn)、手段，也是保障的有力手段?！编w賀銓表示，數字安全已經(jīng)成為數字經(jīng)濟發(fā)展的焦點(diǎn)，需要融合大數據、人工智能、互聯(lián)網(wǎng)等技術(shù)，提升保障能力。

“創(chuàng )新是網(wǎng)絡(luò )安全保障能力提升的根本動(dòng)力?！惫I(yè)和信息化部網(wǎng)絡(luò )安全管理局局長(cháng)隋靜表示，要圍繞5G、工業(yè)互聯(lián)網(wǎng)、車(chē)聯(lián)網(wǎng)等重點(diǎn)領(lǐng)域開(kāi)展關(guān)鍵技術(shù)攻關(guān)，加快強化安全風(fēng)險感知、監測預警、實(shí)時(shí)阻斷、追蹤溯源等核心能力；前瞻布局人工智能與網(wǎng)絡(luò )安全技術(shù)融合創(chuàng )新，提高產(chǎn)業(yè)鏈、供應鏈韌性和安全水平。

對于技術(shù)創(chuàng )新，中國互聯(lián)網(wǎng)協(xié)會(huì )理事長(cháng)尚冰表示，互聯(lián)網(wǎng)龍頭企業(yè)要積極開(kāi)展原創(chuàng )性、引領(lǐng)性、基礎性安全技術(shù)攻關(guān)，延伸技術(shù)領(lǐng)域，拓展產(chǎn)品服務(wù)范圍，完善產(chǎn)品矩陣，以創(chuàng )新技術(shù)和產(chǎn)品切入細分領(lǐng)域，推動(dòng)產(chǎn)品服務(wù)和行業(yè)發(fā)展緊密結合。

維護網(wǎng)絡(luò )安全是全社會(huì )的共同責任，需要各方共同參與，也需要多措并舉。蘇波表示，要加快明確人工智能數據安全法律制定，通過(guò)檢測驗證提升人工智能產(chǎn)品的安全性和成熟度，降低人工智能數據安全風(fēng)險。

“要摒棄硬件式、碎片化、弱協(xié)同的傳統安全防護手段，向云化、服務(wù)化的理念升級?！编w賀銓表示，數字安全企業(yè)需要建立體系化的安全運營(yíng)服務(wù)框架，面向各行各業(yè)輸出數字安全能力，幫助企業(yè)構建安全防御體系，保護數據安全與商業(yè)秘密。