自去年底以來(lái)，生成式人工智能熱度高漲，國(guó)內(nèi)公開(kāi)發(fā)布的大模型已達(dá)百余個(gè)，不僅帶動(dòng)了人工智能產(chǎn)業(yè)的蓬勃發(fā)展，也為其他產(chǎn)業(yè)注入了新動(dòng)能。
在日前舉辦的第十一屆互聯(lián)網(wǎng)安全大會(huì)（ISC 2023）上，多位專家提出，通用人工智能發(fā)展日益體現(xiàn)出技術(shù)創(chuàng)新快、應(yīng)用滲透強(qiáng)、經(jīng)濟(jì)社會(huì)影響大、國(guó)際競(jìng)爭(zhēng)激烈的特點(diǎn)。但發(fā)展與安全并重，對(duì)于當(dāng)前火熱的人工智能大模型以及人工智能技術(shù)，都需要把數(shù)字安全放在更突出的位置，讓數(shù)字安全與人工智能技術(shù)融合發(fā)展。
發(fā)展與安全并重
“人工智能是引領(lǐng)新一輪產(chǎn)業(yè)變革的核心技術(shù)引擎，為各領(lǐng)域提供信息化、數(shù)字化、智能化的解決方案，正在引發(fā)經(jīng)濟(jì)結(jié)構(gòu)重大變革，實(shí)現(xiàn)社會(huì)生產(chǎn)力整體躍升?！敝袊?guó)工程院院士鄔江興說(shuō)。
中國(guó)工程院院士鄔賀銓認(rèn)為，以人工智能為代表的數(shù)字技術(shù)將重塑數(shù)字內(nèi)容生產(chǎn)方式和消費(fèi)模式，通用人工智能將實(shí)現(xiàn)知識(shí)與數(shù)據(jù)雙輪驅(qū)動(dòng)，把智腦加進(jìn)去，未來(lái)單個(gè)模型有望通過(guò)遷移學(xué)習(xí)支持多種業(yè)務(wù)，并能精準(zhǔn)選擇節(jié)點(diǎn)，有效降低功耗和成本。數(shù)字化將逐漸走向智能化高峰，開(kāi)啟人工智能時(shí)代。同時(shí)，數(shù)字安全也在不斷發(fā)展演進(jìn)，傳統(tǒng)安全防護(hù)的手段亟待升級(jí)。
“生成式人工智能正在引發(fā)新一輪智能化浪潮，但也伴隨著數(shù)據(jù)泄露、虛假信息、算法歧視等網(wǎng)絡(luò)和信息安全新挑戰(zhàn)、新問(wèn)題?！敝袊?guó)互聯(lián)網(wǎng)協(xié)會(huì)理事長(zhǎng)尚冰說(shuō)。
中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局副局長(zhǎng)羅鋒盈也表示，當(dāng)前，生成式人工智能還有很多亟待解決的問(wèn)題，比如生成信息的準(zhǔn)確性、真實(shí)性以及價(jià)值觀等問(wèn)題。
“當(dāng)前，深度學(xué)習(xí)進(jìn)入快速發(fā)展期，但也是一把雙刃劍。如果不能有效應(yīng)對(duì)人工智能安全挑戰(zhàn)，數(shù)字社會(huì)、數(shù)字經(jīng)濟(jì)都會(huì)基礎(chǔ)不牢，成為國(guó)家安全戰(zhàn)略最脆弱、最致命的環(huán)節(jié)?！编w江興認(rèn)為，深度學(xué)習(xí)人工智能模型存在“三不可”內(nèi)生安全個(gè)性問(wèn)題，即神經(jīng)網(wǎng)絡(luò)“黑盒”特點(diǎn)導(dǎo)致人工智能存在不可解釋性；深度學(xué)習(xí)對(duì)訓(xùn)練樣本過(guò)度依賴，導(dǎo)致學(xué)習(xí)結(jié)果的不可判定性；神經(jīng)網(wǎng)絡(luò)前向推進(jìn)的不可逆，導(dǎo)致結(jié)果的不可推論性。
“充分?jǐn)?shù)字化，讓企業(yè)、政府、城市成為網(wǎng)絡(luò)安全的主陣地。當(dāng)大數(shù)據(jù)成為核心資產(chǎn)后，政府、企業(yè)都面臨數(shù)據(jù)泄露、丟失的安全威脅。生成式人工智能帶來(lái)的內(nèi)容安全、安全可控問(wèn)題將更為顯著?！?60集團(tuán)創(chuàng)始人周鴻祎說(shuō)。
國(guó)家網(wǎng)信辦等7部門(mén)近日聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，提出國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。
創(chuàng)新技術(shù)手段
第十三屆全國(guó)政協(xié)經(jīng)濟(jì)委員會(huì)副主任蘇波表示，推動(dòng)人工智能產(chǎn)業(yè)快速發(fā)展，必須要把保障數(shù)據(jù)安全放在突出位置。要加快人工智能數(shù)據(jù)資源建設(shè)，創(chuàng)新人工智能技術(shù)手段，完善人工智能數(shù)據(jù)安全監(jiān)管體系。
“要用技術(shù)進(jìn)步解決安全風(fēng)險(xiǎn)難題，加強(qiáng)人工智能數(shù)據(jù)安全保護(hù)基礎(chǔ)理論研究和技術(shù)研發(fā)。發(fā)展負(fù)責(zé)任、可信任、能受控的通用人工智能。鼓勵(lì)企業(yè)建設(shè)完善人工智能開(kāi)源學(xué)習(xí)框架，增強(qiáng)框架內(nèi)置學(xué)習(xí)數(shù)據(jù)和基礎(chǔ)設(shè)施。并通過(guò)我國(guó)巨大的市場(chǎng)優(yōu)勢(shì)，加快培育人工智能開(kāi)源平臺(tái)生態(tài)圈和產(chǎn)業(yè)鏈?！碧K波說(shuō)。
我國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)綜合實(shí)力已顯著增強(qiáng)。數(shù)據(jù)顯示，2022年我國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)規(guī)模近2200億元，北京、長(zhǎng)沙、成渝地區(qū)國(guó)家三大網(wǎng)絡(luò)安全產(chǎn)業(yè)園區(qū)相繼成立，長(zhǎng)三角、珠三角等網(wǎng)絡(luò)安全產(chǎn)業(yè)基礎(chǔ)優(yōu)勢(shì)逐步激發(fā)。截至2022年底，我國(guó)已有21家網(wǎng)絡(luò)安全企業(yè)上市，越來(lái)越多的互聯(lián)網(wǎng)企業(yè)、設(shè)備廠商、電信運(yùn)營(yíng)商成為網(wǎng)絡(luò)安全領(lǐng)域新生力量，傳統(tǒng)安全企業(yè)、互聯(lián)網(wǎng)企業(yè)紛紛布局?jǐn)?shù)據(jù)安全賽道。
同時(shí)，網(wǎng)絡(luò)安全技術(shù)體系持續(xù)完備，零信任、以太坊等信息安全技術(shù)逐步成熟落地。隱私計(jì)算、圖片加密等領(lǐng)域布局加快，網(wǎng)絡(luò)安全與人工智能、云計(jì)算、區(qū)塊鏈、工業(yè)互聯(lián)網(wǎng)融合發(fā)展加速。
創(chuàng)新是網(wǎng)絡(luò)安全保障能力提升的根本動(dòng)力。工業(yè)和信息化部網(wǎng)絡(luò)安全管理局局長(zhǎng)隋靜表示，要健全科技創(chuàng)新體系，強(qiáng)化體系創(chuàng)新主體地位，全面激發(fā)企業(yè)創(chuàng)新活力。圍繞5G、工業(yè)互聯(lián)網(wǎng)、車(chē)聯(lián)網(wǎng)等重點(diǎn)領(lǐng)域開(kāi)展關(guān)鍵技術(shù)攻關(guān)，加快突破安全風(fēng)險(xiǎn)感知、監(jiān)測(cè)預(yù)警、實(shí)時(shí)阻斷、追蹤溯源等核心能力。前瞻布局人工智能與網(wǎng)絡(luò)安全技術(shù)融合創(chuàng)新，增強(qiáng)產(chǎn)業(yè)鏈、供應(yīng)鏈韌性和安全水平。
培育產(chǎn)業(yè)生態(tài)
“目前360集團(tuán)有全球最大的網(wǎng)絡(luò)安全攻擊樣本庫(kù)和攻擊整個(gè)過(guò)程全記錄的知識(shí)庫(kù)，記錄了數(shù)以億計(jì)的網(wǎng)絡(luò)攻擊知識(shí)。我們也在試驗(yàn)把這些知識(shí)加入專門(mén)的垂直大模型里，爭(zhēng)取下次遇到攻擊時(shí)，由大模型判斷這是否是一次真實(shí)攻擊。目前，大模型判斷網(wǎng)絡(luò)攻擊的準(zhǔn)確率已提升到97%，當(dāng)該準(zhǔn)確率超過(guò)99%時(shí)就可以投入應(yīng)用?！敝茗櫟t介紹。
周鴻祎認(rèn)為，隨著安全挑戰(zhàn)不斷升級(jí)，傳統(tǒng)安全方案已難以應(yīng)對(duì)數(shù)字文明時(shí)代的新挑戰(zhàn)，出現(xiàn)“企業(yè)抱怨沒(méi)效果、廠商抱怨投入少”的局面。企業(yè)實(shí)現(xiàn)體系化安全運(yùn)營(yíng)，存在缺平臺(tái)、缺探針、缺數(shù)據(jù)、缺專家四大障礙。云化和服務(wù)化將成為安全行業(yè)發(fā)展必然趨勢(shì)。為此，360推出“安全即服務(wù)”理念，將沉淀在全網(wǎng)安全大腦里的世界級(jí)安全能力全面云化和服務(wù)化，低成本、高效能輸送給企業(yè)級(jí)客戶，為政府、城市和企業(yè)筑牢數(shù)字安全屏障，守護(hù)數(shù)字經(jīng)濟(jì)成果。
“要摒棄硬件式碎片化弱協(xié)同的傳統(tǒng)安全防護(hù)手段，向云化、服務(wù)化的理念升級(jí)。數(shù)字安全企業(yè)需要建立體系化的安全運(yùn)營(yíng)服務(wù)框架，面向各行各業(yè)輸出數(shù)字安全能力，幫助企業(yè)構(gòu)建安全防御體系，保護(hù)數(shù)據(jù)安全與商業(yè)秘密。”鄔賀銓說(shuō)。
全國(guó)工商聯(lián)副主席汪鴻雁表示，網(wǎng)絡(luò)安全龍頭企業(yè)要牽頭組建創(chuàng)新聯(lián)合體，發(fā)揮創(chuàng)新主體作用，主動(dòng)承擔(dān)國(guó)家重大科技項(xiàng)目，開(kāi)展數(shù)字安全的基礎(chǔ)理論創(chuàng)新，及重大問(wèn)題研究和關(guān)鍵的核心技術(shù)攻關(guān)，著力加強(qiáng)數(shù)字安全的人才培養(yǎng)，推動(dòng)人才、技術(shù)和產(chǎn)業(yè)的融通發(fā)展，不斷增進(jìn)數(shù)字安全國(guó)際交流與合作，建設(shè)國(guó)際數(shù)字安全保障合作機(jī)制。
“互聯(lián)網(wǎng)龍頭企業(yè)要積極開(kāi)展原創(chuàng)性、引領(lǐng)性、基礎(chǔ)性安全技術(shù)攻關(guān)，延伸技術(shù)領(lǐng)域，拓展產(chǎn)品服務(wù)范圍，完善產(chǎn)品矩陣?；ヂ?lián)網(wǎng)初創(chuàng)企業(yè)要發(fā)揮快速靈活、資源集中的特點(diǎn)，以創(chuàng)新技術(shù)和產(chǎn)品切入細(xì)分領(lǐng)域，推動(dòng)產(chǎn)品服務(wù)和行業(yè)發(fā)展緊密結(jié)合?！鄙斜f(shuō)。
鄔賀銓強(qiáng)調(diào)，要完善數(shù)字安全的生態(tài)系統(tǒng)，覆蓋工業(yè)企業(yè)設(shè)備供應(yīng)商、基礎(chǔ)電信運(yùn)營(yíng)商、云服務(wù)商、工業(yè)互聯(lián)網(wǎng)平臺(tái)運(yùn)營(yíng)商、工業(yè)應(yīng)用提供商、數(shù)字安全提供企業(yè)、第三方檢測(cè)機(jī)構(gòu)與用戶等，實(shí)現(xiàn)危險(xiǎn)威脅處置情報(bào)共享。
隋靜表示，網(wǎng)絡(luò)安全產(chǎn)業(yè)是維護(hù)國(guó)家網(wǎng)絡(luò)安全的重要基礎(chǔ)，要完善支持產(chǎn)業(yè)發(fā)展的政策措施，引導(dǎo)供給不斷提升，需求充分釋放，構(gòu)建供需雙向發(fā)力，產(chǎn)業(yè)鏈協(xié)同聯(lián)動(dòng)的高水平動(dòng)態(tài)平衡。要?jiǎng)?chuàng)新網(wǎng)絡(luò)安全服務(wù)模式，大力發(fā)展網(wǎng)絡(luò)安全保險(xiǎn)服務(wù)，深化產(chǎn)融合作，引導(dǎo)資本加大對(duì)產(chǎn)業(yè)支持力度，加快培育一批網(wǎng)絡(luò)安全專精特新企業(yè)。優(yōu)化產(chǎn)業(yè)園區(qū)產(chǎn)業(yè)布局，充分發(fā)揮聯(lián)盟協(xié)會(huì)紐帶作用，培育壯大產(chǎn)業(yè)生態(tài)，推動(dòng)產(chǎn)業(yè)高質(zhì)量發(fā)展。（黃 鑫）
（責(zé)任編輯：蔡文斌）
晉公網(wǎng)安備 14090202000008號(hào) 
