眼見(jiàn)一定為實(shí)？在信息爆炸的時(shí)代，這個(gè)觀(guān)念正受到挑戰(zhàn)。近日，在微博等公眾平臺(tái)中，#Deepfake#多次沖榜，利用Deepfake工具進(jìn)行侵權(quán)的行為引發(fā)公眾關(guān)注。以“AI換臉”為代表的AIGC技術(shù)被應(yīng)用在詐騙的案件屢屢發(fā)生……人工智能時(shí)代，如何守護(hù)我們的信息安全？
AI深度偽造，躲不掉的詐騙和侵權(quán)
隨著生成式人工智能技術(shù)的飛速發(fā)展，一張簡(jiǎn)單的“肖像照片”、一段視頻或音頻，都可能成為不法分子實(shí)施詐騙的利器。四川攀枝花市民王先生遭遇的“外甥”借錢(qián)騙局，以及深圳市民吳先生收到的“換臉”偽造不雅照敲詐勒索事件，都是AI換臉技術(shù)被濫用的典型案例。
AI技術(shù)的發(fā)展，也在不斷降低“實(shí)時(shí)換臉”技術(shù)門(mén)檻，有數(shù)據(jù)顯示，2023年基于AI的深度偽造欺詐暴增了3000%，全球Deepfake攻防挑戰(zhàn)賽出題人、ZOLOZ技術(shù)總監(jiān)姚偉斌在接受媒體采訪(fǎng)時(shí)表示，AIGC的生成偽造，今年的攻擊量比去年大概增加了10倍，整個(gè)風(fēng)險(xiǎn)其實(shí)是呈指數(shù)級(jí)上升的情況，不僅僅是在中國(guó)，在韓國(guó)，在菲律賓、印尼等等國(guó)家都有類(lèi)似的情況發(fā)生。
以技術(shù)治理技術(shù)，AI+安全縱深發(fā)展
隨著生成式人工智能驅(qū)動(dòng)AI發(fā)展進(jìn)入新階段，AI治理隨之也變成了一個(gè)突出問(wèn)題。在權(quán)衡AI應(yīng)用與安全，行業(yè)共識(shí)日益清晰：既要充分發(fā)揮AI技術(shù)的高效性與精準(zhǔn)度優(yōu)勢(shì)，提升安全運(yùn)營(yíng)的智能化水平，又要強(qiáng)化安全措施，確保技術(shù)應(yīng)用的抗風(fēng)險(xiǎn)能力。
行業(yè)已積極將人工智能技術(shù)應(yīng)用到安全領(lǐng)域，例如，電信安全自研的安全垂類(lèi)大模型“見(jiàn)微安全大模型”有效提升了安全事件的響應(yīng)和處理能力，當(dāng)前已成功賦能五條內(nèi)部產(chǎn)線(xiàn)及十多家省級(jí)專(zhuān)業(yè)安全服務(wù)公司；中國(guó)移動(dòng)推出九天泰合安全大模型，融合了啟明星辰安全行業(yè)特有的海量數(shù)據(jù)資源，有效支撐各類(lèi)安全業(yè)務(wù)場(chǎng)景下的AI技術(shù)應(yīng)用；中國(guó)聯(lián)通推出元景網(wǎng)絡(luò)安全大模型，有效針對(duì)告警日志降噪、惡意樣本檢測(cè)、威脅情報(bào)生產(chǎn)等核心安全場(chǎng)景提供智能化解決方案，極大提升了安全防護(hù)的效能和響應(yīng)速度。
工業(yè)和信息化部反詐專(zhuān)班專(zhuān)家李坤表示，正在會(huì)同行業(yè)內(nèi)的手機(jī)終端企業(yè)，將推出AI換臉詐騙風(fēng)險(xiǎn)提醒功能。這項(xiàng)功能僅在手機(jī)端來(lái)本地運(yùn)行，能夠有效保護(hù)用戶(hù)數(shù)據(jù)不泄露，經(jīng)過(guò)用戶(hù)授權(quán)后，可為用戶(hù)提供AI換臉詐騙風(fēng)險(xiǎn)預(yù)警提醒。
產(chǎn)業(yè)協(xié)同共治安全未來(lái)
伴隨著AI技術(shù)的發(fā)展，在積極防范人工智能等新技術(shù)帶來(lái)的安全風(fēng)險(xiǎn)，持續(xù)提升技術(shù)筑牢安全防線(xiàn)的同時(shí)，也要加強(qiáng)人工智能產(chǎn)業(yè)協(xié)同。在第二十三屆中國(guó)互聯(lián)網(wǎng)大會(huì)數(shù)據(jù)安全論壇上，中國(guó)信通院攜手三大運(yùn)營(yíng)商集團(tuán)公司共同啟動(dòng)信息通信行業(yè)“人工智能+安全”領(lǐng)航計(jì)劃，將從“提升企業(yè)人工智能安全管理能力”“提升企業(yè)人工智能安全技術(shù)保障能力”“深化人工智能安全能力行業(yè)賦能”三方面展開(kāi)，推動(dòng)行業(yè)人工智能安全能力整體提升。
如何讓人工智能循著以人為本和技術(shù)向善的方向發(fā)展，監(jiān)管之外離不開(kāi)法治的保障。目前，我國(guó)已頒布實(shí)施《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)法律。
