眼見一定為實？在信息爆炸的時代，這個觀念正受到挑戰(zhàn)。近日，在微博等公眾平臺中，#Deepfake#多次沖榜，利用Deepfake工具進行侵權(quán)的行為引發(fā)公眾關注。以“AI換臉”為代表的AIGC技術被應用在詐騙的案件屢屢發(fā)生……人工智能時代，如何守護我們的信息安全？
AI深度偽造，躲不掉的詐騙和侵權(quán)
隨著生成式人工智能技術的飛速發(fā)展，一張簡單的“肖像照片”、一段視頻或音頻，都可能成為不法分子實施詐騙的利器。四川攀枝花市民王先生遭遇的“外甥”借錢騙局，以及深圳市民吳先生收到的“換臉”偽造不雅照敲詐勒索事件，都是AI換臉技術被濫用的典型案例。
AI技術的發(fā)展，也在不斷降低“實時換臉”技術門檻，有數(shù)據(jù)顯示，2023年基于AI的深度偽造欺詐暴增了3000%，全球Deepfake攻防挑戰(zhàn)賽出題人、ZOLOZ技術總監(jiān)姚偉斌在接受媒體采訪時表示，AIGC的生成偽造，今年的攻擊量比去年大概增加了10倍，整個風險其實是呈指數(shù)級上升的情況，不僅僅是在中國，在韓國，在菲律賓、印尼等等國家都有類似的情況發(fā)生。
以技術治理技術，AI+安全縱深發(fā)展
隨著生成式人工智能驅(qū)動AI發(fā)展進入新階段，AI治理隨之也變成了一個突出問題。在權(quán)衡AI應用與安全，行業(yè)共識日益清晰：既要充分發(fā)揮AI技術的高效性與精準度優(yōu)勢，提升安全運營的智能化水平，又要強化安全措施，確保技術應用的抗風險能力。
行業(yè)已積極將人工智能技術應用到安全領域，例如，電信安全自研的安全垂類大模型“見微安全大模型”有效提升了安全事件的響應和處理能力，當前已成功賦能五條內(nèi)部產(chǎn)線及十多家省級專業(yè)安全服務公司；中國移動推出九天泰合安全大模型，融合了啟明星辰安全行業(yè)特有的海量數(shù)據(jù)資源，有效支撐各類安全業(yè)務場景下的AI技術應用；中國聯(lián)通推出元景網(wǎng)絡安全大模型，有效針對告警日志降噪、惡意樣本檢測、威脅情報生產(chǎn)等核心安全場景提供智能化解決方案，極大提升了安全防護的效能和響應速度。
工業(yè)和信息化部反詐專班專家李坤表示，正在會同行業(yè)內(nèi)的手機終端企業(yè)，將推出AI換臉詐騙風險提醒功能。這項功能僅在手機端來本地運行，能夠有效保護用戶數(shù)據(jù)不泄露，經(jīng)過用戶授權(quán)后，可為用戶提供AI換臉詐騙風險預警提醒。
產(chǎn)業(yè)協(xié)同共治安全未來
伴隨著AI技術的發(fā)展，在積極防范人工智能等新技術帶來的安全風險，持續(xù)提升技術筑牢安全防線的同時，也要加強人工智能產(chǎn)業(yè)協(xié)同。在第二十三屆中國互聯(lián)網(wǎng)大會數(shù)據(jù)安全論壇上，中國信通院攜手三大運營商集團公司共同啟動信息通信行業(yè)“人工智能+安全”領航計劃，將從“提升企業(yè)人工智能安全管理能力”“提升企業(yè)人工智能安全技術保障能力”“深化人工智能安全能力行業(yè)賦能”三方面展開，推動行業(yè)人工智能安全能力整體提升。
如何讓人工智能循著以人為本和技術向善的方向發(fā)展，監(jiān)管之外離不開法治的保障。目前，我國已頒布實施《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等相關法律。
