在AI技術(shù)加速演進(jìn)的當(dāng)下，金融安全領(lǐng)域面臨新挑戰(zhàn)。6月18日，《中國(guó)金融行業(yè)AI欺詐與技術(shù)對(duì)抗研究報(bào)告》發(fā)布。此次活動(dòng)由清華大學(xué)經(jīng)濟(jì)管理學(xué)院中國(guó)金融研究中心、四川省反詐中心、新網(wǎng)銀行、新華財(cái)經(jīng)聯(lián)合主辦，聚焦“AI反詐：從博弈到共治”主題，系統(tǒng)呈現(xiàn)AI金融欺詐的演變路徑及行業(yè)應(yīng)對(duì)策略。

此次報(bào)告發(fā)布恰逢中央宣傳部、公安部于6月16日聯(lián)合啟動(dòng)“全民反詐在行動(dòng)”集中宣傳月。根據(jù)活動(dòng)安排，各地各部門在全國(guó)范圍內(nèi)組織開展防范電信網(wǎng)絡(luò)詐騙犯罪“進(jìn)社區(qū)、進(jìn)農(nóng)村、進(jìn)家庭、進(jìn)學(xué)校、進(jìn)企業(yè)”的“五進(jìn)”活動(dòng)。此次在清華大學(xué)舉辦的“進(jìn)學(xué)?！被顒?dòng)進(jìn)一步加大反詐宣傳力度，提升群眾防騙意識(shí)，助力營(yíng)造全社會(huì)反詐濃厚氛圍。

當(dāng)前，隨著人工智能技術(shù)的爆發(fā)式發(fā)展，金融行業(yè)正經(jīng)歷數(shù)字化轉(zhuǎn)型浪潮。AI技術(shù)賦能了智能風(fēng)控、精準(zhǔn)營(yíng)銷、自動(dòng)化服務(wù)等創(chuàng)新場(chǎng)景，但同時(shí)也存在一些黑灰產(chǎn)組織利用AI技術(shù)，催生出深度偽造、智能釣魚、自動(dòng)化欺詐等新型犯罪手段，技術(shù)博弈與對(duì)抗的復(fù)雜性仍在升級(jí)。

為此，清華大學(xué)經(jīng)濟(jì)管理學(xué)院中國(guó)金融研究中心、新網(wǎng)銀行、新華財(cái)經(jīng)組建課題組，共同編制《中國(guó)金融行業(yè)AI欺詐與技術(shù)對(duì)抗研究報(bào)告》，系統(tǒng)梳理了AI欺詐的技術(shù)演進(jìn)、攻防態(tài)勢(shì)及應(yīng)對(duì)策略，旨在為行業(yè)提供科學(xué)指引，助力構(gòu)建安全可信的金融數(shù)字生態(tài)。今年是“十四五”規(guī)劃收官之年，研究報(bào)告積極響應(yīng)國(guó)家關(guān)于“統(tǒng)籌安全與發(fā)展”的核心要求，為金融行業(yè)應(yīng)對(duì)AI時(shí)代的安全挑戰(zhàn)提供了參考解決方案。

全景透視AI欺詐攻防體系

此次報(bào)告圍繞 AI 欺詐的定義與特點(diǎn)、技術(shù)周期中的攻防演變史、人工智能時(shí)代金融安全攻防新態(tài)勢(shì)、智能防控典型案例分析以及應(yīng)對(duì)當(dāng)前挑戰(zhàn)的策略和建議節(jié)展開深入探討，并從理論到實(shí)踐、從歷史到未來(lái)，構(gòu)建了完整的分析框架。

課題組明確定義了“AI欺詐”的概念，指出其核心是不法分子利用機(jī)器學(xué)習(xí)、自然語(yǔ)言處理、多媒體技術(shù)及生成式人工智能等AI技術(shù)，通過(guò)生成虛假信息、模仿真實(shí)用戶行為、繞過(guò)安全驗(yàn)證機(jī)制或自動(dòng)執(zhí)行詐騙腳本等手段，突破過(guò)往欺詐手段的局限，從而實(shí)現(xiàn)更高程度的自動(dòng)化、智能化和精準(zhǔn)化欺詐操作，并以非法牟取利益為目的，精心策劃實(shí)施的欺詐行為。

此外，課題組依據(jù)技術(shù)成熟度曲線、麥肯錫數(shù)字化轉(zhuǎn)型方法論以及IDC關(guān)于金融科技安全趨勢(shì)的研究成果，并結(jié)合中國(guó)金融實(shí)踐，將技術(shù)周期中的攻防演變劃分為手工化時(shí)代、信息化時(shí)代、互聯(lián)網(wǎng)時(shí)代、移動(dòng)互聯(lián)時(shí)代以及人工智能時(shí)代五個(gè)階段，并從技術(shù)特點(diǎn)、攻擊方式與防御機(jī)制等維度進(jìn)行深入剖析，揭示其在金融安全演進(jìn)中的歷史地位與現(xiàn)實(shí)意義。

陸瑤指出，隨著AI技術(shù)發(fā)展，金融欺詐呈現(xiàn)智能化、自動(dòng)化特征。黑灰產(chǎn)利用AI生成虛假人臉、聲紋及偽造材料，并借助自動(dòng)化工具實(shí)施精準(zhǔn)詐騙。報(bào)告提出金融機(jī)構(gòu)需構(gòu)建“技術(shù)-策略-機(jī)制”三位一體防御體系：技術(shù)上采用深度學(xué)習(xí)、多模態(tài)生物特征檢測(cè)及生成痕跡識(shí)別技術(shù)攔截偽造攻擊；策略上通過(guò)全生命周期風(fēng)控閉環(huán)降低風(fēng)險(xiǎn)；機(jī)制上推動(dòng)跨機(jī)構(gòu)數(shù)據(jù)共享與監(jiān)管協(xié)同，強(qiáng)化行業(yè)聯(lián)防聯(lián)控。課題組特別強(qiáng)調(diào)，唯有技術(shù)革新與制度完善并重，方能實(shí)現(xiàn)金融安全與AI創(chuàng)新的平衡發(fā)展。

基于當(dāng)前行業(yè)實(shí)踐中所應(yīng)對(duì)挑戰(zhàn)的策略和建議，課題組圍繞“監(jiān)管引領(lǐng)、機(jī)構(gòu)主責(zé)、社會(huì)協(xié)同”的立體防御框架展開，深入探討了建立AI威脅情報(bào)共享機(jī)制、儲(chǔ)備算力資源、構(gòu)建認(rèn)知對(duì)抗體系、培養(yǎng)復(fù)合型安全人才、提升全民數(shù)字素養(yǎng)、常態(tài)化攻防演練以及建設(shè)開源情報(bào)社區(qū)等具體路徑，提煉出“技術(shù)-數(shù)據(jù)-人才”三位一體的發(fā)展策略，為有效防范和化解AI金融欺詐風(fēng)險(xiǎn)提供戰(zhàn)略參考。

新網(wǎng)銀行反欺詐專家王萍表示，人工智能技術(shù)在金融領(lǐng)域的廣泛滲透，正在重塑欺詐風(fēng)險(xiǎn)的本質(zhì)和邊界。AI驅(qū)動(dòng)的欺詐威脅呈現(xiàn)出前所未有的動(dòng)態(tài)性和復(fù)雜性，需要采取更具前瞻性、技術(shù)導(dǎo)向性的創(chuàng)新策略，構(gòu)建與數(shù)字金融時(shí)代相匹配的安全屏障。

以“技術(shù)向善”理念構(gòu)建防御體系

在發(fā)布會(huì)現(xiàn)場(chǎng)，陸瑤指出，深入研究金融行業(yè)的AI欺詐與技術(shù)對(duì)抗，具有重要的現(xiàn)實(shí)意義與理論價(jià)值，此次報(bào)告旨在為構(gòu)建安全、可信、穩(wěn)定的金融數(shù)字生態(tài)貢獻(xiàn)智慧與力量，使人工智能技術(shù)更好地服務(wù)于經(jīng)濟(jì)社會(huì)發(fā)展和人民群眾的美好生活需求。

陸瑤強(qiáng)調(diào)，技術(shù)對(duì)抗的核心是建立動(dòng)態(tài)防御能力，通過(guò)攻防演練、對(duì)抗樣本庫(kù)更新，形成動(dòng)態(tài)化、智能化、生態(tài)化的防御能力，同時(shí)構(gòu)建多層次、多維度的機(jī)制對(duì)抗體系，整合內(nèi)部資源與外部力量，打通信息壁壘，構(gòu)筑起堅(jiān)實(shí)的技術(shù)防線與制度保障。實(shí)現(xiàn)“以AI進(jìn)化對(duì)抗AI進(jìn)化”。技術(shù)革新不應(yīng)成為欺詐工具，而應(yīng)服務(wù)于社會(huì)福祉。金融機(jī)構(gòu)需以“技術(shù)向善”理念構(gòu)建防御體系，守住風(fēng)險(xiǎn)防控底線。

對(duì)于構(gòu)建防御體系的愿景目標(biāo)，新網(wǎng)銀行反欺詐專家王萍認(rèn)為，AI金融欺詐的防御還需要全社會(huì)的共同參與和協(xié)同響應(yīng)。構(gòu)建一個(gè)涵蓋公眾教育、產(chǎn)學(xué)研協(xié)作和開放情報(bào)共享的社會(huì)化防御體系，是增強(qiáng)整個(gè)社會(huì)面對(duì)AI金融欺詐韌性的關(guān)鍵路徑。

古語(yǔ)有云“安而不忘危，存而不忘亡，治而不忘亂”，陸瑤呼吁行業(yè)保持警惕：AI技術(shù)的善用與濫用僅在一念之間。唯有以“智”治“智”，推動(dòng)防御體系從被動(dòng)響應(yīng)轉(zhuǎn)向主動(dòng)進(jìn)化，才能讓技術(shù)真正成為守護(hù)金融安全的“無(wú)形長(zhǎng)城”。課題組認(rèn)為，未來(lái)金融安全的核心在于平衡創(chuàng)新與風(fēng)險(xiǎn)，通過(guò)技術(shù)迭代、制度優(yōu)化與社會(huì)協(xié)作的三維聯(lián)動(dòng)，實(shí)現(xiàn)AI技術(shù)與金融生態(tài)的良性共生。

面對(duì)AI驅(qū)動(dòng)下日益復(fù)雜的金融欺詐形態(tài)，《中國(guó)金融行業(yè)AI欺詐與技術(shù)對(duì)抗研究報(bào)告》為行業(yè)提供了一套系統(tǒng)性、前瞻性的安全應(yīng)對(duì)邏輯，也為構(gòu)建可信賴的數(shù)字金融生態(tài)注入了理論支撐。

未來(lái)，新網(wǎng)銀行將持續(xù)以科技創(chuàng)新為驅(qū)動(dòng)，推動(dòng)AI風(fēng)控模型進(jìn)化迭代，守牢金融安全底線，為打造“安全、高效、公正”的數(shù)字金融生態(tài)貢獻(xiàn)更大力量。