- 防止生成式人工智能成為詐騙“新武器”
- 來源：學(xué)習(xí)時(shí)報(bào)
隨著大數(shù)據(jù)和深度學(xué)習(xí)的發(fā)展,，生成式人工智能技術(shù)給世界政治,、經(jīng)濟(jì),、文化領(lǐng)域帶來極大沖擊,，技術(shù)創(chuàng)新進(jìn)入新一輪活躍期,。生成式人工智能技術(shù)在促進(jìn)新質(zhì)生產(chǎn)力發(fā)展,，帶來巨大商業(yè)價(jià)值的同時(shí),，也存在深度偽造,、虛假信息,、廣告欺詐等問題,，可能為不法分子提供新的技術(shù)工具，成為詐騙活動(dòng)的“新武器”,。預(yù)防,、監(jiān)測(cè)和治理生成式人工智能詐騙，保護(hù)公眾免受智能詐騙行為的影響，促進(jìn)人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用具有重要意義,。
生成式人工智能技術(shù)基于遷移學(xué)習(xí)和人工神經(jīng)網(wǎng)絡(luò),，使用深度學(xué)習(xí)模型，傳輸和處理現(xiàn)有文本,、圖像和音視頻信息,，自動(dòng)創(chuàng)建出新內(nèi)容、新方法和新方案,。隨著生成式人工智能技術(shù)的發(fā)展,，詐騙形式從線下詐騙、電話詐騙擴(kuò)展到網(wǎng)絡(luò)詐騙,。常見的網(wǎng)絡(luò)詐騙包括以下幾種形式：網(wǎng)絡(luò)購(gòu)物詐騙,，詐騙者使用虛假網(wǎng)站、虛假商品和虛假促銷信息,，誘騙消費(fèi)者購(gòu)買商品,，通過虛假支付鏈接欺詐消費(fèi)者；網(wǎng)絡(luò)投資詐騙,，詐騙者以高收益低風(fēng)險(xiǎn)為誘惑,，通過虛假網(wǎng)站參與虛擬貨幣投資、股票期貨等投資活動(dòng),，騙取消費(fèi)者錢財(cái),；網(wǎng)絡(luò)視頻詐騙，詐騙者利用提前錄制的真人視頻和盜錄的視頻影像,，合成為欺詐視頻,，向視頻被盜錄者的好友借錢，開展詐騙行為,。
防止生成式人工智能成為詐騙新工具是一項(xiàng)系統(tǒng)工程，存在三大監(jiān)控治理難點(diǎn),。一是全鏈路信息監(jiān)管難,。詐騙者通過短信、電話,、互聯(lián)網(wǎng)等通信渠道,，與受害者聯(lián)系，基于獲取的個(gè)人信息和事前準(zhǔn)備好的詐騙腳本,，騙取受害者的信任,，誘導(dǎo)受害者使用銀行轉(zhuǎn)賬、網(wǎng)上支付,、手機(jī)支付等方式向指定賬戶轉(zhuǎn)款,，并快速完成資金轉(zhuǎn)移，獲取非法經(jīng)濟(jì)利益。二是個(gè)人信息保護(hù)難,。詐騙分子通過非法渠道竊取或購(gòu)買個(gè)人信息,，包括身份證信息、電話號(hào)碼,、家庭住址,、網(wǎng)絡(luò)賬號(hào)、銀行卡賬號(hào)等,，精準(zhǔn)獲取社會(huì)上各行各業(yè)人員的個(gè)人信息,，為實(shí)施詐騙構(gòu)建個(gè)人信息基礎(chǔ)數(shù)據(jù)庫。三是智能生成產(chǎn)品識(shí)別破解難,。詐騙分子基于開放數(shù)據(jù)流和獲取的個(gè)人信息,，使用深度合成技術(shù)，篡改圖片或者視頻信息,，對(duì)原始信息進(jìn)行深度偽造,，獲得人工智能生成產(chǎn)品，通過“換臉”“換聲”等方式實(shí)施違法犯罪行為,。因此,，要堅(jiān)持目標(biāo)導(dǎo)向和問題導(dǎo)向，在全鏈路信息監(jiān)管,、個(gè)人信息保護(hù)和智能生成品鑒別技術(shù)上深耕細(xì)作,，建立健全政策法規(guī)，切實(shí)將發(fā)展與安全相結(jié)合,，持續(xù)推動(dòng)科技創(chuàng)新,，不斷增強(qiáng)防詐能力。
首先,，建設(shè)公共算力和算法平臺(tái)是防止詐騙的基礎(chǔ),，應(yīng)研發(fā)全鏈路的信息監(jiān)管技術(shù)。一方面,，政府部門牽頭建立公共算力基礎(chǔ)設(shè)施,，采用安全可信的芯片、軟件和工具,，統(tǒng)一收集人工智能算法,、鑒別算法和檢測(cè)算法模型，形成算法數(shù)據(jù)庫,，規(guī)范人工智能服務(wù)提供者預(yù)訓(xùn)練,、優(yōu)化訓(xùn)練等數(shù)據(jù)處理行為，提升算力資源利用效能,。另一方面,，研發(fā)可溯源的網(wǎng)關(guān)類設(shè)備監(jiān)管技術(shù),，基于分類分級(jí)監(jiān)管規(guī)則，全鏈路監(jiān)管查詢,、下載,、使用和修改個(gè)人生物識(shí)別信息的行為。并且要提供各類已被識(shí)別的合成品,，積累識(shí)別樣本,，提升詐騙電話檢測(cè)、惡意網(wǎng)址攔截,、詐騙文本識(shí)別和詐騙風(fēng)險(xiǎn)預(yù)警的精準(zhǔn)度,。
其次，避免個(gè)人信息泄露是治理詐騙的根源,，應(yīng)研發(fā)個(gè)人信息保護(hù)技術(shù),。一方面，生成式人工智能服務(wù)提供者應(yīng)對(duì)服務(wù)使用者信息的輸入和使用記錄依法履行保護(hù)義務(wù),，嚴(yán)禁采集非必要個(gè)人信息,，不得非法向他人提供使用者的個(gè)人信息及使用記錄，規(guī)范個(gè)人信息采集與共享行為,。另一方面,，采用匿名化、去標(biāo)識(shí)化技術(shù)和加密技術(shù),，處理使用者個(gè)人信息,，對(duì)個(gè)人信息的獲取進(jìn)行監(jiān)測(cè)，確保使用者個(gè)人同意且符合法律法規(guī),。通過虛擬私人網(wǎng)絡(luò),，建立信息安全通道，規(guī)范數(shù)據(jù)傳輸,、處理與存儲(chǔ)行為,，監(jiān)管信息使用情況，標(biāo)注并攔截詐騙信息,。
再次,，鑒別生成產(chǎn)品是治理詐騙的關(guān)鍵，應(yīng)研發(fā)人工智能生成品的識(shí)別破解技術(shù),。一方面，規(guī)范人工智能合成品的制作流程,，擴(kuò)大信息源取證范圍,，在信息采集設(shè)備中采用水印技術(shù)，對(duì)原始信息增加“數(shù)字水印”,，保證源頭信息的真實(shí)性,。使用區(qū)塊鏈和智能合約技術(shù),，運(yùn)用數(shù)據(jù)加密、時(shí)間戳和分布式共識(shí)手段,，在生成品中加入元數(shù)據(jù),，實(shí)現(xiàn)去中心化信用的點(diǎn)對(duì)點(diǎn)交易與協(xié)作，完成溯源防偽,。另一方面,，基于遞歸神經(jīng)網(wǎng)絡(luò)和膠囊網(wǎng)絡(luò)，提取空域,、時(shí)域和頻域特征,，通過檢測(cè)合成品的混合邊界及肉眼難辨的灰度元素，對(duì)圖像和視頻進(jìn)行反向破解,，解析圖像和視頻代碼,，判斷人物與場(chǎng)景的一致性，鑒別原始信息和合成品,。
最后,，建立健全政策法規(guī)，增強(qiáng)公眾風(fēng)險(xiǎn)教育,，對(duì)于防止生成式人工智能詐騙至關(guān)重要,。一方面，政府應(yīng)制定針對(duì)生成式人工智能犯罪的法律規(guī)范,，界定濫用生成式人工智能進(jìn)行詐騙的法律責(zé)任,，嚴(yán)格監(jiān)管和執(zhí)法，明確處罰措施,，確保公共安全不受威脅,。此外，鑒于數(shù)字詐騙的特殊性,，還應(yīng)加強(qiáng)國(guó)際合作,，加大聯(lián)合執(zhí)法力度，打擊跨境詐騙,。另一方面,，政府、企業(yè)和各級(jí)教育機(jī)構(gòu)應(yīng)大力宣傳防詐知識(shí),，普及人工智能技術(shù)的潛在風(fēng)險(xiǎn),，提升大眾的防范意識(shí)，提高識(shí)別和防詐技能,。并且,，應(yīng)增加對(duì)未來科技從業(yè)者的教育，使其能夠規(guī)范開發(fā)和使用人工智能技術(shù),。
生成式人工智能是一項(xiàng)前沿技術(shù),，對(duì)于提升多個(gè)領(lǐng)域的生產(chǎn)效率至關(guān)重要,。然而，如果不加約束地濫用,，可能會(huì)成為欺詐者手中的危險(xiǎn)工具,。只有通過不斷研發(fā)防詐技術(shù)，采取多管齊下的管理政策,，才能夠助推科技跨越式發(fā)展,，有效防止生成式人工智能成為詐騙“新武器”。
