- 換臉換聲金融詐騙，AI作惡不是“逗你玩”
- 來源：北京日報客戶端
近日，社交平臺上有人以香港特首李家超出席活動的畫面，配上人工智能生成的聲音，推介所謂高回報投資計(jì)劃，還稱獲利可以免稅。對此特區(qū)政府嚴(yán)正澄清，有關(guān)影片全屬偽造，呼吁市民提高警惕，并強(qiáng)烈譴責(zé)不法之徒的詐騙行為。
這些年，AI技術(shù)迭代發(fā)展，深入社會運(yùn)行各個場景，給人們帶來豐富休閑體驗(yàn)的同時，也生出了不少困擾。“你要的樣子我都有”“你喜歡的聲音都提供”，因換聲換臉變裝而起的爭議頻頻發(fā)生。有演員遭遇換臉不得不公開打假，有歌手被換聲忙不迭澄清譴責(zé)。公眾人物不堪其擾，普通大眾也屢屢躺槍。好好的一張生活照被“一鍵脫衣”，誤以為是好友聊天結(jié)果10分鐘被騙400多萬……以假亂真的視頻、圖片、聲音日漸泛濫，不僅挑戰(zhàn)著社會認(rèn)知，也造成了秩序混亂。
AI換的“臉”“聲”是假的，作惡造成的沖擊卻是真的。隨著技術(shù)升級，應(yīng)用的門檻迅速降低，辨別真?zhèn)蔚碾y度越來越大。比如前段時間，“特朗普與霉霉以自己的獨(dú)特音色發(fā)表中文談話”火爆全網(wǎng)，AI的表情姿態(tài)、語言風(fēng)格相當(dāng)自然。照這么發(fā)展下去，大家的肖像權(quán)、名譽(yù)權(quán)、著作權(quán)等如何才能得到有效維護(hù)，財(cái)產(chǎn)安全、隱私安全乃至人身安全等如何才能得到妥善保障？
AI換臉換聲絕不只是“逗你玩”，很可能成為不法之徒的幫兇。2022年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布，2023年8月《生成式人工智能服務(wù)管理暫行辦法》施行……隨著各項(xiàng)法規(guī)出臺并細(xì)化，剛性治理有了更多抓手。對踩踏紅線者嚴(yán)肅懲處，將典型案例廣而告之，盡可能震懾作惡，才能引導(dǎo)技術(shù)在服務(wù)社會的軌道上運(yùn)行。
“強(qiáng)大人工智能的崛起，可能是人類遇到的最好的事情，但也可能是最壞的事情。”技術(shù)本身無原罪，善惡其實(shí)都在人。讓科技為社會造福而不是添亂，我們都需多一分敬畏，多一些謹(jǐn)慎。近日，社交平臺上有人以香港特首李家超出席活動的畫面，配上人工智能生成的聲音，推介所謂高回報投資計(jì)劃，還稱獲利可以免稅。對此特區(qū)政府嚴(yán)正澄清，有關(guān)影片全屬偽造，呼吁市民提高警惕，并強(qiáng)烈譴責(zé)不法之徒的詐騙行為。
這些年，AI技術(shù)迭代發(fā)展，深入社會運(yùn)行各個場景，給人們帶來豐富休閑體驗(yàn)的同時，也生出了不少困擾。“你要的樣子我都有”“你喜歡的聲音都提供”，因換聲換臉變裝而起的爭議頻頻發(fā)生。有演員遭遇換臉不得不公開打假，有歌手被換聲忙不迭澄清譴責(zé)。公眾人物不堪其擾，普通大眾也屢屢躺槍。好好的一張生活照被“一鍵脫衣”，誤以為是好友聊天結(jié)果10分鐘被騙400多萬……以假亂真的視頻、圖片、聲音日漸泛濫，不僅挑戰(zhàn)著社會認(rèn)知，也造成了秩序混亂。
AI換的“臉”“聲”是假的，作惡造成的沖擊卻是真的。隨著技術(shù)升級，應(yīng)用的門檻迅速降低，辨別真?zhèn)蔚碾y度越來越大。比如前段時間，“特朗普與霉霉以自己的獨(dú)特音色發(fā)表中文談話”火爆全網(wǎng)，AI的表情姿態(tài)、語言風(fēng)格相當(dāng)自然。照這么發(fā)展下去，大家的肖像權(quán)、名譽(yù)權(quán)、著作權(quán)等如何才能得到有效維護(hù)，財(cái)產(chǎn)安全、隱私安全乃至人身安全等如何才能得到妥善保障？
AI換臉換聲絕不只是“逗你玩”，很可能成為不法之徒的幫兇。2022年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布，2023年8月《生成式人工智能服務(wù)管理暫行辦法》施行……隨著各項(xiàng)法規(guī)出臺并細(xì)化，剛性治理有了更多抓手。對踩踏紅線者嚴(yán)肅懲處，將典型案例廣而告之，盡可能震懾作惡，才能引導(dǎo)技術(shù)在服務(wù)社會的軌道上運(yùn)行。
“強(qiáng)大人工智能的崛起，可能是人類遇到的最好的事情，但也可能是最壞的事情。”技術(shù)本身無原罪，善惡其實(shí)都在人。讓科技為社會造福而不是添亂，我們都需多一分敬畏，多一些謹(jǐn)慎。
