- 換臉換聲金融詐騙，AI作惡不是“逗你玩”
- 來(lái)源：北京日?qǐng)?bào)客戶(hù)端
近日，社交平臺(tái)上有人以香港特首李家超出席活動(dòng)的畫(huà)面，配上人工智能生成的聲音，推介所謂高回報(bào)投資計(jì)劃,，還稱(chēng)獲利可以免稅。對(duì)此特區(qū)政府嚴(yán)正澄清,，有關(guān)影片全屬偽造,，呼吁市民提高警惕，并強(qiáng)烈譴責(zé)不法之徒的詐騙行為,。
這些年,，AI技術(shù)迭代發(fā)展，深入社會(huì)運(yùn)行各個(gè)場(chǎng)景,，給人們帶來(lái)豐富休閑體驗(yàn)的同時(shí),，也生出了不少困擾?！澳阋臉幼游叶加小薄澳阆矚g的聲音都提供”,，因換聲換臉變裝而起的爭(zhēng)議頻頻發(fā)生。有演員遭遇換臉不得不公開(kāi)打假,，有歌手被換聲忙不迭澄清譴責(zé),。公眾人物不堪其擾，普通大眾也屢屢躺槍,。好好的一張生活照被“一鍵脫衣”,，誤以為是好友聊天結(jié)果10分鐘被騙400多萬(wàn)……以假亂真的視頻、圖片,、聲音日漸泛濫,，不僅挑戰(zhàn)著社會(huì)認(rèn)知，也造成了秩序混亂,。
AI換的“臉”“聲”是假的,，作惡造成的沖擊卻是真的。隨著技術(shù)升級(jí),，應(yīng)用的門(mén)檻迅速降低,，辨別真?zhèn)蔚碾y度越來(lái)越大,。比如前段時(shí)間，“特朗普與霉霉以自己的獨(dú)特音色發(fā)表中文談話(huà)”火爆全網(wǎng),，AI的表情姿態(tài),、語(yǔ)言風(fēng)格相當(dāng)自然。照這么發(fā)展下去,，大家的肖像權(quán),、名譽(yù)權(quán)、著作權(quán)等如何才能得到有效維護(hù),，財(cái)產(chǎn)安全,、隱私安全乃至人身安全等如何才能得到妥善保障？
AI換臉換聲絕不只是“逗你玩”,，很可能成為不法之徒的幫兇,。2022年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布,，2023年8月《生成式人工智能服務(wù)管理暫行辦法》施行……隨著各項(xiàng)法規(guī)出臺(tái)并細(xì)化,，剛性治理有了更多抓手。對(duì)踩踏紅線(xiàn)者嚴(yán)肅懲處,，將典型案例廣而告之,，盡可能震懾作惡，才能引導(dǎo)技術(shù)在服務(wù)社會(huì)的軌道上運(yùn)行,。
“強(qiáng)大人工智能的崛起,，可能是人類(lèi)遇到的最好的事情，但也可能是最壞的事情,?！奔夹g(shù)本身無(wú)原罪，善惡其實(shí)都在人,。讓科技為社會(huì)造福而不是添亂,，我們都需多一分敬畏，多一些謹(jǐn)慎,。近日,，社交平臺(tái)上有人以香港特首李家超出席活動(dòng)的畫(huà)面，配上人工智能生成的聲音,，推介所謂高回報(bào)投資計(jì)劃,，還稱(chēng)獲利可以免稅。對(duì)此特區(qū)政府嚴(yán)正澄清,，有關(guān)影片全屬偽造,，呼吁市民提高警惕，并強(qiáng)烈譴責(zé)不法之徒的詐騙行為,。
這些年,，AI技術(shù)迭代發(fā)展,，深入社會(huì)運(yùn)行各個(gè)場(chǎng)景，給人們帶來(lái)豐富休閑體驗(yàn)的同時(shí),，也生出了不少困擾,。“你要的樣子我都有”“你喜歡的聲音都提供”,，因換聲換臉變裝而起的爭(zhēng)議頻頻發(fā)生,。有演員遭遇換臉不得不公開(kāi)打假，有歌手被換聲忙不迭澄清譴責(zé),。公眾人物不堪其擾,，普通大眾也屢屢躺槍。好好的一張生活照被“一鍵脫衣”,，誤以為是好友聊天結(jié)果10分鐘被騙400多萬(wàn)……以假亂真的視頻,、圖片、聲音日漸泛濫,，不僅挑戰(zhàn)著社會(huì)認(rèn)知,，也造成了秩序混亂。
AI換的“臉”“聲”是假的,，作惡造成的沖擊卻是真的,。隨著技術(shù)升級(jí),，應(yīng)用的門(mén)檻迅速降低,，辨別真?zhèn)蔚碾y度越來(lái)越大。比如前段時(shí)間,，“特朗普與霉霉以自己的獨(dú)特音色發(fā)表中文談話(huà)”火爆全網(wǎng),，AI的表情姿態(tài)、語(yǔ)言風(fēng)格相當(dāng)自然,。照這么發(fā)展下去,，大家的肖像權(quán)、名譽(yù)權(quán),、著作權(quán)等如何才能得到有效維護(hù),，財(cái)產(chǎn)安全、隱私安全乃至人身安全等如何才能得到妥善保障,？
AI換臉換聲絕不只是“逗你玩”,，很可能成為不法之徒的幫兇。2022年12月,，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布,，2023年8月《生成式人工智能服務(wù)管理暫行辦法》施行……隨著各項(xiàng)法規(guī)出臺(tái)并細(xì)化，剛性治理有了更多抓手,。對(duì)踩踏紅線(xiàn)者嚴(yán)肅懲處,，將典型案例廣而告之,，盡可能震懾作惡，才能引導(dǎo)技術(shù)在服務(wù)社會(huì)的軌道上運(yùn)行,。
“強(qiáng)大人工智能的崛起,，可能是人類(lèi)遇到的最好的事情，但也可能是最壞的事情,?！奔夹g(shù)本身無(wú)原罪，善惡其實(shí)都在人,。讓科技為社會(huì)造福而不是添亂,，我們都需多一分敬畏，多一些謹(jǐn)慎,。
