- 有圖未必有真相 AI造謠要警惕
- 來(lái)源：公安部網(wǎng)安局
?近年來(lái),，以大數(shù)據(jù),、人工智能（AI）等為代表的信息技術(shù)日新月異。與此同時(shí)，利用AI工具合成技術(shù)編造謠言,，甚至生成逼近真實(shí)的圖片、音視頻,，顛覆了“有圖就有真相”的常規(guī)認(rèn)知,，讓人難辨真假。今天,，帶你了解AI工具造謠背后的真相,！??
??【AI造謠的定義】
??AI造謠指的是利用人工智能技術(shù)生成虛假信息，?包括文字,、?圖片,、?音視頻等，?以此來(lái)制造網(wǎng)絡(luò)謠言,。
??【AI造謠典型案例】
??案例一：利用AI軟件編造“山體滑坡致8人遇難”網(wǎng)絡(luò)謠言??
??2024年1月23日,，有網(wǎng)民在某平臺(tái)發(fā)布文章稱：“云南山體滑坡災(zāi)害 已致8人遇難”。經(jīng)查,，違法行為人楊某某為獲取流量牟利,，搜集網(wǎng)絡(luò)上的相關(guān)信息后，利用AI軟件生成了“云南山體滑坡災(zāi)害 已致8人遇難”的虛假新聞信息,，并發(fā)布在網(wǎng)絡(luò)平臺(tái)上,，造成不良社會(huì)影響。目前,，公安機(jī)關(guān)已依法對(duì)楊某某進(jìn)行行政處罰,。
??案例二：利用AI軟件編造“喜德縣地震”網(wǎng)絡(luò)謠言??
??2024年6月9日，有網(wǎng)民在某視頻平臺(tái)發(fā)布視頻稱：“5月27日,，四川省涼山彝族自治州發(fā)生5.0級(jí)地震,，震中位于喜德縣，地震波以每小時(shí)80公里的速度傳播,。地震造成了大量房屋損壞和人員傷亡,，災(zāi)情嚴(yán)重”,。經(jīng)查，5月27日涼山發(fā)生5.0級(jí)地震,，震中位于木里縣,，無(wú)人員傷亡，部分房屋受損,，違法行為人羅某某為吸引眼球,、獲取流量，利用AI軟件生成虛假地震災(zāi)情圖片,，并在某短視頻平臺(tái)散布不實(shí)信息,。目前，公安機(jī)關(guān)已依法對(duì)羅某某進(jìn)行行政處罰,。
??案例三：利用AI軟件編造“女子電動(dòng)車被扣后猝死”網(wǎng)絡(luò)謠言??
??2024年6月,，某網(wǎng)絡(luò)平臺(tái)出現(xiàn)一條關(guān)于“執(zhí)法與人性的碰撞：五旬?huà)D女電動(dòng)車被查扣猝死”的消息。該文章稱：“澄城縣一婦女為了照顧病重的父親匆忙趕路,，卻遇到交警執(zhí)法,，在哀求無(wú)果、電動(dòng)車被扣后,，情緒瞬間崩潰,，心臟病發(fā)作最終未能挺過(guò)這一關(guān)”。這篇“情節(jié)曲折”的文章引發(fā)網(wǎng)民廣泛關(guān)注,，給當(dāng)?shù)卦斐蓸O大的負(fù)面影響,。經(jīng)調(diào)查，田某利用AI工具,，加工生成了“澄城縣城的一婦女電動(dòng)車被查扣猝死”的虛假信息并發(fā)布至其某平臺(tái)賬號(hào),。目前，田某對(duì)自己通過(guò)AI軟件編造謠言的情況供認(rèn)不諱,，公安機(jī)關(guān)依法對(duì)田某處以行政處罰,。
??以上案例均是通過(guò)AI軟件合成的不實(shí)信息，不法分子?為了賺取平臺(tái)獎(jiǎng)勵(lì)或吸引流量,，?使用AI軟件自動(dòng)生成文章,，?并與實(shí)際圖片進(jìn)行嫁接，?發(fā)布在網(wǎng)絡(luò)平臺(tái)上,，?造成不良社會(huì)影響,，嚴(yán)重?cái)_亂社會(huì)公共秩序。
