- 謠言沒完沒了背后竟是AI“洗稿”,！一天能寫19萬篇,！
- 來源：央視新聞
自4月23日開始，中央網(wǎng)信辦在全國范圍內(nèi),，開展為期兩個(gè)月的“清朗·整治‘自媒體’無底線博流量”專項(xiàng)行動(dòng),。整治重點(diǎn),，聚焦“自媒體”無底線造熱點(diǎn)蹭熱點(diǎn)，制造以假亂真,、虛實(shí)混雜的“信息陷阱”等突出問題,。近日，西安警方就打擊了一起網(wǎng)絡(luò)謠言案件,，在這起案件中,，自媒體賬號(hào)通過拼湊信息發(fā)布不實(shí)消息，引起大量轉(zhuǎn)發(fā)和關(guān)注,。
??2023年12月21日,，某短視頻平臺(tái)上，一條短視頻引發(fā)了很多西安市民的關(guān)注,。視頻里,，流經(jīng)當(dāng)?shù)氐囊粭l河流潭峪河上，冒出一陣陣白色的熱氣,，有市民擔(dān)心是不是市政的熱水管道出現(xiàn)了泄漏,。
??西安市公安局鄠邑分局網(wǎng)安大隊(duì)副大隊(duì)長 張羽林：因?yàn)榘l(fā)這條視頻的時(shí)候是在甘肅地震后，有很多網(wǎng)友留言說會(huì)不會(huì)跟甘肅的地震有關(guān)系,。
??由于涉及市政管道,，當(dāng)?shù)囟鄠€(gè)部門很快介入調(diào)查,，然而查來查去，這個(gè)視頻里提到的內(nèi)容,，跟地震和水管破裂都沒有關(guān)系,。
??西安市公安局鄠邑分局網(wǎng)安大隊(duì)副大隊(duì)長 張羽林：經(jīng)過調(diào)查，這是長安新區(qū)熱力公司的一條熱力管道,。經(jīng)過潭峪河,，熱力管道的工作人員也進(jìn)行了現(xiàn)場(chǎng)調(diào)查，管道也沒有破裂,，也沒有出現(xiàn)熱水外泄的情況,。
??西安市公安局鄠邑分局網(wǎng)安大隊(duì)民警 劉通：因?yàn)檫@條管道在河道上，在冬天的時(shí)候管道過熱,，在河面上產(chǎn)生的水蒸氣,。
??根據(jù)調(diào)查核實(shí)的結(jié)果，當(dāng)?shù)睾芸彀l(fā)布了官方消息,。然而令人奇怪的是,，在此之后，網(wǎng)絡(luò)平臺(tái)上仍然有一些自媒體賬號(hào)在不斷散播西安市鄠邑區(qū)管道破裂的消息,，而且帖文里還言之鑿鑿相關(guān)部門正在對(duì)事故原因展開深入調(diào)查,。警方調(diào)查發(fā)現(xiàn)，有的帖文配發(fā)的圖片甚至都不在陜西省,。
??西安市公安局鄠邑分局網(wǎng)安大隊(duì)副大隊(duì)長 張羽林：這張配圖是經(jīng)過我們調(diào)查是2011年的5月份,，商丘網(wǎng)當(dāng)時(shí)發(fā)布的管道破裂的一張圖片。
??然而,，就是這樣一個(gè)拼湊的不實(shí)帖文,，在很多自媒體賬號(hào)上被大量轉(zhuǎn)發(fā)，并引起了很多網(wǎng)友的恐慌,。
??西安市公安局鄠邑分局網(wǎng)安大隊(duì)副大隊(duì)長 張羽林：在發(fā)現(xiàn)帖文之后的幾個(gè)小時(shí)里,，我們陸續(xù)發(fā)現(xiàn)了很多同質(zhì)的不同類型的不同描述的一些帖文，這些帖文總閱讀量已經(jīng)達(dá)到20多萬了,。
??雷同謠言猛然出現(xiàn) 背后竟是AI“洗稿”
??一條自媒體發(fā)布的不實(shí)信息,，為什么經(jīng)過官方辟謠后謠言還在大量傳播，甚至愈演愈烈,，這背后到底是怎么回事,？不查不知道，原來,，在這些散布不實(shí)消息的自媒體賬號(hào)背后,，竟然隱藏一條依靠AI人工智能洗稿并且未經(jīng)審核、肆意發(fā)布的產(chǎn)業(yè)鏈,。
??根據(jù)警方的調(diào)查,，最早發(fā)布不實(shí)消息的,，有一個(gè)名叫“可愛的牛牛往上沖”的自媒體賬號(hào)。而這個(gè)賬號(hào)的實(shí)際操作人,，是四川綿陽的王某,。于是，辦案民警趕到綿陽,，對(duì)王某進(jìn)行了傳喚,。
??西安市公安局鄠邑分局網(wǎng)安大隊(duì)副大隊(duì)長 張羽林：在我們調(diào)查的過程中發(fā)現(xiàn)，王某加入了一個(gè)微信群,，微信群里面像王某這種類型的群眾還比較多,。他們微信群的群主，每天定時(shí)會(huì)推送一些文章到群成員自媒體賬號(hào)的草稿箱里面,。
??據(jù)王某交代,，微信群里的成員收到這些文章后，還需要在草稿箱里點(diǎn)擊發(fā)送,，這樣就可以把文章發(fā)布到各自的自媒體賬號(hào)上,，而發(fā)布者會(huì)根據(jù)閱讀量和轉(zhuǎn)發(fā)量來獲取收益。
??西安市公安局鄠邑分局網(wǎng)安大隊(duì)副大隊(duì)長 張羽林：用戶獲取收益之后,，會(huì)把收益五五分成,，把一半的收益分給建群的群主，也就是供稿人,。
??警方很快查明,，王某所在的微信群群主是柳某,，而據(jù)柳某交代,，跟他一起發(fā)布文章的還有他的同學(xué)唐某，而且他們發(fā)布的文章也都不是自己寫的,，而是來自AI自動(dòng)生成,。
??西安市公安局鄠邑分局網(wǎng)安大隊(duì)副大隊(duì)長 張羽林：這位姓唐的同學(xué)給柳某推薦了一款叫“翠綠筆墨”的寫稿軟件，然后柳某跟著唐某一塊注冊(cè)“翠綠筆墨”的寫稿軟件,，用軟件每天寫很多帖文發(fā)送到群里面,。
??涉案軟件每天自動(dòng)生成19萬篇文章
??在自媒體賬號(hào)上發(fā)布文章博流量，竟然還用到了專門的寫稿軟件,。涉案的這款“翠綠筆墨”軟件一天就能生成19萬篇文章,，7天能達(dá)到上百萬篇。它是如何運(yùn)作的,？又是怎么流向網(wǎng)絡(luò)的呢,？
??據(jù)警方了解，這款名為“翠綠筆墨”的軟件,，是一個(gè)名叫黃某的男子開發(fā)的,。用戶需要從一家專門售賣新聞稿件的網(wǎng)絡(luò)平臺(tái)上,，購買大量的真實(shí)新聞稿件，形成稿池,。接下來,，注冊(cè)用戶就可以根據(jù)各自的需求，自動(dòng)生成一篇篇的文稿,。
??西安市公安局鄠邑分局網(wǎng)安大隊(duì)副大隊(duì)長 張羽林：這個(gè)軟件生成文章的特點(diǎn)就是它會(huì)從大量的從平臺(tái)購買的社會(huì)熱點(diǎn)新聞里,，根據(jù)用戶的需求抓取熱點(diǎn)比較高的文章，然后用AI軟件把這些文章進(jìn)行拼湊,、前后段落顛倒,、同義詞替換，產(chǎn)生一篇同質(zhì)的反映同一件事情的不同類型的文章,。
??為了規(guī)避監(jiān)管,，不引發(fā)風(fēng)險(xiǎn)，這款軟件在抓取社會(huì)熱點(diǎn)文章時(shí),，還專門設(shè)計(jì)了關(guān)鍵詞篩選的功能,。
??西安市公安局鄠邑分局網(wǎng)安大隊(duì)副大隊(duì)長 張羽林：這個(gè)文章會(huì)規(guī)避一些涉政、涉案件,、涉暴恐的文章,。
??據(jù)民警介紹，從2023年10月黃某開發(fā)“翠綠筆墨”軟件之后,，在三個(gè)月時(shí)間內(nèi),，獲利24000多元。雖然他個(gè)人獲利不多,，但是每天由這款軟件自動(dòng)生成的文章卻數(shù)目驚人,。
??西安市公安局鄠邑分局網(wǎng)安大隊(duì)副大隊(duì)長 張羽林：我們發(fā)現(xiàn)，每天產(chǎn)生的文章大概在19萬篇左右,，然后我們提取了7天這個(gè)軟件里面保存的文章,，大概在100多萬（篇）。涉及時(shí)事新聞,、社會(huì)熱點(diǎn),、社會(huì)生活方面的事情，他不會(huì)去核實(shí),，他（也）沒有辦法去核實(shí)這些事情,。
??那么，這100多萬篇由軟件自動(dòng)生成的文稿最終都去了哪里呢,？警方調(diào)查發(fā)現(xiàn),，這款軟件的注冊(cè)用戶雖然還不是很多，但是借助自媒體平臺(tái)，這些稿件傳播的范圍和產(chǎn)生的影響令人擔(dān)憂,。
??西安市公安局鄠邑分局網(wǎng)安大隊(duì)副大隊(duì)長 張羽林：使用（翠綠筆墨）軟件的用戶169個(gè),，軟件錄入的自媒體賬號(hào)6000多個(gè)，就表示這個(gè)軟件現(xiàn)在有169個(gè)人在使用,，每天產(chǎn)生的文章有6000多個(gè)賬號(hào)在發(fā)布,，但是發(fā)布的這些文章都不是原創(chuàng)，全部是拼湊過的,。
??平臺(tái)應(yīng)要求自媒體做到3個(gè)“必須”
??目前,，本案涉及的賬號(hào)已被平臺(tái)查封，有關(guān)軟件和服務(wù)器也被關(guān)閉,，警方還在對(duì)案件深挖,。在這次“整治‘自媒體’無底線博流量”專項(xiàng)行動(dòng)中，也強(qiáng)調(diào)了平臺(tái)責(zé)任,。平臺(tái)應(yīng)要求“自媒體”發(fā)布涉國內(nèi)外時(shí)事,、公共政策、社會(huì)事件等相關(guān)信息時(shí),，必須準(zhǔn)確標(biāo)注信息來源,；使用AI等技術(shù)生成信息的，必須明確標(biāo)注系技術(shù)生成,；發(fā)布含有虛構(gòu),、演繹等內(nèi)容的，必須明確加注虛構(gòu)標(biāo)簽,。同時(shí),，平臺(tái)要在顯著位置展示“自媒體”標(biāo)注的信息來源或標(biāo)簽。那么,，如果自媒體違反相關(guān)規(guī)定,，將承擔(dān)哪些法律責(zé)任呢？
??中國社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任 劉曉春：自媒體相對(duì)于傳統(tǒng)媒體而言,，沒有專門的準(zhǔn)入要求,，個(gè)人,、公司都可以通過以社交媒體為主要載體的賬號(hào)公開發(fā)布內(nèi)容,，因此在傳播效果上具有比較明顯的媒體屬性，但是沒有傳統(tǒng)媒體的嚴(yán)格審核規(guī)范和流程,。所以在豐富網(wǎng)絡(luò)內(nèi)容生態(tài)的同時(shí),，的確也帶來了很多內(nèi)容失范的亂象。 自媒體造謠造假,，構(gòu)成對(duì)于他人名譽(yù)侵害的,，需要承擔(dān)侵權(quán)責(zé)任，嚴(yán)重的構(gòu)成誹謗罪,，還需要承擔(dān)刑事責(zé)任,。如果不涉及對(duì)于個(gè)人權(quán)利的侵害,，編造、傳播謠言造成損害擾亂社會(huì)公共秩序和市場(chǎng)秩序的,，可以進(jìn)行行政處罰,，嚴(yán)重的也會(huì)構(gòu)成犯罪，需要承擔(dān)刑事責(zé)任,。封號(hào)是從平臺(tái)治理角度出發(fā)進(jìn)行的比較快捷,、直接的切斷謠言傳播源頭或者節(jié)點(diǎn)的處置方式，還是需要采取更加有效的事前和事中防范措施,，比如賬號(hào)注冊(cè)核驗(yàn),、動(dòng)態(tài)巡查、重點(diǎn)環(huán)節(jié)重點(diǎn)防控措施等,，達(dá)到防患于未然的目標(biāo),。
??中國政法大學(xué)傳播法研究中心副主任 朱巍：傳統(tǒng)媒體對(duì)一些新聞包括信源的審核力度是比較大的，核實(shí)義務(wù)是保證真實(shí)性的一個(gè)必要的條件,。但是你會(huì)發(fā)現(xiàn),，AI“洗稿”過程中，幾乎沒互相的核實(shí)義務(wù),，有一些常識(shí)性的錯(cuò)誤,，作為一個(gè)理性人，一眼都能看得到的,。為什么傳播這么廣,？就是因?yàn)楹芏嗟氖鼙姼矚g獵奇，更希望這件事情可能會(huì)存在,，所謂的1%的真實(shí)性,，所以有了這種獵奇就變成了流量的加持。（記者 張李彬 阮超 何潔 何濤）
