真相來(lái)了丨靠AI“洗稿”非法獲利8萬(wàn)余元 2人因非法經(jīng)營(yíng)罪被刑拘

　　粉碎謠言，真相來(lái)了。人工智能工具的使用，給我們的工作生活帶來(lái)便利，但也被一些不法分子利用，成為造謠的工具。近日，上海警方公布了多起案例，其中之一就是一個(gè)名為醫(yī)學(xué)科學(xué)院細(xì)胞中心的微信公眾號(hào)，發(fā)布了一則信息，自稱跟某家醫(yī)院合作，可以通過(guò)干細(xì)胞來(lái)治療腎病，一起來(lái)揭開真相。

　　今年3月初，上海黃浦警方接到一家三甲醫(yī)院報(bào)警稱，一個(gè)名為醫(yī)學(xué)科學(xué)院細(xì)胞中心的微信公眾號(hào)，發(fā)布了包含大量不實(shí)信息的文章，對(duì)該醫(yī)院聲譽(yù)造成影響。

　　上海市公安局黃浦分局網(wǎng)安支隊(duì)民警 郁敏皓：文章說(shuō)跟某醫(yī)院有合作，可以通過(guò)干細(xì)胞來(lái)治療腎臟病，但是經(jīng)醫(yī)院反饋，他們?cè)谄綍r(shí)的臨床過(guò)程當(dāng)中，干細(xì)胞是不能用在腎臟病的治療的。

　　文章中，不僅編造醫(yī)學(xué)科學(xué)院細(xì)胞中心與該醫(yī)院進(jìn)行合作，還聲稱該干細(xì)胞治療項(xiàng)目源自國(guó)家級(jí)醫(yī)學(xué)院，并羅列出多項(xiàng)聯(lián)合研究療效評(píng)估數(shù)據(jù)，還附帶兩名患者的康復(fù)案例。經(jīng)醫(yī)院核實(shí)，這些信息全部為杜撰。警方隨后依法傳喚了該微信公眾號(hào)的工作人員陳某和蔡某。

　　上海市公安局黃浦分局網(wǎng)安支隊(duì)民警 郁敏皓：他是通過(guò)詞庫(kù)，還有關(guān)鍵字，利用AI直接生成這篇文章，包括提到的醫(yī)院，包括里面一些人物其實(shí)都是AI弄的。編寫文章的這個(gè)人，他是沒(méi)有醫(yī)療背景去識(shí)別這個(gè)文章的真實(shí)性的。

　　經(jīng)查，團(tuán)隊(duì)運(yùn)營(yíng)主管蔡某沒(méi)有醫(yī)療知識(shí)背景，在無(wú)法核實(shí)真?zhèn)蔚那闆r下，放任陳某編寫發(fā)布毫無(wú)事實(shí)依據(jù)的文章。民警表示，該公眾號(hào)為某自媒體運(yùn)營(yíng)公司今年2月新注冊(cè)的賬號(hào)，以醫(yī)療科普為名發(fā)布文章，多篇文章出自沒(méi)有任何醫(yī)學(xué)知識(shí)的人員，目的只是為公司所服務(wù)的其他醫(yī)院引流，招攬病人線下就醫(yī)。

　　上海市公安局黃浦分局網(wǎng)安支隊(duì)民警 郁敏皓：其實(shí)他背后服務(wù)的團(tuán)隊(duì)，就是線下的這種醫(yī)療機(jī)構(gòu)，為了引流，然后只要有客人來(lái)了，他們可能就會(huì)得到相應(yīng)的分成。

　　目前，陳某、蔡某已被警方依法處以行政處罰。

　　為博眼球 故意裁掉“AI生成視頻”標(biāo)簽

　　除了利用AI編造謠言，還有人用AI生成的視頻制造爭(zhēng)議話題。在另一起案件中，當(dāng)事人故意刪掉AI生成視頻的水印標(biāo)簽，制造外賣騎手打翻餐食又倒回的假象，引發(fā)大量輿論關(guān)注。

　　外賣員：好的，馬上到了，你稍等一下。你放心吧，我的車技是這一帶最好的，一滴湯都不帶灑的，放心吧。

　　今年2月，這段外賣員將撒落在外賣箱里的面條，重新裝盒配送的短視頻在網(wǎng)上傳播，造成惡劣影響。經(jīng)警方調(diào)查，該視頻完全由AI生成。

　　上海市公安局青浦分局網(wǎng)安支隊(duì)民警 徐禎意：這段視頻下面并沒(méi)有標(biāo)識(shí)是AI生成的，我們最后經(jīng)過(guò)溯源之后，發(fā)現(xiàn)這個(gè)視頻系轉(zhuǎn)載，原作者他在視頻下方，有標(biāo)注視頻是AI生成這么一個(gè)情況。

　　經(jīng)查，網(wǎng)民劉某某從網(wǎng)上下載了該視頻，為博取眼球，他重新發(fā)布時(shí)故意裁切掉原視頻中“AI技術(shù)生成”的水印標(biāo)簽。此后，網(wǎng)民高某某、武某某為吸引關(guān)注，還在評(píng)論區(qū)發(fā)布“我就這樣干過(guò)”“哪個(gè)外賣員沒(méi)干過(guò)，我就不相信了”等不實(shí)信息。

　　上海市公安局青浦分局網(wǎng)安支隊(duì)民警 徐禎意：評(píng)論區(qū)里的網(wǎng)民會(huì)去指責(zé)這個(gè)公司，如果我們不加以制止，讓視頻肆意擴(kuò)散或者不及時(shí)澄清的話，對(duì)這個(gè)平臺(tái)和公司肯定會(huì)造成比較持久的負(fù)面影響。

　　目前，劉某某已被警方依法處以行政拘留，高某某、武某某被處以罰款。

　　AI“洗稿”編造多家車企謠言 兩人被抓

　　一些不法分子還用AI“洗稿”來(lái)批量制造謠言。

　　AI“洗稿”簡(jiǎn)單說(shuō)，就是利用AI技術(shù)，對(duì)他人發(fā)布的文章、信息進(jìn)行抄襲、改寫、刪減、拼湊，甚至直接編造，變成偽原創(chuàng)內(nèi)容。

　　在上海警方此次公布的一起網(wǎng)絡(luò)水軍案件中，不法分子就是利用AI“洗稿”非法獲利8萬(wàn)余元。

　　今年2月，多家車企向上海警方反映，長(zhǎng)期遭受網(wǎng)絡(luò)不實(shí)信息侵?jǐn)_。這些信息不僅捏造企業(yè)經(jīng)營(yíng)狀況、新能源電池風(fēng)險(xiǎn)乃至交通事故傷亡等內(nèi)容，還大量散布銷量下滑、虧損擴(kuò)大、員工福利降低等不實(shí)消息，并配上“腰斬”“信任崩塌”“窟窿50億”等聳人聽(tīng)聞的詞匯，刻意制造經(jīng)營(yíng)困難、亂收費(fèi)等爭(zhēng)議話題，嚴(yán)重影響了車企的正常經(jīng)營(yíng)。

　　上海市公安局嘉定分局網(wǎng)安支隊(duì)副支隊(duì)長(zhǎng) 閻皓：像新能源車，大家都非常關(guān)心的一個(gè)問(wèn)題就是起火，起火的原因，它可能會(huì)去演繹。那么有一些可能是通過(guò)撞擊，或者說(shuō)發(fā)生了交通事故碰撞之后，電池液泄漏造成的起火。那么它可能是在AI編撰這個(gè)故事的過(guò)程當(dāng)中，它會(huì)把細(xì)節(jié)給漏掉，就說(shuō)這輛車在正常行駛的過(guò)程當(dāng)中，突然就著火了。

　　經(jīng)查，這些集中發(fā)布虛假消息的賬號(hào)，實(shí)際運(yùn)營(yíng)者僅梁某、郭某兩人。今年3月，兩人被抓獲歸案。到案后他們交代，為博取眼球和獲取平臺(tái)獎(jiǎng)勵(lì)，兩人配合搜集車企爭(zhēng)議話題，再利用AI工具“洗稿”，杜撰涉企不實(shí)文章，并發(fā)布到網(wǎng)上。因平臺(tái)獎(jiǎng)勵(lì)僅限新注冊(cè)用戶，兩人通過(guò)非法渠道獲取了約4000個(gè)各類網(wǎng)絡(luò)平臺(tái)賬號(hào)，平臺(tái)獎(jiǎng)勵(lì)減少后，便棄用，另尋新賬號(hào)。兩人明知無(wú)法保證AI生成內(nèi)容的真實(shí)性，仍選擇在平臺(tái)監(jiān)管較弱的凌晨1點(diǎn)至6點(diǎn)批量發(fā)布針對(duì)多家車企的謠言信息。

　　上海市公安局嘉定分局網(wǎng)安支隊(duì)副支隊(duì)長(zhǎng) 閻皓：賺錢模式主要是養(yǎng)了一大批新的社交媒體賬號(hào)，然后是以這種發(fā)布原創(chuàng)型的文章在這個(gè)平臺(tái)上面，吸引別人去瀏覽，后續(xù)平臺(tái)會(huì)根據(jù)原創(chuàng)獎(jiǎng)勵(lì)的這種機(jī)制給他返錢。

　　警方表示，根據(jù)相關(guān)司法解釋，違反國(guó)家規(guī)定，以營(yíng)利為目的，明知是虛假信息，仍通過(guò)信息網(wǎng)絡(luò)有償提供發(fā)布信息等服務(wù)，擾亂市場(chǎng)秩序，屬非法經(jīng)營(yíng)行為，個(gè)人非法經(jīng)營(yíng)數(shù)額達(dá)5萬(wàn)元以上或違法所得2萬(wàn)元以上，單位非法經(jīng)營(yíng)數(shù)額達(dá)15萬(wàn)元以上或違法所得5萬(wàn)元以上，即達(dá)到入刑標(biāo)準(zhǔn)。截至案發(fā)，梁某和郭某已累計(jì)發(fā)布不實(shí)文章70余萬(wàn)篇次，非法獲利8萬(wàn)余元。目前，兩人已被警方以涉嫌非法經(jīng)營(yíng)罪依法采取刑事強(qiáng)制措施。

　　當(dāng)AI成為造謠工具 網(wǎng)絡(luò)平臺(tái)應(yīng)加強(qiáng)監(jiān)管

　　通過(guò)此次上海警方公布的這些案件，我們看到，不法分子利用AI工具，低成本制造虛假信息，而一些網(wǎng)絡(luò)平臺(tái)已成為謠言傳播與變現(xiàn)的主要渠道。平臺(tái)一方面用獎(jiǎng)勵(lì)機(jī)制鼓勵(lì)“原創(chuàng)內(nèi)容”，另一方面卻缺乏有效手段區(qū)分人工創(chuàng)作與AI編造洗稿。AI本身是一項(xiàng)技術(shù)，當(dāng)它被用于編造謠言、制造爭(zhēng)議、牟取非法利益時(shí)，網(wǎng)絡(luò)平臺(tái)更應(yīng)加強(qiáng)監(jiān)管，避免虛假信息傳播。當(dāng)前，上海警方已要求案件中涉及的平臺(tái)方關(guān)停相關(guān)賬號(hào)、下架不實(shí)信息，并會(huì)同網(wǎng)信部門敦促平臺(tái)企業(yè)切實(shí)履行用戶發(fā)布內(nèi)容的審核義務(wù)。