時(shí)間：2026-06-03 17:24
來(lái)源：央視新聞客戶端
近年來(lái)，隨著人工智能技術(shù)迅猛發(fā)展，一些不法分子為博取流量、吸引關(guān)注，利用AI工具編造虛假信息，嚴(yán)重破壞網(wǎng)絡(luò)生態(tài)，擾亂社會(huì)秩序，誤導(dǎo)公眾認(rèn)知。為進(jìn)一步提升全民識(shí)謠辨謠能力，6月3日，山西網(wǎng)安部門(mén)集中曝光5起近期查處的利用AI技術(shù)制造傳播網(wǎng)絡(luò)謠言的典型案例。
【案例一】為博流量虛構(gòu)“工廠爆炸”場(chǎng)景，企業(yè)員工被依法查處
近日，大同網(wǎng)安部門(mén)在工作中發(fā)現(xiàn)，有網(wǎng)民在某平臺(tái)發(fā)布視頻稱：“山西大同一車間內(nèi)發(fā)生爆炸，現(xiàn)場(chǎng)只有一名工人受傷，傷者面部燒傷面積100%”，引發(fā)網(wǎng)民關(guān)注。經(jīng)查，涉事企業(yè)并未發(fā)生任何安全事故，相關(guān)內(nèi)容系該企業(yè)員工趙某某通過(guò)AI工具生成的虛假文案和虛假視頻。在互聯(lián)網(wǎng)平臺(tái)發(fā)布后，引發(fā)網(wǎng)民關(guān)注，造成不良影響。目前，公安機(jī)關(guān)已依法對(duì)趙某某作出行政處罰。
【案例二】利用AI仿冒名人直播帶貨，擾亂秩序被依法查處
近日，大同網(wǎng)安部門(mén)在工作中發(fā)現(xiàn)，轄區(qū)居民邢某非法使用中國(guó)國(guó)民黨主席鄭麗文形象的AI數(shù)字人直播帶貨，引發(fā)網(wǎng)民質(zhì)疑，嚴(yán)重干擾正常網(wǎng)絡(luò)秩序。經(jīng)查，邢某從事直播帶貨，恰逢鄭麗文訪問(wèn)大陸熱度很高，遂萌生利用名人熱度增加流量的想法。隨后在未經(jīng)授權(quán)的情況下，利用AI工具生成AI數(shù)字人形象及帶貨方案，之后在媒體平臺(tái)直播帶貨，引發(fā)社會(huì)關(guān)注，造成惡劣影響。目前，公安機(jī)關(guān)已依法對(duì)邢某作出行政處罰。
【案例三】AI生成“高速車禍”謠言，編造“2死6重傷”被依法查處
近日，長(zhǎng)治網(wǎng)安部門(mén)在工作中發(fā)現(xiàn)，網(wǎng)民趙某在某網(wǎng)絡(luò)平臺(tái)發(fā)布題為“長(zhǎng)治人速看！長(zhǎng)晉高速大客車側(cè)翻致2死6重傷，道路結(jié)冰預(yù)警生效，這些行車規(guī)則必須記牢！”的貼文，配發(fā)多張所謂“事故現(xiàn)場(chǎng)圖”，引發(fā)網(wǎng)民轉(zhuǎn)發(fā)。經(jīng)查，長(zhǎng)晉高速未發(fā)生此類交通事故，文中所述內(nèi)容純屬虛構(gòu)。趙某承認(rèn)其為吸引粉絲關(guān)注，利用AI工具生成重大事故不實(shí)信息并發(fā)布。目前，公安機(jī)關(guān)已依法對(duì)趙某作出行政處罰。
【案例四】利用AI偽造“演唱會(huì)現(xiàn)場(chǎng)火災(zāi)”，為博流量被依法查處
近日，晉城網(wǎng)安部門(mén)在工作中發(fā)現(xiàn)，某平臺(tái)網(wǎng)民發(fā)布一段視頻內(nèi)容，視頻顯示為某體育場(chǎng)內(nèi)疑似發(fā)生火災(zāi)，并配文稱“太原紅燈籠體育場(chǎng)突發(fā)火情”。該視頻迅速引發(fā)網(wǎng)民關(guān)注與轉(zhuǎn)發(fā)，造成不良社會(huì)影響。經(jīng)查，網(wǎng)民張某某在未核實(shí)事件真實(shí)性、無(wú)任何事實(shí)依據(jù)的情況下，利用AI工具擅自編造“太原紅燈籠體育場(chǎng)突發(fā)火情”的虛假信息。目前，公安機(jī)關(guān)已依法對(duì)張某某作出行政處罰。
【案例五】AI生成虛假文章，發(fā)布“五臺(tái)縣車禍”謠言被依法查處
近日，忻州網(wǎng)安部門(mén)在工作中發(fā)現(xiàn)，某平臺(tái)網(wǎng)民發(fā)布文章《4月29日突發(fā)慘烈車禍：大貨車側(cè)翻致3死，現(xiàn)場(chǎng)畫(huà)面曝光》。文中明確提及“山西忻州五臺(tái)縣”，并附有AI生成的事故圖片，引發(fā)網(wǎng)民廣泛關(guān)注。經(jīng)查，五臺(tái)縣近期未發(fā)生此類交通事故。發(fā)布者田某某交代，其在某App看到類似標(biāo)題后，復(fù)制鏈接至AI寫(xiě)作平臺(tái)生成文章并直接發(fā)布。目前，公安機(jī)關(guān)已依法對(duì)田某某作出行政處罰。
公安機(jī)關(guān)提醒，當(dāng)前，利用AI生成虛假圖文、音視頻已成為網(wǎng)絡(luò)謠言傳播的新趨勢(shì)。此類信息仿真度高、傳播速度快、誤導(dǎo)性強(qiáng)，極易引發(fā)社會(huì)恐慌。山西公安機(jī)關(guān)將持續(xù)加大對(duì)此類違法行為的打擊力度，依法查處造謠、傳謠、蹭流量、惡意引流等行為，堅(jiān)決維護(hù)清朗網(wǎng)絡(luò)空間。
(總臺(tái)記者 岳旭輝 胡曉冬)
北疆新聞 | 內(nèi)蒙古自治區(qū)重點(diǎn)新媒體平臺(tái)，內(nèi)蒙古出版集團(tuán)?內(nèi)蒙古新華報(bào)業(yè)中心主管主辦的國(guó)家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)平臺(tái)。