北京
來源：央視新聞客戶端
6月15日，公安部網(wǎng)安局公布了10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例，其中一個(gè)案例是利用AI生成技術(shù)，編造虛假信息、冒用人民警察公職人員形象，進(jìn)行商業(yè)營銷。
今年4月，廣西玉林市容縣公安局網(wǎng)安大隊(duì)工作人員，在網(wǎng)上發(fā)現(xiàn)了一條利用AI技術(shù)生成的冒用人民警察公職人員形象，為某娛樂場(chǎng)所做廣告的短視頻。
容縣公安局網(wǎng)絡(luò)安全保衛(wèi)大隊(duì)大隊(duì)長(zhǎng) 戴智斌：這條視頻我們第一眼就發(fā)現(xiàn)它有AI的特征，比如人物的神態(tài)、口型，都跟日常采訪不一樣。我們經(jīng)過溯源，迅速將發(fā)布者黃某傳喚到容縣公安局執(zhí)法辦案中心。
經(jīng)查，黃某在容縣經(jīng)營一家娛樂場(chǎng)所，他利用AI技術(shù)制作了這條虛假采訪視頻，并將其發(fā)布至某社交平臺(tái)及本地生活群組引流。
容縣公安局網(wǎng)絡(luò)安全保衛(wèi)大隊(duì)大隊(duì)長(zhǎng) 戴智斌：人民警察制式服裝、警務(wù)形象是法定專屬標(biāo)識(shí)，黃某的行為違反了《中華人民共和國治安管理處罰法》《中華人民共和國人民警察法》《中華人民共和國網(wǎng)絡(luò)安全法》屬于利用網(wǎng)絡(luò)編造、傳播虛假信息，擾亂社會(huì)公共秩序，造成不良影響。
目前，屬地公安機(jī)關(guān)已對(duì)黃某作出行政處罰。警方提示，網(wǎng)絡(luò)空間不是法外之地，切勿為博取流量觸碰法律紅線。
AI生成虛假視頻擾亂公共秩序
行拘七日
像這樣利用AI工具生成虛假視頻的情況并非個(gè)例。近日，上海市公安局軌交分局民警在工作中發(fā)現(xiàn)，有人發(fā)布視頻稱上海地鐵頭頂墻皮掉落，經(jīng)核查該視頻也是AI生成。
6月13日，上海市公安局軌交分局民警發(fā)現(xiàn)，一條名為“上海地鐵突發(fā)驚魂一幕！頭頂墻皮轟然掉落，早高峰誰還敢安心走？”的視頻在網(wǎng)上大量傳播。
視頻中稱，該事件發(fā)生于6月12日。后經(jīng)核實(shí)，6月12日早高峰，上海地鐵18號(hào)線江浦路地鐵站的確曾有少量墻皮脫落，但這條視頻中的驚悚畫面，明顯與事實(shí)嚴(yán)重不符。公安機(jī)關(guān)迅速查到該視頻的發(fā)布者——居住在湖北黃石的孫某。---
上海市公安局軌交分局治安支隊(duì)副支隊(duì)長(zhǎng) 陸志豪：違法行為人為博取流量、吸引粉絲，遂將相關(guān)的新聞喂到AI后進(jìn)行視頻生成，最終生成一個(gè)夸大視頻，在自己的微信視頻號(hào)中予以發(fā)布，最終造成比較嚴(yán)重的惡劣影響。
最終，公安機(jī)關(guān)認(rèn)為，孫某利用AI工具生成虛假視頻，通過互聯(lián)網(wǎng)散布，誤導(dǎo)公眾認(rèn)知，實(shí)施了故意虛構(gòu)事實(shí)，擾亂公共秩序的違法行為。根據(jù)《中華人民共和國治安管理處罰法》相關(guān)規(guī)定，今年6月15日，上海市公安局軌交分局給予孫某行政拘留七天的行政處罰。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
