北京
來源：央視新聞客戶端
6月15日，公安部網(wǎng)安局公布了10起打擊整治網(wǎng)絡謠言違法犯罪典型案例，其中一個案例是利用AI生成技術(shù)，編造虛假信息、冒用人民警察公職人員形象，進行商業(yè)營銷。
今年4月，廣西玉林市容縣公安局網(wǎng)安大隊工作人員，在網(wǎng)上發(fā)現(xiàn)了一條利用AI技術(shù)生成的冒用人民警察公職人員形象，為某娛樂場所做廣告的短視頻。
容縣公安局網(wǎng)絡安全保衛(wèi)大隊大隊長 戴智斌：這條視頻我們第一眼就發(fā)現(xiàn)它有AI的特征，比如人物的神態(tài)、口型，都跟日常采訪不一樣。我們經(jīng)過溯源，迅速將發(fā)布者黃某傳喚到容縣公安局執(zhí)法辦案中心。
經(jīng)查，黃某在容縣經(jīng)營一家娛樂場所，他利用AI技術(shù)制作了這條虛假采訪視頻，并將其發(fā)布至某社交平臺及本地生活群組引流。
容縣公安局網(wǎng)絡安全保衛(wèi)大隊大隊長 戴智斌：人民警察制式服裝、警務形象是法定專屬標識，黃某的行為違反了《中華人民共和國治安管理處罰法》《中華人民共和國人民警察法》《中華人民共和國網(wǎng)絡安全法》屬于利用網(wǎng)絡編造、傳播虛假信息，擾亂社會公共秩序，造成不良影響。
目前，屬地公安機關(guān)已對黃某作出行政處罰。警方提示，網(wǎng)絡空間不是法外之地，切勿為博取流量觸碰法律紅線。
AI生成虛假視頻擾亂公共秩序
行拘七日
像這樣利用AI工具生成虛假視頻的情況并非個例。近日，上海市公安局軌交分局民警在工作中發(fā)現(xiàn)，有人發(fā)布視頻稱上海地鐵頭頂墻皮掉落，經(jīng)核查該視頻也是AI生成。
6月13日，上海市公安局軌交分局民警發(fā)現(xiàn)，一條名為“上海地鐵突發(fā)驚魂一幕！頭頂墻皮轟然掉落，早高峰誰還敢安心走？”的視頻在網(wǎng)上大量傳播。
視頻中稱，該事件發(fā)生于6月12日。后經(jīng)核實，6月12日早高峰，上海地鐵18號線江浦路地鐵站的確曾有少量墻皮脫落，但這條視頻中的驚悚畫面，明顯與事實嚴重不符。公安機關(guān)迅速查到該視頻的發(fā)布者——居住在湖北黃石的孫某。---
上海市公安局軌交分局治安支隊副支隊長 陸志豪：違法行為人為博取流量、吸引粉絲，遂將相關(guān)的新聞喂到AI后進行視頻生成，最終生成一個夸大視頻，在自己的微信視頻號中予以發(fā)布，最終造成比較嚴重的惡劣影響。
最終，公安機關(guān)認為，孫某利用AI工具生成虛假視頻，通過互聯(lián)網(wǎng)散布，誤導公眾認知，實施了故意虛構(gòu)事實，擾亂公共秩序的違法行為。根據(jù)《中華人民共和國治安管理處罰法》相關(guān)規(guī)定，今年6月15日，上海市公安局軌交分局給予孫某行政拘留七天的行政處罰。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
