河南
近期
不少電商商家反映
有買家使用AI
偽造出來的“問題圖”
申請僅退款
不用退貨還能白拿商品
這讓商家叫苦不迭
對此，部分網(wǎng)友推薦使用國家反詐中心App近期上線的“AI內(nèi)容鑒定”功能，用戶可通過上傳圖片、視頻、音頻或文本來檢測AI生成痕跡，主要用于識別詐騙場景中的偽造內(nèi)容。與此同時，各互聯(lián)網(wǎng)平臺也在積極布局“AI鑒真工具”。
也有部分網(wǎng)友提出疑問，用AI治理惡意AI能有效果嗎？是否能利用“AI內(nèi)容鑒定”功能進(jìn)行維權(quán)？
記者在網(wǎng)絡(luò)上隨機選取了十張商家宣稱的疑似AI生成“售后圖”，上傳國家反詐中心App及多個AI鑒真工具，結(jié)果無一例外，均被系統(tǒng)判定為“圖像含AI生成痕跡”。與之相對比，記者上傳一張自己隨手拍攝的照片，系統(tǒng)則提示“未檢測到合成痕跡”。
某網(wǎng)絡(luò)平臺安全內(nèi)容視覺算法負(fù)責(zé)人蘭鈞介紹，檢測方法由兩部分組成，一部分是小模型來學(xué)習(xí)AIGC模型生成內(nèi)容的模式，基于大量的內(nèi)容學(xué)習(xí)和訓(xùn)練，然后進(jìn)行判斷。另外會用大模型來關(guān)注內(nèi)容本身，看它內(nèi)容上有沒有物理上的瑕疵，比如文字有沒有亂碼；此外也會看它邏輯語義上是否會出現(xiàn)不符合邏輯的問題。最終小模型和大模型結(jié)合，一起來進(jìn)行判斷。
“我們希望它不要出現(xiàn)誤識別。用戶或者商家可以嘗試外部的一些AI鑒真工具，來輔助進(jìn)行判斷。對于目前這種AIGC的技術(shù)生成內(nèi)容還是比較有效的?！?/p>
業(yè)內(nèi)人士表示，應(yīng)對AI造假，核心在于“以AI治AI”。目前較為成熟的鑒真工具幾乎能不誤傷真實內(nèi)容，又能較為精準(zhǔn)識別AI造假內(nèi)容。
AI偽造圖片騙取退款的行為，本質(zhì)是民事欺詐，若不及時遏制，將威脅電子商務(wù)的正常秩序與健康發(fā)展。AI鑒真工具能大幅降低商家的辨別成本，既能震懾不法分子，也能作為商家與平臺交涉、維護(hù)自身權(quán)益的有力證據(jù)。
北京郵電大學(xué)互聯(lián)網(wǎng)治理與法律研究中心主任謝永江表示，現(xiàn)在從技術(shù)上已經(jīng)有相應(yīng)的AI內(nèi)容鑒定工具了，平臺有義務(wù)引進(jìn)這種技術(shù)手段來維護(hù)平臺上的交易秩序，維護(hù)商家和消費者的合法權(quán)益。
來源：央視新聞
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
