評論區(qū)刷屏的一句“到七天了嗎”，看似正常，卻可能是對某個網(wǎng)購消費者的無端圍獵。近日，針對網(wǎng)絡(luò)暴力呈現(xiàn)的新形態(tài)，抖音推出AI反網(wǎng)暴行動，上線AI反網(wǎng)暴Agent(智能體)，讓網(wǎng)暴識別模型、研判模型與人工協(xié)同工作，并優(yōu)化外呼救助機制，覆蓋風(fēng)險發(fā)現(xiàn)、事件研判、主動治理到外呼救助，建立起早干預(yù)、早保護的治理體系，平臺治理實現(xiàn)從“被動等舉報”到“主動找風(fēng)險”的轉(zhuǎn)變。

　　系統(tǒng)升級后，平臺日均識別出的潛在被網(wǎng)暴風(fēng)險人群擴大91.5%，每天有數(shù)千名用戶收到預(yù)警后主動開啟防網(wǎng)暴功能，因風(fēng)險等級高而被人工外呼援助的受害者數(shù)量增長147%。

　　不用等舉報信號平臺主動識別潛在風(fēng)險 　

　如今的網(wǎng)暴早已不是直白的辱罵，更多是表情包陰陽怪氣、諧音梗攻擊、斷章取義帶節(jié)奏，這些隱蔽的惡意很難被傳統(tǒng)審核識別;還有些傷害是長期、零散的騷擾，積累起來同樣會讓人身心俱疲?！　鹘y(tǒng)“人工審核+舉報處置”治理策略已難以適配復(fù)雜的網(wǎng)絡(luò)生態(tài)：一方面，依賴用戶舉報，往往等處理時，傷害已經(jīng)造成，難以做到提前預(yù)警保護;另一方面，常規(guī)審核只能篩查數(shù)天內(nèi)的內(nèi)容，容易遺漏持續(xù)時間長、跨熱點周期的攻擊，也無法兼顧未成年人、老年人等不同群體的心理承受能力，比如對成年人來說無關(guān)緊要的玩梗，可能會給孩子帶來巨大心理壓力。

圖：抖音AI反網(wǎng)暴Agent工作鏈路　

　抖音升級后的AI反網(wǎng)暴Agent，可以讓網(wǎng)暴識別模型與研判模型同時工作，在一些風(fēng)險發(fā)酵的早期就捕捉到用戶的求助“信號”。其中，網(wǎng)暴識別模型不再只盯著單條評論的關(guān)鍵詞，而是會關(guān)注用戶的整體互動情況——當(dāng)評論區(qū)突然涌入大量負面言論、有人頻繁訪問某個人的主頁、@某賬號的異常信息增多時，系統(tǒng)就會開始計算“網(wǎng)暴風(fēng)險得分”。更重要的是，AI會全天候復(fù)盤誤判案例，自主學(xué)習(xí)新的網(wǎng)暴手段，哪怕是剛流行起來的新梗攻擊，也能快速識別，防止惡意鉆空子。

　　網(wǎng)暴研判模型則會給平臺開啟“上帝視角”，從事件維度展開全局分析。它會整合用戶近30天內(nèi)的文字、圖片、視頻、音頻等互動數(shù)據(jù)，還原完整的事件脈絡(luò)，精準(zhǔn)區(qū)分正常的觀點討論和惡意攻擊，避免誤判影響用戶的正常交流。針對未成年人、老年人等特殊群體，模型還設(shè)置了梯度化識別標(biāo)準(zhǔn)，適當(dāng)提高風(fēng)險敏感度，給更容易受傷的群體更多保護。同時，模型會輸出包含事件經(jīng)過、風(fēng)險來源、關(guān)鍵證據(jù)的清晰結(jié)論，讓人工研判專家能更快了解情況，及時開展外呼救助。

　　分層保護精準(zhǔn)響應(yīng)讓受害者不再孤立無援 　

　基于AI反網(wǎng)暴Agent的精準(zhǔn)識別與研判結(jié)果，抖音已建立更貼合用戶需求的分層保護機制，兼顧治理效率與人文關(guān)懷。比如：低風(fēng)險用戶只會收到App端內(nèi)提醒，一鍵就能開啟一鍵防護、評論過濾、陌生人私信限制等工具;如果風(fēng)險較高，或是屬于特殊保護群體，平臺會主動通過智能外呼聯(lián)系用戶，安排專人一對一提供幫助，同步排查隱私泄漏風(fēng)險，防止傷害擴大。

圖：抖音搜索“網(wǎng)暴”后可找到防網(wǎng)暴專區(qū)　

　對于施暴者，平臺會根據(jù)情節(jié)輕重采取梯度化處置，包括下架違規(guī)內(nèi)容、限制互動功能、永久封禁賬號等措施。對于跨賬號持續(xù)騷擾、情節(jié)惡劣的行為，平臺會酌情升級處置;涉嫌違法犯罪的，平臺將主動配合公安機關(guān)提供相關(guān)證據(jù)，依法追究法律責(zé)任。

　　抖音相關(guān)負責(zé)人表示，網(wǎng)絡(luò)生態(tài)治理是一項長期且復(fù)雜的工作，沒有一勞永逸的解決方案。平臺將持續(xù)迭代AI反網(wǎng)暴系統(tǒng)的技術(shù)能力，提升主動保護效果，還會對“抖音小安”的陪伴功能進行迭代，面向用戶推出更具人文關(guān)懷性的產(chǎn)品功能。最后，特別呼吁廣大網(wǎng)民文明理性發(fā)言，共同維護清朗、友善的網(wǎng)絡(luò)空間。