【作者】李本燦（武漢大學(xué)法學(xué)院教授，法學(xué)博士）

【來源】北大法寶法學(xué)期刊庫《華東政法大學(xué)學(xué)報(bào)》2026年第3期（文末附本期期刊目錄）。因篇幅較長，已略去原文注釋。

內(nèi)容提要：網(wǎng)絡(luò)暴力治理需要政府、平臺、公眾共同參與。作為信息社會的核心節(jié)點(diǎn)，平臺在多元共治的過程中至關(guān)重要。網(wǎng)絡(luò)平臺的治理責(zé)任并非基于其具有信息“守門人”能力，而是基于其在現(xiàn)代社會治理中的公共屬性。在強(qiáng)調(diào)平臺責(zé)任時，不能忽視其作為企業(yè)的私有屬性。作為法人實(shí)體，網(wǎng)絡(luò)平臺同樣享有憲法賦予的經(jīng)營自由等基本權(quán)利。無論是對用戶言論自由的限制，還是對平臺自主經(jīng)營權(quán)的約束，都應(yīng)遵循比例原則，避免過度干預(yù)。對于網(wǎng)絡(luò)暴力的治理，網(wǎng)絡(luò)平臺應(yīng)當(dāng)以網(wǎng)絡(luò)生態(tài)環(huán)境調(diào)控為主、內(nèi)容監(jiān)管為輔，通過積極建設(shè)網(wǎng)絡(luò)文化，消除網(wǎng)絡(luò)暴力賴以生存的環(huán)境，從而減少對具體內(nèi)容的強(qiáng)制干預(yù)，降低內(nèi)容過度審查的風(fēng)險，在維護(hù)言論自由的同時減少平臺對內(nèi)容的監(jiān)管負(fù)擔(dān)。網(wǎng)絡(luò)暴力內(nèi)容具有多樣性和復(fù)雜性，對于內(nèi)容監(jiān)管應(yīng)當(dāng)引入分級治理機(jī)制，針對違法特征不同的信息采取不同的監(jiān)管措施，以有效平衡言論自由與內(nèi)容治理。當(dāng)網(wǎng)絡(luò)平臺未適當(dāng)履行義務(wù)時，其不僅面臨民事和行政責(zé)任，還面臨刑事處罰。在刑事責(zé)任的認(rèn)定上，應(yīng)注意監(jiān)管或幫助對象的適格性。對不良信息的不適當(dāng)治理，不能承擔(dān)刑事責(zé)任。與此同時，應(yīng)嚴(yán)格解釋相關(guān)犯罪的構(gòu)成要件。

關(guān)鍵詞：網(wǎng)絡(luò)暴力；平臺責(zé)任；不作為；分級治理機(jī)制

目次 一、問題的提出 二、網(wǎng)絡(luò)暴力治理的平臺責(zé)任配置 三、網(wǎng)絡(luò)暴力治理的積極義務(wù)體系 四、違反積極義務(wù)的法律責(zé)任及其比例限制

一

問題的提出

如今，互聯(lián)網(wǎng)已經(jīng)深度融入經(jīng)濟(jì)社會各領(lǐng)域，成為民眾生活不可或缺的部分。網(wǎng)絡(luò)在方便生活的同時，也產(chǎn)生了諸多問題，甚至成為犯罪滋生的重要場域，網(wǎng)絡(luò)暴力便是其中典型。近年來，網(wǎng)絡(luò)暴力事件頻繁發(fā)生，造成了受害人精神失常甚至自殺等嚴(yán)重后果。如何有效治理網(wǎng)絡(luò)暴力成為國家、學(xué)術(shù)界等多方共同關(guān)注的議題。從行為特征來看，網(wǎng)絡(luò)暴力呈現(xiàn)出顯著的群體性、匿名性、單一行為弱違法性（甚至無法用合法和違法二元編碼加以評價）的特征。這就決定了，傳統(tǒng)的以個人行為和個人責(zé)任為核心的法律系統(tǒng)難以有效規(guī)制網(wǎng)絡(luò)暴力。網(wǎng)絡(luò)暴力是多數(shù)人的暴政，是群體對個體的權(quán)利侵害，而非個體之間的權(quán)利侵害，僅僅通過傳統(tǒng)的事后個體層面的法律責(zé)任和法律救濟(jì)手段難以形成有效的集體性約束，無法達(dá)到事前良好的預(yù)防效果。因此，有學(xué)者提出，應(yīng)當(dāng)推動網(wǎng)絡(luò)暴力治理的法治化轉(zhuǎn)型，從事后的個體私權(quán)救濟(jì)模式轉(zhuǎn)變?yōu)橐允虑暗亩嘣黧w共治為中心的風(fēng)險規(guī)制模式。網(wǎng)絡(luò)暴力是復(fù)雜社會問題在網(wǎng)絡(luò)空間的投射，依靠單一的主體力量治理效果不佳，因而需要政府、網(wǎng)絡(luò)平臺、社會公眾等多方主體的共同參與。在多元主體共治的模式中，網(wǎng)絡(luò)平臺的技術(shù)治理能夠?qū)τ脩粜纬捎残约s束，這使得其在多元共治中起著重要作用。網(wǎng)絡(luò)平臺為網(wǎng)絡(luò)暴力提供了傳播媒介，其既是風(fēng)險制造的參與方，又是相應(yīng)領(lǐng)域所涉主體的獲益方，相比于其他主體，還具有技術(shù)優(yōu)勢，故由其承擔(dān)一定的風(fēng)險防范義務(wù)具有合理性。關(guān)于這一點(diǎn)，相關(guān)法律規(guī)范也都有強(qiáng)調(diào)。例如，《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》強(qiáng)調(diào)，在網(wǎng)絡(luò)暴力綜合治理中，要夯實(shí)網(wǎng)絡(luò)服務(wù)提供者的主體責(zé)任；《網(wǎng)絡(luò)暴力信息治理規(guī)定》（下稱《治理規(guī)定》）第6條也強(qiáng)調(diào)，網(wǎng)絡(luò)服務(wù)提供者應(yīng)當(dāng)履行網(wǎng)絡(luò)信息內(nèi)容管理主體責(zé)任，建立完善網(wǎng)絡(luò)暴力信息治理機(jī)制。盡管學(xué)者都在呼吁加強(qiáng)網(wǎng)絡(luò)暴力治理中網(wǎng)絡(luò)平臺的主體責(zé)任，但其責(zé)任邊界卻鮮有論及。實(shí)際上，無論從技術(shù)可能性還是法律義務(wù)的角度來看，網(wǎng)絡(luò)平臺責(zé)任的內(nèi)容和限度都是不可回避的問題。如果網(wǎng)絡(luò)平臺的責(zé)任限度較為寬松，則無法有效激勵其治理積極性，如果過度強(qiáng)化網(wǎng)絡(luò)平臺責(zé)任，則不僅會損害企業(yè)的自主經(jīng)營權(quán)，還可能引導(dǎo)平臺企業(yè)采取一刀切式的、簡單粗暴的管理方式，侵害公民的言論自由。因此，在強(qiáng)調(diào)網(wǎng)絡(luò)平臺作為義務(wù)的同時，有必要對其在網(wǎng)絡(luò)暴力治理中的責(zé)任內(nèi)容及邊界加以限定。

為此，首先需要解決的是，網(wǎng)絡(luò)平臺在網(wǎng)絡(luò)暴力治理中的責(zé)任根據(jù)及配置原則，這是具體責(zé)任機(jī)制建構(gòu)的基礎(chǔ)性問題（第二部分）。接下來要解決的問題是，網(wǎng)絡(luò)平臺責(zé)任的積極面向問題，即其應(yīng)當(dāng)如何履行自身在網(wǎng)絡(luò)暴力治理中的責(zé)任（第三部分），以及不履行積極責(zé)任時可能面臨的后果，即法律后果意義上的平臺責(zé)任（第四部分）。以上就是本文的問題意識和寫作思路。

二

網(wǎng)絡(luò)暴力治理的平臺責(zé)任配置

（一）公共功能：平臺責(zé)任的法理基礎(chǔ)

目前，學(xué)界多根據(jù)“守門人理論”論證網(wǎng)絡(luò)平臺的治理責(zé)任?！笆亻T人”的概念最初由社會心理學(xué)家?guī)鞝柼亍だ諟靥岢觯麑θ后w決策進(jìn)行了實(shí)驗(yàn)，并認(rèn)為群體決策在很大程度上取決于“守門人”進(jìn)行的社會指導(dǎo)。此后，學(xué)者懷特將其引入傳播學(xué)和新聞領(lǐng)域，認(rèn)為報(bào)刊的編輯就是新聞報(bào)道和傳播中最重要的守門人，并提出了一個簡單的模型，強(qiáng)調(diào)守門人就是控制信息流的焦點(diǎn)。由此，守門人理論被運(yùn)用到包括法學(xué)在內(nèi)的各個學(xué)術(shù)領(lǐng)域，盡管不同領(lǐng)域?qū)ζ浜x有著不同的觀點(diǎn)。在互聯(lián)網(wǎng)背景下，“守門”被定義為一種對信息進(jìn)出互聯(lián)網(wǎng)大門時的控制。網(wǎng)絡(luò)平臺通過其算法、數(shù)據(jù)分析、內(nèi)容分發(fā)等技術(shù)手段，決定了信息的傳播路徑和覆蓋范圍，從而成為數(shù)字社會的“守門人”。網(wǎng)絡(luò)平臺因其技術(shù)和商業(yè)優(yōu)勢，確實(shí)在信息傳播、市場準(zhǔn)入等方面擁有了“守門”能力。這種能力不僅能使其控制信息的流動，還能對用戶的行為產(chǎn)生實(shí)質(zhì)影響。然而，能力的增強(qiáng)并不必然導(dǎo)致義務(wù)的擴(kuò)展。能力并非承擔(dān)更多義務(wù)的充分理由，否則可能導(dǎo)致法律責(zé)任分配的失衡，最終抑制社會進(jìn)步和創(chuàng)新。

網(wǎng)絡(luò)平臺的治理責(zé)任主要源于其在現(xiàn)代社會治理中的雙重角色，即其既具有私有屬性，又具有公共屬性。就形式而言，網(wǎng)絡(luò)平臺屬于私人企業(yè)；作為信息技術(shù)提供者，其為用戶提供了數(shù)字交互空間，扮演著信息傳播的角色。隨著數(shù)字平臺的興起，平臺為用戶提供了多樣化的信息傳播和獲取渠道，如社交媒體、搜索引擎、內(nèi)容分享平臺。這使得平臺成為信息社會的核心節(jié)點(diǎn)，構(gòu)建了現(xiàn)代社會的數(shù)字信息流通網(wǎng)絡(luò)。因此，網(wǎng)絡(luò)平臺不僅是信息傳播的中介，還成了社會公共領(lǐng)域的一部分。在哈貝馬斯看來，公共領(lǐng)域是從國家社會化和社會國家化這一互動過程中產(chǎn)生的一個新領(lǐng)域。在這里，私人集合成公眾，能夠就社會一般問題平等自由地表達(dá)意見并進(jìn)行討論。早期的咖啡館、沙龍、宴會等場所就提供了這樣的一種社會交往方式，充當(dāng)公眾自由溝通、交流的媒介。當(dāng)公共領(lǐng)域中的公眾達(dá)到較大規(guī)模時，公眾的交往需要一定的傳播和影響手段，這時大眾傳媒成了公共領(lǐng)域的媒介。在哈貝馬斯的公共領(lǐng)域理論內(nèi)，公共輿論的形成始終遵循著平等、開放、理性的原則規(guī)范，大眾傳媒在其中充當(dāng)公共意見形成的重要平臺和機(jī)制。泰勒則認(rèn)為，社會公眾不再是需要面對面交談而得以聚合的共同體，公共領(lǐng)域也是一個可以觀念重塑的“社會想象”。在這個公共領(lǐng)域內(nèi)，人們不會相遇，但其可以被看作通過媒體相互聯(lián)系起來的公眾。網(wǎng)絡(luò)平臺上的討論、意見交流和信息發(fā)布就形成了一個巨大的虛擬公共領(lǐng)域。

作為公共領(lǐng)域的管理者，網(wǎng)絡(luò)平臺應(yīng)承擔(dān)一定的公共責(zé)任，尤其是在網(wǎng)絡(luò)暴力等社會問題的治理上。平臺這樣的社會性主體所承擔(dān)的義務(wù)，同樣根源于國家對個人的積極保護(hù)義務(wù)。根據(jù)傳統(tǒng)的公法保護(hù)義務(wù)理論，國家在行使公權(quán)力時，不僅負(fù)有不干涉公民權(quán)利的消極義務(wù)，還負(fù)有保護(hù)公民權(quán)利的積極義務(wù)。具體而言，國家不僅需要通過立法或司法手段避免公民的權(quán)利受到直接侵犯，還需要采取積極的措施防止第三方行為對公民基本權(quán)利的侵害。隨著公共領(lǐng)域的變化，積極保護(hù)義務(wù)的觀念逐漸適用于那些掌握和控制公共空間或資源的非國家主體。國家從公法中“逃遁”出來，公共權(quán)力的職責(zé)轉(zhuǎn)移到具有公共性質(zhì)的企業(yè)、機(jī)構(gòu)、團(tuán)體和半公共性質(zhì)的私法代理人手中。也就是說，私人主體（如商場）在其空間內(nèi)，負(fù)有與國家公共空間類似的憲法義務(wù)，即保障公民的基本權(quán)利（如集會自由）。

在數(shù)字化時代，互聯(lián)網(wǎng)平臺已經(jīng)嵌入當(dāng)下社會經(jīng)濟(jì)生活的方方面面。通過數(shù)據(jù)和算法，平臺搭建了一個平行于現(xiàn)實(shí)生活的數(shù)字社會空間。用戶可以在這一空間中達(dá)成交易或傳遞信息，致使平臺承載了類似于傳統(tǒng)公共廣場的基礎(chǔ)設(shè)施屬性。盡管這些平臺由私人企業(yè)運(yùn)營，但基于其對上述數(shù)字社會空間基礎(chǔ)設(shè)施的控制，其實(shí)際扮演著一種類似公共機(jī)構(gòu)的角色。運(yùn)營者通過制定平臺規(guī)則，并依據(jù)規(guī)則審核用戶上傳內(nèi)容，或運(yùn)用技術(shù)手段限制用戶行為等舉措，確?；ヂ?lián)網(wǎng)平臺對其運(yùn)營的“空間”具有絕對的控制力。這種控制力與現(xiàn)實(shí)社會中傳統(tǒng)公共領(lǐng)域管理者所承擔(dān)的職能相似。因此，互聯(lián)網(wǎng)平臺便有義務(wù)采取預(yù)防措施，保障使用其所運(yùn)營空間的用戶的基本權(quán)利免遭他人侵害。

在早期的網(wǎng)絡(luò)空間治理中，互聯(lián)網(wǎng)平臺往往通過援引美國安全港法案，以所謂“技術(shù)中立”的理由主張其無須就用戶致?lián)p行為承擔(dān)責(zé)任。這樣的主張?jiān)谠缙诰W(wǎng)絡(luò)尚未廣泛嵌入社會時或許存在一定合理性。況且，在安全港法案制定之初，社交媒體尚未發(fā)展，因此該法案在劃定規(guī)制范圍時，并未將社交媒體平臺納入考量。然而，在當(dāng)前互聯(lián)網(wǎng)平臺算法應(yīng)用等各方面技術(shù)能力已經(jīng)大幅提升的背景下，其所提供的服務(wù)已經(jīng)不限于單純托管用戶發(fā)表的內(nèi)容。在此之上，互聯(lián)網(wǎng)平臺還對用戶所發(fā)表的內(nèi)容進(jìn)行重新組織，使其可以通過搜索功能為他人獲知。在最新的技術(shù)加持下，互聯(lián)網(wǎng)平臺甚至還可以通過應(yīng)用算法篩選出特定內(nèi)容，將其作為頭條新聞提示或以用戶個性化推薦的形式呈現(xiàn)給用戶。就此而言，這些“額外的服務(wù)”已經(jīng)成為互聯(lián)網(wǎng)平臺銷售的核心商品，被用以提升用戶黏度，增加平臺流量從而換取廣告收入和個人數(shù)據(jù)。在此種平臺經(jīng)營模式盛行的背景下，主張互聯(lián)網(wǎng)平臺具備“中立性”的論斷已不具有說服力。

（二）比例原則：平臺責(zé)任的核心原則

如前所述，互聯(lián)網(wǎng)平臺的責(zé)任主要基于其作為公共基礎(chǔ)設(shè)施的公共屬性。只不過，在強(qiáng)調(diào)平臺承擔(dān)網(wǎng)絡(luò)治理責(zé)任時，首先也不可忽視其作為企業(yè)的私主體屬性。易言之，作為法人，互聯(lián)網(wǎng)平臺同樣享有我國憲法賦予的基本權(quán)利。其中，最為相關(guān)的憲法基本權(quán)利包括財(cái)產(chǎn)權(quán)、（包含自主經(jīng)營在內(nèi)的）職業(yè)自由以及一般行為自由等。然而，在實(shí)踐中，互聯(lián)網(wǎng)平臺的公共屬性與私有屬性之間往往存在一定張力：基于維護(hù)社會公共利益的目標(biāo)，法律為互聯(lián)網(wǎng)平臺設(shè)置了特定的義務(wù)，包括過濾及刪除有害信息、搭建有效的合規(guī)體系以及與司法機(jī)關(guān)合作等。上述義務(wù)及違反義務(wù)時所面臨的制裁，無疑構(gòu)成對互聯(lián)網(wǎng)平臺經(jīng)營者基本權(quán)利的干預(yù)。在憲法禁止過度干預(yù)原則（überma?verbot）的框架下，上述對基本權(quán)利的干預(yù)措施被要求限制在合理的范圍之內(nèi)，并避免基本權(quán)利的所有者（平臺）承擔(dān)過度的責(zé)任。在此，僅公共利益的目標(biāo)本身，還不足以成為正當(dāng)化基本權(quán)利干預(yù)的充分理由。相反，基本權(quán)利的克減還必須符合比例原則的要求。除此之外，不應(yīng)忽視的是，對于互聯(lián)網(wǎng)平臺這一基本權(quán)利主體職業(yè)自由的干預(yù)還常常會產(chǎn)生“間接第三人效力”的問題，即對使用平臺用戶的基本權(quán)利（例如言論自由）的限制。在憲法基本權(quán)利教義學(xué)的脈絡(luò)下，根據(jù)基本權(quán)利主體的不同，這類“間接第三人效力”也構(gòu)成獨(dú)立的基本權(quán)利干預(yù)，并接受比例原則的審查。

具體而言，比例原則的審查強(qiáng)調(diào)理性與合法性，并通過正當(dāng)目的、適當(dāng)性、必要性和狹義的合比例性四項(xiàng)標(biāo)準(zhǔn)來衡量對憲法基本權(quán)利的限制是否合理。對基本權(quán)利的限制要求以一個符合憲法的目的為前提；在此基礎(chǔ)上，適當(dāng)性要求治理措施必須有助于實(shí)現(xiàn)合法的社會目的；必要性則要求選擇對權(quán)利侵害最小的手段；狹義的比例原則強(qiáng)調(diào)措施的影響與所追求的目標(biāo)之間必須保持適當(dāng)?shù)木?，即限制不能?dǎo)致對基本權(quán)利的過度侵害。比例原則的目的是確保對憲法權(quán)利的限制具備必要性和充分性，從而達(dá)到憲法允許的合法限度。因此，比例原則作為憲法權(quán)利與法律限制之間的調(diào)和工具，旨在平衡個體權(quán)利與公共利益。僅以平臺擔(dān)負(fù)的過濾（并自動刪除）用戶“攻擊性言論”的義務(wù)為例。作為私營企業(yè)，上述法律義務(wù)可能涉及對平臺企業(yè)職業(yè)自由和財(cái)產(chǎn)權(quán)的干預(yù)：義務(wù)的負(fù)擔(dān)無疑限制了平臺企業(yè)的自主經(jīng)營權(quán)，而所需花費(fèi)則構(gòu)成對企業(yè)財(cái)產(chǎn)權(quán)的負(fù)擔(dān)。與此同時，過濾刪除義務(wù)會產(chǎn)生限制用戶言論自由權(quán)的“事實(shí)效果”。因此，法律上的平臺過濾刪除義務(wù)在基本權(quán)限制正當(dāng)化的評價，會成立兩項(xiàng)不同的基本權(quán)限制，需分別通過比例原則的框架審查：

首先，就平臺企業(yè)職業(yè)自由與財(cái)產(chǎn)權(quán)的基本權(quán)干預(yù)審查而言，保護(hù)用戶人格權(quán)（名譽(yù)、隱私、肖像等）免受攻擊性言論侵害，構(gòu)成干預(yù)的正當(dāng)目的。該目的符合憲法對人性尊嚴(yán)與人格權(quán)保護(hù)的要求，具有公共利益優(yōu)先性。其次，在手段適當(dāng)性上，則要求平臺企業(yè)的過濾刪除義務(wù)能有效實(shí)現(xiàn)保護(hù)人格權(quán)的目的。對此，現(xiàn)有的自動化過濾技術(shù)（如關(guān)鍵詞識別、AI內(nèi)容審核）可大規(guī)模識別明顯攻擊性內(nèi)容，降低人工成本。在必要性層面，比例原則要求無更溫和手段能達(dá)到相同效果。相較于依賴用戶舉報(bào)及司法介入的純粹事后追責(zé)及行業(yè)自律，對網(wǎng)絡(luò)平臺科加過濾刪除義務(wù)，無疑更具及時性與實(shí)效性。因此，要求平臺運(yùn)營者承擔(dān)過濾刪除義務(wù)是當(dāng)前就實(shí)現(xiàn)目的而言最符合必要性的措施。最后，在狹義合比例性方面，需要權(quán)衡干預(yù)強(qiáng)度與目的收益。就平臺企業(yè)而言，其主要需承擔(dān)技術(shù)開發(fā)成本、審核團(tuán)隊(duì)人力成本及刪除機(jī)制所帶來的用戶流失可能。但在對應(yīng)的措施下，用戶的人格權(quán)則能夠得到更為有效的保護(hù)?？傮w上，在人格權(quán)保護(hù)優(yōu)先于企業(yè)經(jīng)營自由的情況下，干預(yù)符合正當(dāng)性的要求。只有在科加實(shí)時監(jiān)控所有內(nèi)容這類過度義務(wù)的情況下，相關(guān)舉措才無法通過狹義合比例性的審查。與此同時，狹義合比例性還傾向于要求法律僅設(shè)定過濾標(biāo)準(zhǔn)的下限（如僅針對明確違法內(nèi)容），而允許平臺保留部分自主決策的空間。

同上，就對用戶言論自由的基本權(quán)干預(yù)審查而言，保護(hù)他人人格權(quán)構(gòu)成正當(dāng)目的，且言論自由屬于可權(quán)衡的非絕對權(quán)利。在適當(dāng)性層面，過濾刪除攻擊性言論的手段可直接阻止人格權(quán)侵害，符合適當(dāng)性的要求。在這一層面，需通過精準(zhǔn)定義“攻擊型言論”的方式，區(qū)分侮辱與合理評價，以免過分壓制正當(dāng)?shù)呐u。在必要性層面，與（非刪除性的）內(nèi)容標(biāo)注或用戶自主過濾等可能的（更輕微）手段相比，考慮到過濾刪除起到的保護(hù)作用，平臺企業(yè)的過濾刪除義務(wù)亦能滿足必要性的要求。不過，亦可考慮綜合運(yùn)用不同強(qiáng)度的措施，以減輕干預(yù)程度。最后，在狹義合比例性（均衡性）層面，則需要根據(jù)不同“危險等級”的言論類型作出差異性的評價：在明顯違法言論（如死亡威脅）的情形，限制完全符合狹義合比例的要求；在模糊表達(dá)（如“道德綁架”“陰陽怪氣”）的場合，則需傾向保護(hù)言論自由，避免“寒蟬效應(yīng)”。與此同時，均衡性還傾向于要求平臺企業(yè)采取程序保障措施，賦予用戶申訴與恢復(fù)機(jī)制（如被誤刪內(nèi)容可復(fù)核），降低過度干預(yù)風(fēng)險。綜上，在法律評級上，兩項(xiàng)基本權(quán)限制均能通過比例原則審查，但需進(jìn)一步根據(jù)比例原則（尤其是必要性和狹義合比例性）要求精細(xì)化設(shè)計(jì)，以減輕對不同主體基本權(quán)干預(yù)的強(qiáng)度。

以上關(guān)于平臺過濾刪除義務(wù)的示例性闡釋充分說明，平臺的治理責(zé)任不應(yīng)無限擴(kuò)展，而應(yīng)通過正當(dāng)目的、適當(dāng)性、必要性和狹義比例原則加以規(guī)范。這些原則的運(yùn)用，既可以確保平臺在履行公共責(zé)任時有效遏制網(wǎng)絡(luò)暴力等問題，又能維護(hù)其經(jīng)營自主權(quán)和創(chuàng)新能力。通過這種平衡，能夠構(gòu)建一個既能保障用戶基本權(quán)利，又能維護(hù)平臺正常運(yùn)營的法律框架。

三

網(wǎng)絡(luò)暴力治理的積極義務(wù)體系

（一）理念層級：從直接內(nèi)容管控到生態(tài)治理

通過《治理規(guī)定》不難看到，過往的網(wǎng)絡(luò)暴力治理方案更強(qiáng)調(diào)具體的監(jiān)測預(yù)警、干預(yù)處置、問責(zé)懲戒措施。實(shí)際上，屏蔽、刪除等壓制型手段雖能夠在短時間內(nèi)控制違法信息傳播，但很難深層次改變滋生網(wǎng)絡(luò)暴力產(chǎn)生的環(huán)境。因此，為了有效治理網(wǎng)絡(luò)暴力，網(wǎng)絡(luò)平臺更應(yīng)當(dāng)關(guān)注產(chǎn)生網(wǎng)絡(luò)暴力的網(wǎng)絡(luò)環(huán)境。也就是說，網(wǎng)絡(luò)暴力的治理應(yīng)當(dāng)由個案懲治走向生態(tài)治理，消除網(wǎng)絡(luò)犯罪賴以生存的環(huán)境，以實(shí)現(xiàn)對網(wǎng)絡(luò)秩序和相關(guān)法益的有效維護(hù)。

具體來說，網(wǎng)絡(luò)平臺應(yīng)將重點(diǎn)從單純的不良信息監(jiān)管轉(zhuǎn)向推動理性溝通、鼓勵優(yōu)質(zhì)內(nèi)容的創(chuàng)作和健康互動的網(wǎng)絡(luò)空間文化建設(shè)。網(wǎng)絡(luò)環(huán)境中的規(guī)范和文化可以顯著影響用戶行為，網(wǎng)絡(luò)平臺可以通過代碼構(gòu)筑、編制網(wǎng)絡(luò)空間，保護(hù)我們最基本的價值理念。通過網(wǎng)絡(luò)平臺的生態(tài)設(shè)計(jì)與社區(qū)建設(shè)，可以有效地引導(dǎo)用戶共同參與營造良好的網(wǎng)絡(luò)生態(tài)環(huán)境。對普通大眾而言，“平臺”也許只是他們在線娛樂的一種技術(shù)工具，但其實(shí)際上卻反過來形塑了公眾的生活方式和社會組織方式。生態(tài)監(jiān)管的重點(diǎn)在于優(yōu)化平臺的整體運(yùn)行機(jī)制，引導(dǎo)用戶行為，從而形成良性互動，而不是過分依賴對個別內(nèi)容的嚴(yán)格監(jiān)管。通過培養(yǎng)積極的網(wǎng)絡(luò)生態(tài)，可以減少對具體內(nèi)容的強(qiáng)制干預(yù)，從而避免過度審查對言論自由的限制。相較于內(nèi)容監(jiān)管，生態(tài)調(diào)控跳出了網(wǎng)絡(luò)秩序與言論表達(dá)的二元對立局面，將著眼點(diǎn)從無止境地?cái)U(kuò)大監(jiān)管范圍、提升監(jiān)管力度轉(zhuǎn)移到建構(gòu)防止網(wǎng)絡(luò)暴力信息生成傳播的環(huán)境機(jī)制，以此充分釋放平臺自身的公共治理潛能。與此同時，由平臺承擔(dān)生態(tài)治理責(zé)任的思路也更加符合比例原則，以此避免了要求平臺為單一內(nèi)容承擔(dān)過多的責(zé)任。就此而言，具體構(gòu)建思路如下：

1.建設(shè)積極互動的網(wǎng)絡(luò)文化

首先，可以通過優(yōu)化算法的形式培育積極的互動文化。根據(jù)相關(guān)研究，人類在無數(shù)領(lǐng)域都表現(xiàn)出“同質(zhì)性”的特征，即具備與自己相似的個體建立聯(lián)系的強(qiáng)烈傾向。這種同質(zhì)性在一定程度上會阻礙社會的進(jìn)步與發(fā)展，因?yàn)閯?chuàng)造力往往來自于不同學(xué)科和文化的思想碰撞。當(dāng)公眾生活在具備足夠個體多樣性的社會架構(gòu)中時，過度同質(zhì)化的傾向就會得到抑制。易言之，單一個體對自我的正確認(rèn)知，實(shí)際離不開一個承認(rèn)并尊重價值多元的環(huán)境：一個人需要認(rèn)識到多種的選擇可能性，從而避免個體認(rèn)知的束縛。在當(dāng)前這樣一種算法應(yīng)用的網(wǎng)絡(luò)空間場景下，信息推薦系統(tǒng)成為現(xiàn)代各個社交平臺的重要組成部分，這種信息推薦會放大人們的同質(zhì)性。通過分析用戶的瀏覽和交互數(shù)據(jù)，算法會過濾掉用戶不感興趣的內(nèi)容，推送符合用戶偏好的信息，從而為每個人創(chuàng)造一個獨(dú)特的信息繭房。這種過濾機(jī)制會從根本上改變用戶所遇到的信息內(nèi)容，消解用戶所處生活空間的多樣性，從而固化用戶已有的偏見和立場，甚至導(dǎo)致對其他異見者的排斥和敵視。進(jìn)一步而言，這種過濾機(jī)制可能加劇社會分化和群體極化。不難看出，以同質(zhì)化推送為核心理念的過濾機(jī)制實(shí)際為社會共同體帶來一種“離心力”。因此，平臺可以對癥下藥，通過引入所謂“接觸多樣性”的設(shè)計(jì)原則對算法進(jìn)行相應(yīng)的調(diào)整，以“多樣性分?jǐn)?shù)”的方式加入信息多樣性的權(quán)重，以此為平臺用戶創(chuàng)造更多與不同觀點(diǎn)、價值觀相碰撞的機(jī)會?？梢韵胍?，這種算法調(diào)整不僅有潛力擴(kuò)大用戶接觸多元化內(nèi)容的范圍，還有利于減少信息偏見和過濾泡沫，在為平臺用戶帶來更豐富的互動體驗(yàn)的同時，塑造更加健康和諧的網(wǎng)絡(luò)生態(tài)。

其次，還可以通過限制負(fù)面信息傳播的方式營造積極互動的網(wǎng)絡(luò)文化。在社交媒體的傳播中，那些容易激發(fā)用戶極端情緒的內(nèi)容，往往更容易引發(fā)用戶的互動和分享。因此，為了減少此類極端信息的傳播及其對用戶的情緒影響，平臺可以通過引入情感分析算法的方式來檢測和限制消極內(nèi)容的曝光。除了減少極端信息的曝光外，平臺還可以挑選更多積極內(nèi)容來中和負(fù)面信息對大眾情緒的影響，以此改善網(wǎng)絡(luò)環(huán)境的整體氛圍。

2.提高算法透明度

從制度經(jīng)濟(jì)學(xué)的角度來看，治理體系無論如何都應(yīng)當(dāng)包含“信息透明”“溝通”“監(jiān)督”“制裁選項(xiàng)”“建立信任”等要素。網(wǎng)絡(luò)平臺的算法決策對于用戶來說就是一個“黑匣子”，我們對其工作原理幾乎沒有洞察力或控制力。然而，算法不僅影響我們被理解的方式，它同時也會影響我們理解的方式。當(dāng)用戶具備選擇算法推薦內(nèi)容或拒絕個性化推薦的權(quán)限時，他們便有機(jī)會接觸到更為廣泛的內(nèi)容視角，從而在一定程度上降低極端化的傾向。另外，用戶對其推送內(nèi)容控制權(quán)的提升也有助于使用戶能夠理解平臺內(nèi)容管理的規(guī)則和邏輯，以此消弭平臺和用戶之間因推薦算法不透明而產(chǎn)生的信任危機(jī)。易言之，賦予用戶“算法解釋權(quán)”不僅是個人對抗平臺“算法霸權(quán)”的有效防御，其同時還是算法控制者贏得消費(fèi)者信任的重要手段。就此而言，“數(shù)字信任”不僅是平臺企業(yè)賴以生存的基礎(chǔ)，也是構(gòu)建網(wǎng)絡(luò)健康互動生態(tài)的前提條件。當(dāng)用戶信賴平臺時，他們也往往更傾向于接送平臺推薦的多樣化信息，而不會認(rèn)為平臺在強(qiáng)行灌輸某種特定的觀點(diǎn)。在這個意義上，信任不僅有潛力提升用戶接收內(nèi)容的意愿，還能反向促使用戶參與內(nèi)容的審核和治理。

然而，文獻(xiàn)中很少有學(xué)者注意到，對平臺設(shè)置算法披露義務(wù)同時還構(gòu)成對平臺經(jīng)營者職業(yè)自由及財(cái)產(chǎn)權(quán)兩項(xiàng)基本權(quán)利的干預(yù)。其中，職業(yè)自由是《憲法》第42條第1款勞動權(quán)的延伸，而財(cái)產(chǎn)權(quán)則可以直接援引《憲法》第13條第1款的規(guī)定。對上述兩項(xiàng)基本權(quán)利的干預(yù)，當(dāng)然也需要經(jīng)受比例原則的檢驗(yàn)。首先，要求平臺經(jīng)營者提升算法透明度的主要目標(biāo)涉及保障用戶獲取信息的知情權(quán)和控制權(quán)，并避免不平等對待。這本質(zhì)上關(guān)涉對平臺用戶一般人格權(quán)的保護(hù)，并有憲法上的人格權(quán)條款作為根據(jù)，屬于正當(dāng)目的。其次，算法披露義務(wù)作為滿足上述目標(biāo)的手段，還須滿足適當(dāng)性的要求。就此而言，披露例如“關(guān)鍵詞黑名單”或推薦權(quán)重等算法基礎(chǔ)規(guī)則可以幫助用戶理解平臺設(shè)定的“行為規(guī)范”，并據(jù)此調(diào)整自身的言行。然而，假設(shè)算法披露義務(wù)的內(nèi)容還包含例如深度學(xué)習(xí)模型參數(shù)等核心算法的全部內(nèi)容，則可能造成惡意利用的風(fēng)險，反而難以滿足適當(dāng)性的標(biāo)準(zhǔn)。再次，在必要性評價上，雖然存在事后解釋或第三方核查等更為溫和的措施，但上述更為溫和的措施卻存在難以預(yù)防系統(tǒng)性侵害、完全依賴公權(quán)力資源和中立性等問題。因此，算法披露義務(wù)總體而言能夠滿足必要性的要求。最后，狹義的合比例性則要求，應(yīng)當(dāng)在算法披露義務(wù)對平臺的負(fù)擔(dān)與用戶人格權(quán)保護(hù)的收益之間進(jìn)行權(quán)衡。其中，權(quán)衡所應(yīng)考慮的相關(guān)成本因素包括算法披露這一事實(shí)對平臺企業(yè)商業(yè)競爭力的影響以及相關(guān)披露行為的執(zhí)行成本等；相反，權(quán)衡所需考量的相關(guān)收益因素則包括人格權(quán)及平等權(quán)保護(hù)的提升等。在此，狹義合比例性的要求通常會傾向于采納一種“差異化的算法披露義務(wù)”。具體而言，政策制定者應(yīng)當(dāng)考慮不同類型及不同規(guī)模平臺企業(yè)的經(jīng)營實(shí)際狀況，依照平臺的規(guī)模大小、所涉風(fēng)險的級別，以及是否涉及核心商業(yè)秘密或公共安全等因素，差異且動態(tài)地確定算法披露的范圍。

3.引導(dǎo)用戶參與治理

提升網(wǎng)絡(luò)平臺用戶的參與度也是改善網(wǎng)絡(luò)生態(tài)治理的重要一環(huán)，其不僅能減輕平臺自身的監(jiān)管負(fù)擔(dān)，還能推動一種平臺與用戶間“共建共治共享”的治理模式。這種模式既能增強(qiáng)用戶的社會責(zé)任感和參與感，也有助于提升平臺的公信力，從而促進(jìn)網(wǎng)絡(luò)生態(tài)的健康發(fā)展。

目前，在用戶規(guī)模持續(xù)增長、內(nèi)容類型日益復(fù)雜以及監(jiān)管要求不斷提高的背景下，網(wǎng)絡(luò)社交平臺在內(nèi)容監(jiān)管上面臨著極大的挑戰(zhàn)。然而，風(fēng)險與機(jī)遇并存。不可忽視的是，平臺所擁有的數(shù)量龐大的用戶群體無疑是一項(xiàng)重要的潛在資源。通過合理地引導(dǎo)用戶參與治理，平臺可以將部分審核任務(wù)分散到社區(qū)中，以“眾包”的方式激勵用戶主動舉報(bào)和標(biāo)記問題內(nèi)容，從而顯著減少平臺在內(nèi)容管理上的資源消耗。這種“發(fā)動群眾來監(jiān)督自己”的方式越來越被視為平臺的必要規(guī)則，無論是希望平臺反應(yīng)更快的監(jiān)管機(jī)構(gòu)，還是希望避免更嚴(yán)格監(jiān)管的平臺管理者。然而，根據(jù)相關(guān)調(diào)查研究，我國網(wǎng)民在面對網(wǎng)絡(luò)暴力等違法信息時，選擇關(guān)閉評論或不予理會這樣的“回避式”方式仍占大多數(shù)。這就需要網(wǎng)絡(luò)平臺給予合理引導(dǎo)。在具體的引導(dǎo)方式上，主要包括以下幾個方面：

一是建立清晰易用的投訴舉報(bào)系統(tǒng)。網(wǎng)絡(luò)平臺應(yīng)當(dāng)提供用戶友好、便捷的舉報(bào)工具，使用戶能夠快速、直接地舉報(bào)不當(dāng)內(nèi)容。二是賦予用戶一定的內(nèi)容審核權(quán)限。通過建立用戶等級或評分系統(tǒng)，平臺可以選擇經(jīng)驗(yàn)豐富、信譽(yù)較高的用戶參與內(nèi)容審核，例如賦予他們標(biāo)記不當(dāng)內(nèi)容或支持舉報(bào)的權(quán)限，即所謂的“可信賴標(biāo)記者”。另外，為提高舉報(bào)質(zhì)量，可以在內(nèi)部為舉報(bào)者分配聲譽(yù)分?jǐn)?shù)，以便擁有準(zhǔn)確舉報(bào)記錄用戶的后續(xù)舉報(bào)能得到更認(rèn)真的對待。通過提供積分和獎勵，可以將舉報(bào)游戲化，從而鼓勵用戶積極參與并且理性舉報(bào)。三是為舉報(bào)者提供及時反饋信息。及時、透明的反饋機(jī)制可以增強(qiáng)用戶對平臺治理的信任感，鼓勵他們持續(xù)參與內(nèi)容治理。尋找以有意義的方式提高透明度和參與度的方法是一項(xiàng)巨大的挑戰(zhàn)，但它是改善我們共享社會空間治理所有努力的重要組成部分。對于以上措施，以小紅書、抖音、快手為典型的國內(nèi)主流網(wǎng)絡(luò)平臺已經(jīng)有了部分嘗試。例如，這些平臺都普遍建立了投訴舉報(bào)系統(tǒng)，并且會及時反饋舉報(bào)信息，但內(nèi)容審核權(quán)依然由平臺自己承擔(dān)，并沒有充分發(fā)揮出用戶自身的作用。在這一點(diǎn)上，《抖音社區(qū)自律公約》的做法已經(jīng)邁出了第一步，其嘗試通過抖音社區(qū)評審團(tuán)，來協(xié)助解決社區(qū)部分有爭議的內(nèi)容，但用戶尚未被賦予內(nèi)容審核的權(quán)利。從域外經(jīng)驗(yàn)來看，這是我們未來的努力方向。

（二）機(jī)制層級：基于風(fēng)險的層次性義務(wù)梯度

《治理規(guī)定》第32條將網(wǎng)絡(luò)暴力信息定義為：“通過網(wǎng)絡(luò)以文本、圖像、音頻、視頻等形式對個人集中發(fā)布的，含有侮辱謾罵、造謠誹謗、煽動仇恨、侵犯隱私，以及影響身心健康的指責(zé)嘲諷、貶低歧視等內(nèi)容的違法和不良信息?！倍撘?guī)定第12條、第15條則要求網(wǎng)絡(luò)信息服務(wù)提供者采用人工智能、大數(shù)據(jù)等技術(shù)手段和人工審核相結(jié)合的方式加強(qiáng)對網(wǎng)絡(luò)暴力信息的識別監(jiān)測，發(fā)現(xiàn)涉網(wǎng)絡(luò)暴力違法信息的，應(yīng)當(dāng)立即停止傳輸，采取刪除、屏蔽、斷開連接等處置措施。與《治理規(guī)定》籠統(tǒng)規(guī)定網(wǎng)絡(luò)暴力信息及其治理方式相同，當(dāng)前主流網(wǎng)絡(luò)平臺的社區(qū)規(guī)則也大都沒有明確網(wǎng)絡(luò)暴力信息的不同種類及其對應(yīng)的治理規(guī)則。也就是說，這些網(wǎng)絡(luò)平臺大都采取“一攬子”的網(wǎng)絡(luò)暴力信息處理方式。這種“一攬子”的禁止方案明顯忽視了網(wǎng)絡(luò)暴力內(nèi)容的多樣性和復(fù)雜性。在未對網(wǎng)絡(luò)暴力信息分級進(jìn)而實(shí)施一刀切的監(jiān)管模式下，理性的網(wǎng)絡(luò)服務(wù)提供者可能走向?qū)ΡO(jiān)管要求陽奉陰違，或者過度管控信息兩個極端。對監(jiān)管要求的陽奉陰違會導(dǎo)致網(wǎng)絡(luò)暴力蔓延，而通過刪帖、禁言等方式進(jìn)行治理，則意味著網(wǎng)絡(luò)用戶的言論自由被嚴(yán)重壓縮。很顯然，這兩個結(jié)果都不是我們想要的，因此需要有效平衡言論自由與內(nèi)容治理之間的關(guān)系，同時提高監(jiān)管效率和針對性。為此，合理的方式是對網(wǎng)絡(luò)暴力內(nèi)容采取分級管理的措施。

德國《網(wǎng)絡(luò)執(zhí)行法》中對服務(wù)提供商所設(shè)定的監(jiān)管義務(wù)都以“違法內(nèi)容”為對象，而“違法內(nèi)容”限定在滿足德國刑法條款的特定犯罪行為且不具有違法阻卻事由。這一方案也被我國部分學(xué)者所主張。然而，網(wǎng)絡(luò)暴力信息中還包含大量僅表現(xiàn)為“道德綁架、惡意揣測、陰陽怪氣”等違法特征不明顯的“不良信息”。這些信息大多數(shù)情況下單獨(dú)來看可能達(dá)不到誹謗、侮辱的違法犯罪程度。網(wǎng)絡(luò)信息治理中傳統(tǒng)的“違法—合法”二分模式難以應(yīng)對現(xiàn)實(shí)中大量發(fā)生的“不良信息”型網(wǎng)絡(luò)暴力。因此，平臺可以并且應(yīng)當(dāng)制定分類別的內(nèi)容審核規(guī)則，而這些規(guī)則將超出法律的實(shí)質(zhì)性監(jiān)管。

結(jié)合我國《治理規(guī)定》對網(wǎng)絡(luò)暴力信息的定義，可以將網(wǎng)絡(luò)暴力內(nèi)容分為以下三個等級：

一級（輕度不當(dāng)）：即發(fā)表的內(nèi)容既沒有違反刑法相關(guān)規(guī)定，也沒有違反民法、行政法等相關(guān)法律規(guī)定，但是從社會公德和倫理道德角度來看，其具有貶低、嘲諷等帶有攻擊性或濃厚的消極情緒色彩特征，可能對用戶身心健康造成不良影響。

二級（中度違規(guī)）：即發(fā)表的內(nèi)容雖然未達(dá)到刑事犯罪的程度，但卻違反了民法、行政法相關(guān)規(guī)定。

三級（嚴(yán)重違法）：即發(fā)表的內(nèi)容已經(jīng)觸犯了我國刑法相關(guān)規(guī)定，可能受到刑事處罰。

在內(nèi)容分級的基礎(chǔ)上，由于網(wǎng)絡(luò)空間的匿名性、群體性和即時性，網(wǎng)絡(luò)暴力信息傳播速度快、傳播范圍廣，應(yīng)當(dāng)根據(jù)行為的連續(xù)性和傳播性對其分級進(jìn)行動態(tài)調(diào)整。例如，當(dāng)二級中度違規(guī)的網(wǎng)絡(luò)暴力信息在公眾群體中引發(fā)廣泛傳播，造成嚴(yán)重影響時，應(yīng)當(dāng)調(diào)整為三級嚴(yán)重違法。針對不同級別的暴力信息，網(wǎng)絡(luò)平臺應(yīng)當(dāng)分別采取不同的監(jiān)管措施。對于一級網(wǎng)絡(luò)暴力信息，提醒發(fā)布者違規(guī)，并將其內(nèi)容標(biāo)記為“具有攻擊性”或“具有消極情緒”內(nèi)容并減少其傳播范圍，即限制其內(nèi)容的推廣，從而提醒其他用戶注意并減少消極情緒對用戶的影響。扎克伯格就曾在《內(nèi)容治理和執(zhí)行藍(lán)圖》中提到，F(xiàn)acebook將越來越多地通過“減少其病毒式傳播”而不是直接刪除來解決“邊界內(nèi)容”。這種內(nèi)容被標(biāo)記且傳播受到限制的方法比刪除內(nèi)容的侵入性更小。針對二級網(wǎng)絡(luò)暴力信息，由于其已經(jīng)違反相關(guān)法律規(guī)定，網(wǎng)絡(luò)平臺應(yīng)當(dāng)通知發(fā)布者并要求其刪除內(nèi)容，此外，網(wǎng)絡(luò)平臺有權(quán)據(jù)此對其賬號實(shí)施限制。至于三級網(wǎng)絡(luò)暴力信息，網(wǎng)絡(luò)平臺應(yīng)當(dāng)立即刪除并保留證據(jù)，且應(yīng)當(dāng)永久禁封發(fā)布者賬號并將相關(guān)情況報(bào)告執(zhí)法機(jī)關(guān)（如圖1）。對于這一點(diǎn)，歐盟《數(shù)字服務(wù)法案》第18條就有類似規(guī)定。

圖1 網(wǎng)絡(luò)暴力信息分級處置機(jī)制

（三）程序?qū)蛹墸阂酝该鞫扰c救濟(jì)為核心的過程性責(zé)任

《治理規(guī)定》第26條和第27條要求網(wǎng)絡(luò)服務(wù)提供者設(shè)立網(wǎng)絡(luò)暴力信息投訴、舉報(bào)及監(jiān)督機(jī)制，但仍缺少程序上的保障，即透明度機(jī)制與錯誤審核的救濟(jì)機(jī)制。盡管我們強(qiáng)調(diào)監(jiān)管，但完美監(jiān)管是不可能的。期望規(guī)則在任何情況下都正確應(yīng)用是不現(xiàn)實(shí)的，規(guī)則的執(zhí)行永遠(yuǎn)不會完美。也就是說，內(nèi)容審核始終是一個概率問題。當(dāng)平臺每周處理數(shù)百萬起投訴，或者根據(jù)算法做出更多自動化的決策時，即使是非常低的錯誤率，也會導(dǎo)致每周出現(xiàn)數(shù)十萬個錯誤。從長遠(yuǎn)來看，創(chuàng)建一個一開始就預(yù)測會犯一定數(shù)量錯誤的決策程序，通常會比創(chuàng)建一個理論上不會犯錯但在實(shí)踐中會產(chǎn)生很多錯誤的決策程序?qū)е赂俚腻e誤。對于在線網(wǎng)絡(luò)言論治理，減輕過度屏蔽合法言論或未充分屏蔽禁止言論的風(fēng)險的唯一方法是，開發(fā)一個包含充分正當(dāng)程序保障措施的執(zhí)行系統(tǒng)，即提高決策的透明度并給予用戶對決策提出上訴的機(jī)會，從而將已經(jīng)采取的決策過程暴露給公眾監(jiān)督并對錯誤采取補(bǔ)救措施。

提高透明度是提高用戶對平臺監(jiān)管互聯(lián)網(wǎng)方式的信任的基本前提，錯誤需要得到透明的承認(rèn)和捍衛(wèi)。網(wǎng)絡(luò)平臺應(yīng)當(dāng)定期發(fā)布有關(guān)被標(biāo)記或報(bào)告的帖子和賬戶總數(shù)以及刪除內(nèi)容或賬戶被暫停的比例信息，并且這些信息應(yīng)當(dāng)按照幾個重要維度進(jìn)行細(xì)分，包括內(nèi)容類型、違反規(guī)則的類別、投訴的來源和數(shù)量（包括政府行為者、其他用戶和不同類型的自動檢測系統(tǒng)）、舉報(bào)者的位置以及受影響的用戶。歐盟《數(shù)字服務(wù)法案》第15條就規(guī)定了服務(wù)提供商透明度報(bào)告義務(wù)，要求其在一定期間內(nèi)，以易于訪問的方式提供清晰的內(nèi)容審核報(bào)告。

用戶對于刪除違法內(nèi)容和其他管制措施的申訴制度，對于用戶的言論和信息自由的保護(hù)具有重要意義。一方面，平臺可能因算法誤判、舉報(bào)濫用或內(nèi)容邊界模糊而錯誤刪除合法內(nèi)容。申訴制度為用戶提供了糾錯渠道，使他們能夠證明自己的言論合法性。另一方面，平臺為避免法律風(fēng)險，可能傾向于“寧多刪，不少刪”的策略。通過申訴機(jī)制可以確保平臺對刪除行為的透明度，避免其濫用權(quán)力，從而減輕過度屏蔽的危險。缺乏內(nèi)部的申訴機(jī)制是德國《網(wǎng)絡(luò)執(zhí)行法》的一個明顯缺點(diǎn)。因此，該法在頒布三年后就進(jìn)行了修訂，其中就包括引入申訴程序，要求社交網(wǎng)絡(luò)提供商制定適當(dāng)?shù)某绦?，允許用戶就提供商的決定發(fā)表意見并尋求重新審查。確保申訴制度有效性的關(guān)鍵因素包括申訴流程的便捷性和時效性、公正的復(fù)核機(jī)制和透明的反饋機(jī)制。在這方面，歐盟《數(shù)字服務(wù)法案》第20條提供了很好的范本。

目前，對于內(nèi)容審核程序尚沒有國家法律的最低標(biāo)準(zhǔn)，因而平臺同時充當(dāng)立法者、警察、律師和法官。平臺負(fù)責(zé)人也意識到，平臺不應(yīng)該獨(dú)自做出如此多關(guān)于言論自由和安全的重要決定。因此，應(yīng)當(dāng)設(shè)立國家層面的、獨(dú)立于平臺的申訴機(jī)構(gòu)。當(dāng)用戶對平臺的申訴結(jié)果不滿意時，可以向國家申訴機(jī)構(gòu)再次提出上訴。獨(dú)立的審查機(jī)構(gòu)可以更好地兼顧法律規(guī)范（合法性）和道德規(guī)范（文明），這不僅能夠?qū)ζ脚_的內(nèi)容審核進(jìn)行更好的監(jiān)督，也能夠?yàn)槠脚_內(nèi)容審核決定的合法性提供支持，從而減少平臺的法律責(zé)任。因此，政府監(jiān)管機(jī)構(gòu)的作用是制度化、激勵和驗(yàn)證平臺的系統(tǒng)平衡。

四

違反積極義務(wù)的法律責(zé)任及其比例限制

（一）責(zé)任認(rèn)定的基本邏輯：以違反積極義務(wù)為前提

本文所討論的平臺責(zé)任存在“積極義務(wù)”與“消極法律責(zé)任”的層次性區(qū)分。前者是法律基于網(wǎng)絡(luò)平臺的特殊地位和技術(shù)能力，為達(dá)成公共治理目標(biāo)而賦予平臺的積極作為要求，后者則是在網(wǎng)絡(luò)平臺未能滿足這些規(guī)范性要求時所引發(fā)的、由國家強(qiáng)制力予以保障的否定性法律后果。二者構(gòu)成“第一性義務(wù)”與“第二性義務(wù)”的因果關(guān)系鏈。因此，認(rèn)定網(wǎng)絡(luò)平臺責(zé)任的邏輯前提并非單純發(fā)生了網(wǎng)絡(luò)暴力損害結(jié)果，而是平臺對其負(fù)有的積極治理義務(wù)的違反。這就意味著，歸責(zé)的焦點(diǎn)要從靜態(tài)的損害后果，轉(zhuǎn)向?qū)ζ脚_動態(tài)行為過程的規(guī)范性審查，即審查平臺是否在風(fēng)險預(yù)防、事發(fā)干預(yù)及事后補(bǔ)救等環(huán)節(jié)，采取了可能、必要、可期待的治理舉措。由此不難看出，前文平臺積極治理義務(wù)的討論是消極后果意義上法律責(zé)任認(rèn)定的前提，而法律責(zé)任的討論則是積極義務(wù)不履行時必然的邏輯延伸。

（二）責(zé)任認(rèn)定的梯度層級：刑事責(zé)任的特殊要求

前述以積極義務(wù)違反為前提的責(zé)任歸屬邏輯，在法律責(zé)任體系中具體呈現(xiàn)為一個根據(jù)不法行為的嚴(yán)重性而逐級遞進(jìn)的譜系。具體而言，我們應(yīng)當(dāng)基于比例原則構(gòu)建一個階梯式的責(zé)任體系：對于輕微的義務(wù)履行瑕疵，可以通過民事責(zé)任予以填補(bǔ)，以彌補(bǔ)受損的個人權(quán)益，而對于較為系統(tǒng)的、危害公共秩序的義務(wù)違反行為，則可以通過行政責(zé)任予以矯正。只有當(dāng)網(wǎng)絡(luò)平臺義務(wù)違反達(dá)到了刑法所要求的量的規(guī)定性時，才可能觸發(fā)刑事責(zé)任。觀察我國現(xiàn)行立法不難發(fā)現(xiàn)，以《民法典》（第1197條）、《網(wǎng)絡(luò)安全法》（第9～10條、第47～50條）、《個人信息保護(hù)法》（第58條、第66條）為核心的法律規(guī)范已經(jīng)通過過錯程度、違法情節(jié)等要件，符合了比例原則的“適當(dāng)性”與“必要性”要求。然而，因關(guān)涉對平臺最嚴(yán)厲的否定性評價，刑事責(zé)任的適用應(yīng)當(dāng)接受比例原則最嚴(yán)苛的檢驗(yàn)。這也就意味著，對平臺刑事責(zé)任的討論，是檢驗(yàn)整個平臺責(zé)任體系是否恪守比例原則的最終試金石。因此，本文著重圍繞網(wǎng)絡(luò)平臺在網(wǎng)絡(luò)暴力治理中的刑事責(zé)任的合比例性問題展開。

網(wǎng)絡(luò)平臺因公共領(lǐng)域管理者角色及其自身自由行動所帶來的組織圈的擴(kuò)張而負(fù)有保證人義務(wù)。如上所述，從前置性規(guī)范的角度講，諸多行政法規(guī)都已經(jīng)規(guī)定了網(wǎng)絡(luò)平臺的安全保障義務(wù)，而這種義務(wù)也已經(jīng)由刑法中的拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪、幫助信息網(wǎng)絡(luò)犯罪活動罪上升為刑事義務(wù)。因此，網(wǎng)絡(luò)平臺在網(wǎng)絡(luò)暴力治理中的相關(guān)行為也可能構(gòu)成拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪（下稱“拒履罪”）、幫助信息網(wǎng)絡(luò)犯罪活動罪（下稱“幫信罪”）或者相關(guān)網(wǎng)絡(luò)暴力犯罪的共同犯罪。在網(wǎng)絡(luò)平臺的刑事責(zé)任問題上，無論是基于刑法的最后手段性的要求，還是平臺監(jiān)管與言論自由的平衡等方面的考慮，都應(yīng)當(dāng)嚴(yán)格貫徹比例原則的基本精神。在這方面，本文認(rèn)為有以下兩點(diǎn)需要格外注意：

1.注意監(jiān)管或者幫助對象的適格性

如上所述，網(wǎng)絡(luò)平臺在網(wǎng)絡(luò)暴力中的不適當(dāng)作為可能面臨拒履罪、幫信罪的規(guī)制。觀察這兩個罪名不難發(fā)現(xiàn)，行為對象都有一定的限制。在拒履罪的犯罪構(gòu)成中，“致使違法信息大量傳播”是結(jié)果不法的選擇性要件。這就意味著，作為監(jiān)管對象的信息要具有違法性，否則不可能因?yàn)椴蛔鳛槎鴮?dǎo)致違法信息傳播。在幫信罪中，“明知他人利用信息網(wǎng)絡(luò)實(shí)施犯罪”是犯罪構(gòu)成的充分且必要條件。對于此處“犯罪”概念，學(xué)理上存在不同的理解。有學(xué)者認(rèn)為，在“立法定性又定量”及相關(guān)犯罪的罪狀描述明確區(qū)分“犯罪”與“違法犯罪”的背景下，幫信罪中的“犯罪”應(yīng)理解為同時具備罪質(zhì)與罪量的刑事不法行為。然而，在“一對多”的案件中，這一要求可能有所放松，即被幫助者的每一個正犯行為單獨(dú)觀察都未達(dá)到具體犯罪的罪量標(biāo)準(zhǔn)，幫助者仍可能構(gòu)成幫信罪。與此相反，有學(xué)者提倡用“積量構(gòu)罪”來理解幫信罪，言外之意，即便所幫助行為不滿足犯罪的罪量要求，但是幫助行為的累積也可以達(dá)到罪量的要求。也就是說，此處的“犯罪”包含不滿足罪量要件的違法行為。無論是嚴(yán)格解釋此處的犯罪概念，還是采取較為寬松的解釋方案，被幫助者的行為都應(yīng)當(dāng)具有違法性，在這一點(diǎn)上沒有疑問。恰恰在這一點(diǎn)上，作為監(jiān)管或幫助對象的網(wǎng)絡(luò)暴力體現(xiàn)出了特殊性。

如上所述，很多網(wǎng)絡(luò)暴力都無法簡單用合法和違法來評價，網(wǎng)絡(luò)暴力中的“道德綁架”“陰陽怪氣”等信息內(nèi)容即是如此。正是看到了這一點(diǎn)，有學(xué)者將其界定為“合法—違法”二分標(biāo)準(zhǔn)之外的獨(dú)立類型，即“不良信息型網(wǎng)絡(luò)暴力”。盡管論者從形式上否定了不良信息型網(wǎng)絡(luò)暴力的違法性，但其將這一類型與家庭暴力加以類比，這傳遞出的信息是，其在本質(zhì)上采取了一種實(shí)質(zhì)化的認(rèn)定方式，將不良信息的發(fā)布行為也認(rèn)定為違法的網(wǎng)絡(luò)暴力。這種實(shí)質(zhì)化的認(rèn)定方式也得到了諸多學(xué)者的支持。例如，劉憲權(quán)教授就主張，應(yīng)當(dāng)從形式和實(shí)質(zhì)兩個方面來判斷網(wǎng)絡(luò)暴力，形式違法的缺失并不重要，重要的是是否具有人身攻擊效果。對此，本文的基本觀點(diǎn)是，不良信息不宜作為網(wǎng)絡(luò)暴力加以認(rèn)定，相應(yīng)地，對于這種信息的不予管理也不宜直接追究刑事責(zé)任：一則，如果將不良信息直接認(rèn)定為違法信息，那么無疑會壓縮公民的言論自由，即公民只能以標(biāo)準(zhǔn)化的方式發(fā)表具有正能量的言論。在當(dāng)前的中國，言論自由格外重要，也是立法者非常珍視的公民權(quán)利，不可隨意削減。二則，如果采取實(shí)質(zhì)化的認(rèn)定方式，那么就在一定程度上意味著犯罪認(rèn)定的主觀化，因?yàn)槿松砉粜Ч蛉硕?，受害者的敏感性、心理承受能力將會成為影響犯罪認(rèn)定的重要因素。

2.嚴(yán)格解釋相關(guān)犯罪的構(gòu)成要件

在網(wǎng)絡(luò)暴力治理實(shí)踐中，也存在網(wǎng)絡(luò)平臺為了流量而主動引流，甚至傳播虛假信息主動創(chuàng)造網(wǎng)絡(luò)暴力事件的情形。對于這些行為，按照相關(guān)犯罪的正犯或者共犯加以處理并無多大疑問。在網(wǎng)絡(luò)平臺的治理責(zé)任問題上，值得討論的是未能適當(dāng)管理行為的可罰性限度，即網(wǎng)絡(luò)平臺未能有效治理網(wǎng)絡(luò)暴力時，在多大范圍內(nèi)要承擔(dān)拒履罪、幫信罪或相關(guān)犯罪的共犯責(zé)任。對此，本文的觀點(diǎn)是：

網(wǎng)絡(luò)平臺的監(jiān)管義務(wù)應(yīng)符合比例性，因而拒履罪的認(rèn)定要格外謹(jǐn)慎。從法條表述來看，成立拒履罪的前提條件是，在監(jiān)管部門責(zé)令其采取改正措施后仍然拒不改正，并造成違法信息大量傳播，或者有其他嚴(yán)重情節(jié)。由此不難看出，該罪旨在通過刑事責(zé)任的方式倒逼網(wǎng)絡(luò)服務(wù)提供商建立有效防范網(wǎng)絡(luò)犯罪的監(jiān)管機(jī)制，履行安全管理義務(wù)。未刪除違法信息的行為并不是直接與可罰性掛鉤，而是將這一情形視為平臺沒有建立有效監(jiān)管機(jī)制的跡象。懲罰所針對的并不是存在缺陷的個案性判斷，而是超越個案層面的系統(tǒng)性缺陷。因此，對于違法內(nèi)容刪除義務(wù)的一次性違反通常并不能滿足構(gòu)成要件。這也是刑事責(zé)任與民事責(zé)任之間的根本性區(qū)別，民事責(zé)任注重個人層面的個案救濟(jì)，即使網(wǎng)絡(luò)平臺建立了有效的監(jiān)管機(jī)制，也有可能出現(xiàn)監(jiān)管不到位，導(dǎo)致違法信息未被及時刪除、屏蔽。此時，當(dāng)權(quán)利人或者用戶對網(wǎng)絡(luò)平臺進(jìn)行有效通知后，其未及時采取有效措施，造成權(quán)利人合法權(quán)益受到損失的，平臺也應(yīng)當(dāng)承擔(dān)民事責(zé)任。與此不同，刑事責(zé)任以法益侵害為前提。拒履罪設(shè)置于妨害社會管理秩序罪之內(nèi)，結(jié)合體系解釋原理和該規(guī)范內(nèi)容，該罪所侵犯的法益應(yīng)當(dāng)是虛擬網(wǎng)絡(luò)空間的公共秩序。因此，只有當(dāng)網(wǎng)絡(luò)平臺不履行安全管理義務(wù)，未建立有效的防范網(wǎng)絡(luò)暴力風(fēng)險的監(jiān)管機(jī)制，監(jiān)管部門責(zé)令其采取改正措施后仍然拒不改正，造成網(wǎng)絡(luò)暴力違法信息大量傳播等其他嚴(yán)重后果，對網(wǎng)絡(luò)空間秩序造成了具體危險時，其才應(yīng)當(dāng)承擔(dān)刑事責(zé)任。此外，即便發(fā)生結(jié)果不法，在歸責(zé)時也要考慮，這種行為是否可期待。如上所述，網(wǎng)絡(luò)平臺承擔(dān)了公共管理者的角色，但其同時也是自負(fù)盈虧的市場主體，因此需要在監(jiān)管責(zé)任和經(jīng)營自由之間取得合理的平衡。在本文看來，網(wǎng)絡(luò)平臺的監(jiān)管義務(wù)應(yīng)當(dāng)符合比例性。也就是說，企業(yè)只需要在必要、可能和可期待的范圍內(nèi)履行監(jiān)管義務(wù)。必要意味著手段適格，并且對義務(wù)人的影響最小，而可能和可期待則意味著，在責(zé)任歸屬時，必須考慮企業(yè)的經(jīng)濟(jì)和技術(shù)能力，不能讓其采取經(jīng)濟(jì)或技術(shù)上無法完成的監(jiān)管手段。在監(jiān)管技術(shù)方面，必須考慮的是，由于網(wǎng)絡(luò)暴力信息的特殊性，很多內(nèi)容難以用語言模型加以有效識別。在監(jiān)管成本方面，我們無法期待平臺企業(yè)“用大炮打麻雀”，即為了較小的預(yù)期損害而過分投入監(jiān)管，也無法期待其為了預(yù)防即便是較大的預(yù)期損害而使自己無以為繼。簡言之，適用于自然人的期待可能性理論也適用于企業(yè)監(jiān)管責(zé)任的考量。

對于網(wǎng)絡(luò)暴力犯罪的不作為幫助行為，需要嚴(yán)格解釋。在適用泛化的當(dāng)下，幫信罪的認(rèn)定需要謹(jǐn)慎，但作為輕罪的幫信罪不是認(rèn)定其他犯罪共犯責(zé)任的障礙。首先，對于幫信罪的適用，應(yīng)當(dāng)進(jìn)行嚴(yán)格限制。一方面，與提供旨在實(shí)施犯罪的互聯(lián)網(wǎng)平臺本身所積極制造的風(fēng)險相比，合法平臺運(yùn)營者在表達(dá)性犯罪（如煽動仇恨、誹謗等與言論相關(guān)的犯罪）所涉及的法益方面，其制造的可歸責(zé)的危險更多體現(xiàn)為對違法內(nèi)容未能及時刪除（即不作為）。換言之，與那些旨在為網(wǎng)絡(luò)犯罪行為（如詐騙罪、賭博罪）積極提供犯罪工具的違法網(wǎng)絡(luò)平臺相比，社交網(wǎng)絡(luò)平臺因未履行監(jiān)管義務(wù)而產(chǎn)生的違法性更低。另一方面，該罪本身在司法適用中就具有擴(kuò)張趨勢，已成為信息時代新型口袋罪。因此，為防止該罪的擴(kuò)張適用和責(zé)任主義的弱化，應(yīng)當(dāng)對主觀上的“明知”、客觀上的幫助行為及定罪情節(jié)上的“情節(jié)嚴(yán)重”進(jìn)行從嚴(yán)解釋。在這方面，學(xué)界前期已經(jīng)有了大量研究，此處無法具體展開。需要強(qiáng)調(diào)的只有兩點(diǎn)：一是需要限制推定規(guī)則在明知認(rèn)定中的普遍適用。二是要嚴(yán)格對“明知他人利用信息網(wǎng)絡(luò)實(shí)施犯罪”中“犯罪”的理解。對于明知推定問題，通過對一系列司法解釋和規(guī)范性文件的梳理不難發(fā)現(xiàn)，目前已經(jīng)形成了一般性幫信罪和特殊的“兩卡類”犯罪之間認(rèn)定規(guī)則的形式差異，前者以明知推定為基本原則，盡管后者強(qiáng)調(diào)綜合認(rèn)定，但在特定情況下也允許通過推定認(rèn)定明知要件。這就意味著，推定幾乎成了具有普遍適用性的明知認(rèn)定規(guī)則，這在一定程度上弱化了責(zé)任主義原則。對此，未來需要進(jìn)行理念和規(guī)則的重構(gòu)，逐漸塑造“以綜合認(rèn)定為原則，以推定為例外”的基本規(guī)則體系，理性回歸責(zé)任主義原則。對于“犯罪”概念的理解，實(shí)踐中已經(jīng)出現(xiàn)了泛化問題。為了解決“一對多”情況下的犯罪認(rèn)定問題，理論界也存在泛化理解“犯罪”概念的觀點(diǎn)。然而，為了有效控制泛濫的幫信罪司法實(shí)踐，也鑒于“一對多”情形的非普遍性，有必要堅(jiān)持對“犯罪”概念嚴(yán)格的文義解釋。另外，幫信罪和網(wǎng)絡(luò)犯罪共犯非互斥關(guān)系。實(shí)踐中，常見的情形是，盡管認(rèn)為行為構(gòu)成相關(guān)犯罪的共犯，但在刑法已經(jīng)規(guī)定了獨(dú)立的幫信罪的情況下，只能適用幫信罪，而不是處罰更重的共犯。然而，這種方案會造成處斷上的不均衡，并且存在方法論和邏輯上的多重問題。從罪刑均衡及有效預(yù)防幫信罪的角度來講，我們也無法認(rèn)同互斥論。因此，在深度參與等可能構(gòu)成相關(guān)網(wǎng)絡(luò)犯罪共犯，同時構(gòu)成幫信罪的情形下，應(yīng)從一重處斷。

-向上滑動，查看完整目錄-

《華東政法大學(xué)學(xué)報(bào)》2026年第3期

【專題研討：權(quán)利保護(hù)的價值位階與利益權(quán)衡】

1.侵權(quán)賠償責(zé)任中的受害人特殊體質(zhì)問題

程嘯

2.定期經(jīng)營性租賃中租金請求權(quán)的例外限制構(gòu)造

賀栩栩

3.論企業(yè)數(shù)據(jù)的合理使用

張真源

【數(shù)字法治】

4.網(wǎng)絡(luò)暴力治理中的平臺責(zé)任及其限度

李本燦

5.“相互依賴武器化”背景下數(shù)據(jù)跨境基礎(chǔ)設(shè)施的法律保護(hù)

——以海底電纜為例

洪家宸

【法學(xué)論壇】

6.行政訴訟中“禁止濫訴”的內(nèi)涵嬗變及其制度邏輯

黃鍇

7.“夾心層”住房保障治理的法律檢視與制度建構(gòu)

陳雷

8.檢察公益訴訟“刑事化”之反思

張文浩

9.刑事訴訟中的訴訟利益與司法解釋中的利益衡量

程衍

10.清代中期錯案責(zé)任追究制度的運(yùn)行實(shí)態(tài)及其調(diào)適

白陽

【域外法苑】

11.WTO禁訴令爭端中的不妨礙義務(wù)研究

馬樂

12.在歷史與規(guī)范之間：16世紀(jì)法國的國家主權(quán)之辯

郭逸豪

【評案論法】

13.論以多數(shù)決處分股東權(quán)益之效力

——基于決議效力與處分效力的區(qū)分

吳維錠

《華東政法大學(xué)學(xué)報(bào)》是由上海市教委主管、華東政法大學(xué)主辦，以法學(xué)為主、其他社會科學(xué)為輔的學(xué)術(shù)性刊物，面向國內(nèi)外公開發(fā)行，逢單月20日出版。本刊的主要欄目有：《法學(xué)論壇》、《域外法苑》、《評案論法》、《熱點(diǎn)筆談》、《學(xué)思論說》、《社科探索》等。本刊自創(chuàng)刊以來，受到了廣大作者和讀者的歡迎和好評，刊物的學(xué)術(shù)品位和學(xué)術(shù)質(zhì)量得到提升，學(xué)術(shù)影響力不斷擴(kuò)大，在期刊影響因子和各大社科類文獻(xiàn)資料中心收錄、轉(zhuǎn)摘的比較排位中位居前列。數(shù)年來，本刊在作者與讀者的呵護(hù)下、在編輯部全體成員的心血與汗水的澆灌下，取得了長足的進(jìn)步。本刊將繼續(xù)秉承“弘揚(yáng)學(xué)術(shù)、服務(wù)讀者”的主旨，以出色的業(yè)績回報(bào)社會，回報(bào)讀者，為中國學(xué)術(shù)傾注一分熱情，竭盡一片忠誠。

點(diǎn)擊進(jìn)入下方小程序

獲取專屬解決方案~

責(zé)任編輯 | 郭晴晴

審核人員 | 張文碩 毛琛昕

本文聲明 | 本文章僅限學(xué)習(xí)交流使用，如遇侵權(quán)，我們會及時刪除。本文章不代表北大法律信息網(wǎng)（北大法寶）和北京北大英華科技有限公司的法律意見或?qū)ο嚓P(guān)法規(guī)/案件/事件等的解讀。