編者按

人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，將對(duì)全球經(jīng)濟(jì)社會(huì)發(fā)展和人類文明進(jìn)步產(chǎn)生深遠(yuǎn)影響。習(xí)近平總書(shū)記深刻指出：“面對(duì)生成式人工智能等新技術(shù)的涌現(xiàn)，要統(tǒng)籌好發(fā)展和安全。”在法治軌道上推進(jìn)人工智能治理，既是保障國(guó)家安全與社會(huì)穩(wěn)定的底線要求，也是搶占全球科技競(jìng)爭(zhēng)制高點(diǎn)的關(guān)鍵舉措。在實(shí)踐中，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依據(jù)何種歸責(zé)原則負(fù)責(zé)？應(yīng)當(dāng)如何認(rèn)定生成式人工智能服務(wù)提供者致害中的過(guò)錯(cuò)？本欄目特刊發(fā)中國(guó)法學(xué)會(huì)副會(huì)長(zhǎng)，中國(guó)人民大學(xué)一級(jí)教授、博士生導(dǎo)師王利明署名文章，敬請(qǐng)關(guān)注。

生成式人工智能服務(wù)提供者何以擔(dān)責(zé)

中國(guó)法學(xué)會(huì)副會(huì)長(zhǎng)，中國(guó)人民大學(xué)一級(jí)教授、博士生導(dǎo)師王利明

當(dāng)前，人工智能正成為新一輪科技革命與產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力?！叭斯ぶ悄?”的快速發(fā)展，正在深刻重塑我們的生產(chǎn)方式、生活形態(tài)以及社會(huì)治理結(jié)構(gòu)。在國(guó)家大力推動(dòng)科技創(chuàng)新與高質(zhì)量發(fā)展的背景下，生成式人工智能技術(shù)迅猛發(fā)展，必然伴隨著法律風(fēng)險(xiǎn)。生成式人工智能也會(huì)侵害他人的人格權(quán)、知識(shí)產(chǎn)權(quán)等權(quán)益，從而對(duì)侵權(quán)責(zé)任規(guī)則提出了一定的挑戰(zhàn)。在這方面，首先需要解決兩個(gè)問(wèn)題：第一，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依據(jù)何種歸責(zé)原則負(fù)責(zé)；第二，生成式人工智能服務(wù)提供者致害中的過(guò)錯(cuò)應(yīng)當(dāng)如何認(rèn)定。

生成式人工智能服務(wù)提供者應(yīng)當(dāng)對(duì)其過(guò)錯(cuò)負(fù)責(zé)。服務(wù)提供者究竟應(yīng)當(dāng)承擔(dān)何種責(zé)任，在理論上存在無(wú)過(guò)錯(cuò)責(zé)任與過(guò)錯(cuò)責(zé)任之爭(zhēng)。有人認(rèn)為，生成式人工智能本質(zhì)上屬于產(chǎn)品，其服務(wù)提供者應(yīng)當(dāng)如同產(chǎn)品的生產(chǎn)者一樣承擔(dān)無(wú)過(guò)錯(cuò)責(zé)任。顯然，生成式人工智能致害不宜采取無(wú)過(guò)錯(cuò)責(zé)任原則。一方面，從民法典侵權(quán)責(zé)任編對(duì)無(wú)過(guò)錯(cuò)責(zé)任原則的規(guī)定來(lái)看，除了替代責(zé)任以外，其他無(wú)過(guò)錯(cuò)責(zé)任均以侵權(quán)行為或者侵權(quán)活動(dòng)對(duì)他人的人身、財(cái)產(chǎn)安全具有較高的危險(xiǎn)性為前提，因此這些無(wú)過(guò)錯(cuò)責(zé)任又稱“危險(xiǎn)責(zé)任”。這種危險(xiǎn)涉及的是人身安全與財(cái)產(chǎn)安全。生成式人工智能與人類的交互方式?jīng)Q定了其充其量只是向人類提供信息，不可能危及人類的人身安全或財(cái)產(chǎn)安全，因而生成式人工智能致害與民法典侵權(quán)責(zé)任編中的無(wú)過(guò)錯(cuò)責(zé)任體系不具相同性與相似性，不宜將生成式人工智能致害規(guī)定為無(wú)過(guò)錯(cuò)責(zé)任原則。另一方面，在我國(guó)現(xiàn)階段，對(duì)生成式人工智能的發(fā)展應(yīng)當(dāng)秉持審慎包容的態(tài)度，盡可能鼓勵(lì)其發(fā)展。如果對(duì)生成式人工智能服務(wù)提供者采取無(wú)過(guò)錯(cuò)責(zé)任原則，一旦產(chǎn)生損害，都適用無(wú)過(guò)錯(cuò)責(zé)任原則，可能會(huì)不當(dāng)加重其責(zé)任，從而限制AI產(chǎn)業(yè)的發(fā)展。當(dāng)前，我國(guó)在人工智能領(lǐng)域面臨的最大風(fēng)險(xiǎn)是“卡脖子”技術(shù)受制于人。在此背景下，解決“卡脖子”風(fēng)險(xiǎn)應(yīng)采取鼓勵(lì)人工智能發(fā)展的政策，而過(guò)度監(jiān)管或不當(dāng)適用高標(biāo)準(zhǔn)責(zé)任將進(jìn)一步加劇技術(shù)受限問(wèn)題。因此，在設(shè)計(jì)生成式人工智能侵權(quán)規(guī)則體系時(shí)，應(yīng)當(dāng)以促進(jìn)自主創(chuàng)新為價(jià)值導(dǎo)向，體現(xiàn)出對(duì)技術(shù)發(fā)展的引導(dǎo)與支持。基于這一價(jià)值考量，采用過(guò)錯(cuò)責(zé)任原則符合我國(guó)現(xiàn)階段鼓勵(lì)人工智能產(chǎn)業(yè)發(fā)展的需要，也可以有效協(xié)調(diào)行為自由保護(hù)與權(quán)益保護(hù)之間的關(guān)系，實(shí)現(xiàn)對(duì)侵權(quán)風(fēng)險(xiǎn)的合理規(guī)制。

從生成式人工智能引發(fā)的侵權(quán)糾紛來(lái)看，主要涉及的是生成式人工智能服務(wù)提供者對(duì)人格權(quán)益和知識(shí)產(chǎn)權(quán)的侵害。而對(duì)此類糾紛，我國(guó)民法典仍然采用的是過(guò)錯(cuò)責(zé)任原則進(jìn)行處理。因此，生成式人工智能服務(wù)提供者只有在具有過(guò)錯(cuò)時(shí)，才應(yīng)當(dāng)對(duì)侵權(quán)損害負(fù)責(zé)。

生成式人工智能侵權(quán)時(shí)對(duì)服務(wù)提供者過(guò)錯(cuò)認(rèn)定。一旦確立生成式人工智能侵權(quán)采取過(guò)錯(cuò)責(zé)任原則，就需要確定如何認(rèn)定服務(wù)提供者的過(guò)錯(cuò)，以及采用何種標(biāo)準(zhǔn)認(rèn)定其過(guò)錯(cuò)？現(xiàn)代侵權(quán)法理論普遍采納客觀過(guò)錯(cuò)理論，即以行為人是否違反了客觀上的注意義務(wù)作為判斷其是否構(gòu)成過(guò)錯(cuò)的標(biāo)準(zhǔn)。生成式人工智能服務(wù)提供者的過(guò)錯(cuò)認(rèn)定，也應(yīng)當(dāng)依據(jù)客觀的注意義務(wù)標(biāo)準(zhǔn)進(jìn)行評(píng)判，而非依賴其主觀意圖或認(rèn)知狀態(tài)。具體而言，在認(rèn)定服務(wù)提供者的過(guò)錯(cuò)，即是否盡到客觀注意義務(wù)時(shí)，應(yīng)當(dāng)考慮以下幾個(gè)因素：

首先，判斷生成式人工智能服務(wù)提供者的過(guò)錯(cuò)，應(yīng)當(dāng)審慎區(qū)分服務(wù)提供者與訓(xùn)練者、數(shù)據(jù)提供者等多元主體，分別認(rèn)定各個(gè)主體的過(guò)錯(cuò)?！渡墒饺斯ぶ悄芊?wù)管理辦法》對(duì)“提供者”的界定較為寬泛，可以說(shuō)涵蓋了模型的訓(xùn)練者、部署者以及數(shù)據(jù)的提供者等多個(gè)主體。在實(shí)踐中，一旦生成式人工智能發(fā)生侵權(quán)，往往將責(zé)任統(tǒng)歸于“服務(wù)提供者”，這一做法顯然過(guò)于籠統(tǒng)，難以準(zhǔn)確反映各參與方在具體技術(shù)流程中所承擔(dān)的義務(wù)及其過(guò)錯(cuò)程度。因此，應(yīng)當(dāng)將服務(wù)提供者與其他主體相區(qū)別。

其次，應(yīng)當(dāng)區(qū)分生成式人工智能服務(wù)提供者的過(guò)錯(cuò)和用戶的過(guò)錯(cuò)。生成式人工智能具有信息交互的特點(diǎn)，其生成相關(guān)的結(jié)果既依賴于數(shù)據(jù)來(lái)源、生成式人工智能模型與算法的運(yùn)用，也依賴于用戶所輸入的指令以及相關(guān)的信息。如果用戶輸入的信息本身是虛假的，有可能導(dǎo)致生成式人工智能輸出的信息結(jié)果是虛假的。因此，在生成式人工智能侵權(quán)的成立可能是服務(wù)提供者與用戶綜合作用的結(jié)果，這就需要對(duì)服務(wù)提供者的責(zé)任與用戶的責(zé)任進(jìn)行區(qū)分。實(shí)踐中，有的用戶通過(guò)故意輸入引導(dǎo)性內(nèi)容、設(shè)置“陷阱性”提示，從而出現(xiàn)誘導(dǎo)生成式人工智能輸出侵權(quán)信息或無(wú)意中泄露隱私數(shù)據(jù)的情況。此類情形下發(fā)生的侵權(quán)，由有過(guò)錯(cuò)的用戶承擔(dān)責(zé)任。網(wǎng)絡(luò)服務(wù)提供者收到權(quán)利人通知后未及時(shí)采取必要措施的，就損害擴(kuò)大的部分與網(wǎng)絡(luò)用戶承擔(dān)連帶責(zé)任。

再次，判斷生成式人工智能服務(wù)提供者的過(guò)錯(cuò)，應(yīng)當(dāng)充分考慮現(xiàn)有技術(shù)的發(fā)展水平及其可行性限制。此處所說(shuō)的現(xiàn)有技術(shù)水平是指損害發(fā)生時(shí)的技術(shù)水平，即在損害發(fā)生時(shí)，服務(wù)提供者是否采取了合理的措施避免損害的發(fā)生，如果其沒(méi)有采取合理的技術(shù)措施避免損害的發(fā)生或者擴(kuò)大的，則應(yīng)當(dāng)認(rèn)定其存在過(guò)錯(cuò)。之所以采用損害發(fā)生時(shí)的技術(shù)水平，主要是因?yàn)?，生成式人工智能的技術(shù)水平可能會(huì)不斷發(fā)展和變化，采用損害發(fā)生時(shí)的技術(shù)水平符合生成式人工智能侵權(quán)的特點(diǎn)，也有利于避免過(guò)于加重服務(wù)提供者的責(zé)任。

同時(shí)，判斷生成式人工智能服務(wù)提供者的過(guò)錯(cuò)，應(yīng)當(dāng)將防范成本作為一個(gè)關(guān)鍵的衡量因素納入考量。倘若生成式人工智能服務(wù)提供者防范損害的成本極高，則不能輕易認(rèn)定其存在過(guò)錯(cuò)。例如，假設(shè)某生成式人工智能平臺(tái)使用了數(shù)量龐大的開(kāi)放互聯(lián)網(wǎng)文本和圖像數(shù)據(jù)訓(xùn)練其模型。為了完全避免生成任何可能侵犯版權(quán)的內(nèi)容，有人主張平臺(tái)在訓(xùn)練前應(yīng)全面篩查和刪除所有潛在的受版權(quán)保護(hù)的數(shù)據(jù)，包括但不限于網(wǎng)絡(luò)上的圖片、文學(xué)作品、動(dòng)畫(huà)角色、短視頻片段等。然而，這種篩查需耗費(fèi)巨額成本。例如，是否需要與全球數(shù)以億萬(wàn)計(jì)的版權(quán)作品逐一核查授權(quán)狀態(tài)？如果很多作品并無(wú)明確版權(quán)標(biāo)識(shí)怎么辦？可見(jiàn)這種技術(shù)和經(jīng)濟(jì)上的防范成本極其高昂。

類推適用網(wǎng)絡(luò)侵權(quán)的“通知—?jiǎng)h除”規(guī)則。判斷生成式人工智能服務(wù)提供者的過(guò)錯(cuò)，有必要參照適用民法典規(guī)定的“通知—?jiǎng)h除”規(guī)則。所謂的“通知—?jiǎng)h除”規(guī)則，是指當(dāng)網(wǎng)絡(luò)服務(wù)提供者接到權(quán)利人關(guān)于某一信息涉嫌侵權(quán)的通知后，如果未能及時(shí)采取刪除、屏蔽、斷開(kāi)鏈接等必要措施，從而導(dǎo)致?lián)p害擴(kuò)大或者繼續(xù)發(fā)生，則可能需對(duì)該損害承擔(dān)相應(yīng)的民事責(zé)任。因此，倘若網(wǎng)絡(luò)服務(wù)提供者沒(méi)有及時(shí)采取必要措施的，則應(yīng)當(dāng)就損害擴(kuò)大的部分承擔(dān)連帶責(zé)任。將“通知—?jiǎng)h除”規(guī)則類推適用于生成式人工智能的場(chǎng)景，具有一定的正當(dāng)性和現(xiàn)實(shí)必要性?！巴ㄖ?jiǎng)h除”規(guī)則又稱為“避風(fēng)港規(guī)則”，其核心功能在于保護(hù)網(wǎng)絡(luò)服務(wù)提供者，鼓勵(lì)互聯(lián)網(wǎng)發(fā)展，促進(jìn)創(chuàng)新，法律上不應(yīng)當(dāng)給網(wǎng)絡(luò)服務(wù)提供者施加進(jìn)行審查并予以預(yù)防和制止的一般性義務(wù)，網(wǎng)絡(luò)服務(wù)提供者只有在接到權(quán)利人的通知之后，才有必要采取相關(guān)措施。否則，就會(huì)迫使網(wǎng)絡(luò)服務(wù)提供者花費(fèi)大量的人力、物力和財(cái)力審查網(wǎng)絡(luò)信息內(nèi)容，從而極大地增加經(jīng)營(yíng)成本，這一立法目的對(duì)生成式人工智能技術(shù)同樣適用。尤其應(yīng)當(dāng)看到，與其他網(wǎng)絡(luò)服務(wù)提供者相比，生成式人工智能處理的是海量信息，而其處理信息是否會(huì)造成損害，其輸出的結(jié)果是否侵害他人權(quán)益，服務(wù)提供者往往并不知情；若允許用戶在發(fā)現(xiàn)生成內(nèi)容中可能存在著作權(quán)侵害、人格權(quán)侵權(quán)或敏感個(gè)人信息泄露時(shí)，通過(guò)通知機(jī)制及時(shí)提醒服務(wù)提供者，并由其根據(jù)通知內(nèi)容采取相應(yīng)過(guò)濾或技術(shù)限制措施，不僅有助于提升侵權(quán)防控效率，也符合對(duì)服務(wù)提供者合理責(zé)任邊界的期待。

來(lái) 源 ： 人民法院報(bào)·2版

（聲明：“法治中原”微信公眾號(hào)刊載此文，是出于傳遞更多信息之目的。若有來(lái)源標(biāo)注錯(cuò)誤或侵犯了您的合法權(quán)益，請(qǐng)及時(shí)與我們聯(lián)系，我們將及時(shí)更正或刪除。）