在遭遇外界批評(píng)后，人工智能公司安思羅比克表示，今后如果因國(guó)家安全考量而拒絕用戶請(qǐng)求或?qū)⑵浣导?jí)，系統(tǒng)將明確告知用戶。在悄然下調(diào)部分請(qǐng)求所調(diào)用模型能力、引發(fā)爭(zhēng)議后，安思羅比克正在調(diào)整做法。

這家估值9650億美元的公司于周二發(fā)布了其能力最強(qiáng)模型“神話”系列中的一個(gè)版本。安思羅比克今年4月公布“神話”時(shí)曾表示，之所以暫未向公眾開(kāi)放該級(jí)別模型，部分原因是公司認(rèn)為它極其擅長(zhǎng)繞過(guò)網(wǎng)絡(luò)安全防御，危險(xiǎn)性過(guò)高，不宜發(fā)布。

不過(guò)，本周該公司還是決定推出“神話”級(jí)模型“寓言5”。安思羅比克稱，這一模型的能力“超過(guò)我們此前所有已普遍開(kāi)放的模型”。安思羅比克產(chǎn)品管理、研究與實(shí)驗(yàn)室負(fù)責(zé)人黛安娜·彭此前對(duì)《財(cái)富》表示，公司之所以愿意發(fā)布“寓言5”，是因?yàn)椤皩?duì)現(xiàn)有安全護(hù)欄更有信心”。

到了周三，安思羅比克的批評(píng)者至少得到了他們所要求的一部分結(jié)果：可見(jiàn)性。安思羅比克一名發(fā)言人在向《財(cái)富》提供的聲明中說(shuō)：“我們正在調(diào)整‘寓言5’針對(duì)前沿大語(yǔ)言模型開(kāi)發(fā)的安全護(hù)欄，讓它們變得可見(jiàn)。從本周開(kāi)始，被標(biāo)記的請(qǐng)求將明確回退到Opus 4.8。在API中，任何被標(biāo)記的請(qǐng)求都會(huì)返回被拒絕的原因。每次發(fā)生這種情況，用戶都能看到?！?/strong>

該公司仍將繼續(xù)下調(diào)部分請(qǐng)求所調(diào)用的模型能力，部分原因是其服務(wù)條款禁止用戶利用其模型創(chuàng)建競(jìng)爭(zhēng)性人工智能系統(tǒng)。安思羅比克表示，這類限制在整個(gè)行業(yè)都很常見(jiàn)。

不過(guò)，該公司也表示，其大語(yǔ)言模型對(duì)某些請(qǐng)求進(jìn)行降級(jí)或拒絕，部分原因還涉及國(guó)家安全。公司稱，它不希望外國(guó)對(duì)手提升人工智能能力，從而損害美國(guó)利益。這名發(fā)言人說(shuō)：“美國(guó)及其盟友在前沿芯片以及讓這些芯片發(fā)揮全部潛力的高度優(yōu)化軟件方面占有優(yōu)勢(shì)。這些安全護(hù)欄是為了確保Claude不會(huì)被用來(lái)削弱這種優(yōu)勢(shì)，例如被用于優(yōu)化那些對(duì)手開(kāi)發(fā)的芯片?！?/p>

公司還強(qiáng)調(diào)，這些限制“不會(huì)影響絕大多數(shù)編程和機(jī)器學(xué)習(xí)工作”。安思羅比克圍繞“寓言5”的調(diào)整，也顯示出人工智能安全措施正迅速成為國(guó)家安全討論的一部分。今年早些時(shí)候，安思羅比克曾因拒絕向戰(zhàn)爭(zhēng)部提供Claude模型的完全訪問(wèn)權(quán)限，與其發(fā)生對(duì)峙。

最終，戰(zhàn)爭(zhēng)部將安思羅比克列為對(duì)國(guó)家安全構(gòu)成“供應(yīng)鏈風(fēng)險(xiǎn)”的企業(yè)，限制國(guó)防承包商和軍方機(jī)構(gòu)使用其產(chǎn)品。本月早些時(shí)候，戰(zhàn)爭(zhēng)部長(zhǎng)皮特·赫格塞思駁回了安思羅比克要求更改這一認(rèn)定的請(qǐng)?jiān)福瑸橐粓?chǎng)尚未解決的聯(lián)邦法院訴訟埋下伏筆。

安思羅比克在“寓言5”上的做法調(diào)整，也發(fā)生在該公司本月早些時(shí)候秘密提交首次公開(kāi)募股申請(qǐng)之后。長(zhǎng)期以來(lái)，這家公司在公開(kāi)形象上一直強(qiáng)調(diào)自己是一家將安全置于首位的人工智能實(shí)驗(yàn)室，但它最初選擇隱瞞安全護(hù)欄何時(shí)生效，顯然觸動(dòng)了人工智能研究界的敏感神經(jīng)。公司在聲明中承認(rèn)，自己在這個(gè)問(wèn)題上的處理失當(dāng)。

安思羅比克發(fā)言人說(shuō)：“我們作出了錯(cuò)誤的權(quán)衡，對(duì)未能把握好平衡表示歉意?！?/p>