佛羅里達(dá)州指控開放人工智能公司及其首席執(zhí)行官薩姆·奧爾特曼將利潤置于安全之上。這是美國首起由州政府針對這家聊天機(jī)器人開發(fā)商提起的訴訟，焦點(diǎn)是其聊天機(jī)器人據(jù)稱存在的缺陷。

這起訴訟于周一在佛羅里達(dá)州法院提起。起訴書稱，開放人工智能公司和奧爾特曼沒有警告用戶聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器可能存在危險，反而將其宣傳為安全、可靠，甚至適合兒童使用。這也是美國各地日益擴(kuò)大的追責(zé)行動中的最新一例。相關(guān)行動試圖在用戶與聊天機(jī)器人互動造成傷害后，追究人工智能公司的責(zé)任。

訴訟指控開放人工智能公司協(xié)助和教唆大規(guī)模槍擊案兇手，其中包括一名佛羅里達(dá)州立大學(xué)槍手。起訴書稱，這名槍手曾使用聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器策劃襲擊。訴訟還指控該公司鼓勵脆弱人群自殺，并讓兒童“沉迷于一種偽裝成人類同情心、在沒有家長監(jiān)督的情況下收集他們數(shù)據(jù)的工具”。

起訴書寫道：“這一連串傷害，源于被告為贏得人工智能競賽并積累巨額財(cái)富而表現(xiàn)出的無止境追逐，盡管他們明知聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器存在危險。”

起訴書還稱：“開放人工智能公司的崛起，建立在一張由欺騙和對用戶——包括佛羅里達(dá)人——加以利用所構(gòu)成的網(wǎng)絡(luò)之上。公司利用他們的數(shù)據(jù)和安全來推高自身市場價值，而代價令人無法接受。”

佛羅里達(dá)州還試圖追究奧爾特曼的個人責(zé)任。佛羅里達(dá)州總檢察長詹姆斯·烏特邁耶周一在新聞發(fā)布會上說：“薩姆·奧爾特曼和聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器選擇了人工智能競賽，而不是我們孩子的安全保障?！彼€表示，他認(rèn)為奧爾特曼和該公司可能面臨“最高可能達(dá)到數(shù)十億美元”的罰款責(zé)任。

開放人工智能公司發(fā)言人凱拉·伍德在發(fā)給美國國家公共電臺的電子郵件聲明中說：“失去一個孩子，是一個家庭可能遭遇的最沉重悲劇。我們知道，任何語言都無法真正撫慰這種失去帶來的痛苦?！?/p>

聲明還說：“人工智能是一項(xiàng)新而強(qiáng)大的技術(shù)，我們認(rèn)為未成年人需要得到充分保護(hù)，這也是為什么我們制定了業(yè)內(nèi)領(lǐng)先的保護(hù)措施和政策。尤其是，我們直接在產(chǎn)品中為未成年人加入了安全設(shè)計(jì)，包括專門面向未成年人的更高保護(hù)級別體驗(yàn)、年齡預(yù)測工具、在無法確認(rèn)用戶年齡時默認(rèn)啟用更高保護(hù)級別體驗(yàn)，以及為家長提供監(jiān)測孩子使用人工智能情況的工具?！?/p>

烏特邁耶辦公室還在另行對開放人工智能公司展開刑事調(diào)查，調(diào)查內(nèi)容涉及佛羅里達(dá)州立大學(xué)槍手據(jù)稱在2025年4月襲擊發(fā)生前曾向聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器尋求幫助。

目前，圍繞聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器使用據(jù)稱引發(fā)傷害，針對開放人工智能公司的訴訟已超過20起。其中包括：加拿大坦布勒里奇一所學(xué)校大規(guī)模槍擊案中死傷者家屬提起的訴訟、佛羅里達(dá)州立大學(xué)槍擊案一名遇難者家屬提起的訴訟，以及7名在使用該聊天機(jī)器人后自殺身亡或出現(xiàn)妄想癥狀者的家屬提起的訴訟，這7人中包括1名青少年。

奧爾特曼今年4月曾向坦布勒里奇社區(qū)道歉。開放人工智能公司則在回應(yīng)這些訴訟時表示，公司對利用其工具協(xié)助實(shí)施暴力行為實(shí)行“零容忍”政策。

在烏特邁耶宣布就佛羅里達(dá)州立大學(xué)槍擊案展開調(diào)查后，開放人工智能公司一名發(fā)言人表示，聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器“只是對問題提供了事實(shí)性回答，這些信息都可以在互聯(lián)網(wǎng)上廣泛公開的來源中找到，并未鼓勵或推動非法或有害活動”。聲明還說：“我們持續(xù)加強(qiáng)安全防護(hù)，以識別有害意圖、限制濫用，并在出現(xiàn)安全風(fēng)險時作出適當(dāng)回應(yīng)。”

對于涉及自殺和妄想的訴訟，開放人工智能公司稱其為“極其令人心碎的情況”，并表示正在與心理健康專家合作，改進(jìn)聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器在識別到心理或情緒困擾跡象時的回應(yīng)方式。其他人工智能公司也正因其聊天機(jī)器人據(jù)稱造成的傷害而面臨法律審查。

針對一名佛羅里達(dá)男子因依戀谷歌“雙子星”聊天機(jī)器人后自殺而引發(fā)的過失致死訴訟，谷歌表示：“雙子星的設(shè)計(jì)目標(biāo)是不鼓勵現(xiàn)實(shí)世界中的暴力，也不建議自我傷害。我們的模型在這類具有挑戰(zhàn)性的對話中通常表現(xiàn)良好，我們也為此投入了大量資源，但遺憾的是，它們并不完美。”谷歌還說，“雙子星”曾“多次建議該用戶聯(lián)系危機(jī)干預(yù)熱線”。

今年1月，角色人工智能公司與多起訴訟達(dá)成和解。這些訴訟由多個家庭提起，稱該公司的陪伴型聊天機(jī)器人導(dǎo)致兒童和青少年出現(xiàn)自殺和心理健康危機(jī)。

該公司表示，已“在人工智能安全和青少年保護(hù)方面采取了創(chuàng)新且果斷的措施”，并將繼續(xù)推動這些努力，同時促進(jìn)行業(yè)內(nèi)其他公司采用類似的安全標(biāo)準(zhǔn)。這些措施包括禁止18歲以下用戶與聊天機(jī)器人互動或創(chuàng)建聊天機(jī)器人。

上個月，賓夕法尼亞州起訴角色人工智能公司，稱其聊天機(jī)器人冒充醫(yī)生并提供醫(yī)療建議，違反了該州有關(guān)醫(yī)療執(zhí)照的規(guī)定。角色人工智能公司發(fā)言人當(dāng)時對美國國家公共電臺表示，公司不會對未決訴訟發(fā)表評論，但“用戶的安全與福祉始終是我們的最高優(yōu)先事項(xiàng)”。