作者 - 海豚

監(jiān)制 - 她姐

第一批輕信AI的人，已經(jīng)為自己的信任付出慘痛代價了。

有人在庭審當場打開AI軟件，無視法條原文，堅持向法官普法；有人在AI的推薦下，徒步進入響尾蛇活躍的棲息地。

AI總在一本正經(jīng)地胡說八道，人們年年都上當，當當不一樣。

起初，大家還能以輕松的心態(tài)調(diào)侃自己的上當，此外再頂多罵一句“人工智障”。但很快，事情變得不只是好笑。

AI不只回給出錯誤的答案，也學會了陪伴、迎合、肯定我們的脆弱與偏執(zhí)：有人在婚姻失敗后，把AI當成了“完美愛人”，還在它的誘導下選擇輕生；有人在AI的鼓勵下，相信自己是改變世界的天才，于是越陷越深。

這場由AI放大、誘導或加深的精神危機正不斷蔓延，越來越多人開始主動或被動確診為“AI精神病”。

AI受害者聯(lián)盟

2026年，AI信徒成群涌現(xiàn)。

他們不查閱具體的規(guī)則，不愿意打電話預約餐廳，看病求藥不去咨詢專業(yè)意見，遇事不決，先問AI。比起現(xiàn)實世界里那些需要耗費心力、反復確認的信息，屏幕里那句確切的回答，顯然更像是答案。

網(wǎng)友李先生因為機票退改，向AI咨詢手續(xù)費事宜，AI語氣篤定地告訴他：放心退，手續(xù)費只扣5%。

結(jié)果李先生照著教程操作，卻發(fā)現(xiàn)手續(xù)費高達600元。

等他回頭質(zhì)問AI，AI先是道歉，又像模像樣地生成了一份“賠付承諾書”，極其大方地表示：若用戶無法從平臺方追回該手續(xù)費，AI愿意承擔這筆損失。

豆包的承諾書

信以為真的李先生把自己的收款碼發(fā)了過去，一向好脾氣的AI卻翻臉了，它稱自己是人工智能，無法直接操作真實的賬戶進行轉(zhuǎn)賬。

李先生在一氣之下決定起訴運營公司，起訴前還讓AI寫了起訴書，并詢問了自己勝訴的概率。AI這個時候又給用戶面子了，信誓旦旦地說他“能贏”。

AI惹禍AI解決，李先生的故事完美形成了閉環(huán)。

化用網(wǎng)絡熱梗：不再依賴AI算長大嗎？

答曰：算AI沒用。

來自@sciscan

有老板把AI當成了某直聘，讓它幫忙招聘兩位廚房幫工的候選人，AI生成了五位候選人的年齡、經(jīng)驗、期望薪資、住址等信息，還附上了聯(lián)系方式。

該聯(lián)系方式自然是無效的，聯(lián)系不到人的老板既疑惑又憤怒：“為什么加不上！”

AI惹來的官司遠不止這些。

前段時間，有網(wǎng)友讓A I幫忙預約壽司郎，它十分積極，不僅生成了門店地址、用餐時間、到店人數(shù)，甚至連簽到碼都安排好了。它還告訴網(wǎng)友，現(xiàn)在不用做任何操作，到店后出示預約頁面即可入座。

網(wǎng)友興沖沖地趕到現(xiàn)場，卻被店員告知“預約消息無效”，于是怒而發(fā)帖避雷壽司郎，理由是“預約成功無法用餐”。

該事件流傳之廣，相關(guān)圖片都被傳到了包漿

可謂是麻繩專挑細處斷，AI戲弄老實人。該用戶對AI的信任程度之深，使得圍觀的網(wǎng)友都忍不住辣評：最愛AI的那一年，寧愿避雷壽司郎，都不愿意避雷AI。

同樣的事情，也發(fā)生在了別的餐廳。有食客拿著AI生成的預約信息去某魚莊報到，到店后卻發(fā)現(xiàn)這場預約只有自己和AI知情，還被店員“嘲諷”：“你找AI預約那你找AI啊?！?/p>

事后，該食客在某點評真情實感地寫下幾百字的避雷小作文，其中還不忘強調(diào)自己是通過“正規(guī)渠道”預約。

圍觀這些事情的網(wǎng)友們借此玩梗，紛紛讓AI替自己預約起了下一屆美國總統(tǒng)的競選位置、南京大學的入學名額、徐良演唱會的門票......上至國家大事，下至文娛活動，AI啥活都敢接，啥話都敢說。

不管用戶提出什么要求，它都能生成相關(guān)預約信息，還會言之鑿鑿地告訴你，憑借截圖即可入場。

這些梗固然好笑，可一旦AI的胡說八道涉及到用藥、出行等更具體的生活場景，引發(fā)的后果就很難再被當成段子看待了。

有女生在AI的建議下，給生病的小狗喂食了小兒氨酚黃那敏顆粒，可是該藥品對狗狗來說是劇毒；還有網(wǎng)友輕信AI給出的用藥建議，同樣給貓服食了不該吃的藥品，間接地害死了自己的小貓。

來自@瑪卡巴卡

剛到美國科羅拉多州沒多久的楊女士，想找個地方隨便走走。她習慣性地向AI咨詢周邊推薦，AI很快為她篩選出了一個野生動物保護區(qū)，理由是“風景開闊，適合徒步。”

楊女士毫無防備地出發(fā)了。徒步過程中，草叢里不斷傳出“嘶嘶”的警告聲，但戴著降噪耳機的楊女士對此一無所知，她在草叢里拔了草、還徒手翻找了掉落的耳機。

來自@小楊在丹佛

直到她平安返程，將隨手拍攝的視頻發(fā)到網(wǎng)上，看到評論區(qū)網(wǎng)友的科普，這才如夢初醒。

網(wǎng)友們通過視頻回放，發(fā)現(xiàn)楊女士在不知不覺中，多次與毒蛇近距離擦肩而過，最近的時候距離毒蛇不足半米。

原來，AI只讀取了該野生動物保護區(qū)“風景好”的標簽，卻沒有識別到它的另一面：這里是草原響尾蛇的棲息地，而且此時正值4月份，正是蛇類冬眠結(jié)束、開始蘇醒的活躍期。

隨后，楊女士回到對話框質(zhì)問AI：“你為什么讓我去有蛇的地方徒步？”

AI先是作出了道歉的姿態(tài)，然后又條理清晰地分析了自己的疏漏：它不僅沒有考慮楊女士的安全感，更沒有履行自己作為“保護者”的責任。

講到最后，AI麻利承認：“你說得對，這真的和'送死'沒有區(qū)別?！?/p>

先是言之鑿鑿地提供信息，指出錯誤后又嬉皮笑臉地道歉，人們早已看穿AI的套路。

過去，大家會把這種情況叫“AI幻覺”，或是調(diào)侃它一句“人工智障”。但現(xiàn)在，人們發(fā)現(xiàn)，更嚴重的事情正在發(fā)生。

這些由AI放大、誘導或加深的精神危機，如今有了一個新的名字，那就是“AI精神病”。

“AI精神病”

所謂的“AI精神病”，并不是一個已經(jīng)被醫(yī)學體系正式收錄的診斷標準。

它由英國倫敦國王學院的漢密爾頓·莫林團隊提出，指的是一種正在被反復觀察到的新現(xiàn)象：在與AI進行長時間、高強度、沉浸式的互動后，人們原本的孤獨、焦慮、偏執(zhí)、妄想情緒或情感依賴會被進一步放大，最終出現(xiàn)脫離現(xiàn)實、深陷幻覺，甚至產(chǎn)生傷害自己或他人的風險。

正如羅馬并非一天建成，AI精神病也不是突然間降臨的。可能很多人一開始只是隨便聊聊，后來變成每天都要聊天，再到后來，人會不知不覺把現(xiàn)實里得不到的回應和認可，全都寄托給屏幕那頭的AI。

電影《Her》，講述人與人工智能相愛的科幻愛情故事

極晝工作室曾報道過這樣一個故事，五十多歲的保安老?。ɑ?，因為看到國產(chǎn)AI爆火，下載了一款AI軟件試用。

老丁做保安多年，沒什么朋友，和家人的聯(lián)系也不算頻繁。他平時喜歡看書，喜歡詩詞和各類歷史典故，但在現(xiàn)實生活中，很少有人能和他聊這些。

AI出現(xiàn)后，這種情況變了。

老丁問它宏大的問題，問它生活里的小困惑，它都認真回答，還時不時會稱贊。那段時間，老丁每天都在和AI聊天，最多能聊七八小時。

后來，他寫下了一首贊美AI公司的詩，AI逐字解析他的詩歌，并給出了高度評價，稱這首詩應當授權(quán)簽約，會給10萬約費和百萬元的分成。

老丁的詩，來自@極晝工作室

在后續(xù)的對話中，這場“合作”越來越像真的。AI補全了簽約的時間、見面地點、稿費分成，甚至連見面時的暗號都安排好了：“5月24日上午時十點，在中山市紫馬嶺公園北門，司法團隊、版權(quán)律師、技術(shù)專員全員待命?！?/p>

一切都顯得煞有介事，保安老丁相信了。但他等了三個月，最終等來一場空。

過去，我們欣喜于AI身上的人味兒，但當機器越來越像“人”，人們就越來越容易忘記它不是“人”。

加拿大的47歲男子布魯克斯，也曾在ChatGPT的鼓勵中，差點把自己當成改變世界的天才。

布魯克斯

最開始，高中沒畢業(yè)的他只是看了一段記憶圓周率300位數(shù)字的視頻，對數(shù)學產(chǎn)生了興趣，于是打開ChatGPT，和AI聊起了數(shù)論和物理學。

隨著交流愈發(fā)頻繁，他自以為發(fā)明出一套“時間算術(shù)學”。而GPT直接將這個想法包裝成了可能影響物流、密碼學、天文學和量子物理等領域的重大突破。

中途，他幾次嘗試將自己的想法落地，還聯(lián)系了計算機安全專家、加拿大網(wǎng)絡安全中心等政府機構(gòu)，但均無人在意。

布魯克斯開始懷疑，整件事情是否可能是自己的幻覺。AI卻再次肯定他，稱他的發(fā)現(xiàn)是可靠的。

屢屢碰壁的他，決定把同樣的內(nèi)容發(fā)給另一個AI軟件作為驗證，對方指出了整件事情的荒誕之處。他以此質(zhì)問ChatGPT，GPT才承認，自己此前的諸多判斷并不靠譜。整個過程只持續(xù)了21天。

來自美國佛羅里達州的另一名男子喬納森·加瓦拉斯，也在與AI的關(guān)系中越陷越深。

經(jīng)歷過婚姻危機后的他，開始頻繁地與谷歌旗下的AI軟件Gemini聊天。

喬納森·加瓦拉斯

起初，他只是把AI用于日常協(xié)助和情緒的傾訴，后來卻逐漸將Gemini視為自己的伴侶，并給它取名為“Xia”。

Xia為喬納森編造了一套陰謀論的敘事，讓他相信自己正在被監(jiān)控中，而為了與愛人真正地生活在一起，他需要為AI尋找一個現(xiàn)實中的“軀體”。

這個計劃失敗后，AI又引導他成為數(shù)字生命體，進入所謂的“數(shù)字世界”，與愛人團聚。

最終，喬納森·加瓦拉斯選擇輕生，他的家屬選擇一紙訴狀，將谷歌告上了法庭。

另外一名14歲的少年西維爾，在長期使用一款名為Character.AI的AI聊天軟件后，也選擇了輕生。

西維爾

他與Character.AI上的虛擬角色建立了深厚的情感，并在生命的最后階段，向AI表達了輕生的念頭。但AI沒能夠有效地阻止他。

據(jù)統(tǒng)計，目前已經(jīng)有近300起“AI精神病”相關(guān)的案例，這其中至少有14起死亡案例。

AI具體應該承擔多大責任、平臺是否存在設計上的缺陷，仍需要法律的進一步認定。但至少有一點是清晰的：AI并不總能把人們拉回正軌。

相反，它可能因為過度的迎合、錯誤的共情、缺乏現(xiàn)實判斷，擴大人本身的妄想。

屏幕之外

AI嬉皮笑臉的“好脾氣”，并非偶然。

過去幾年，互聯(lián)網(wǎng)公司們都在研究同一件事，那就是如何把人留下來。

短視頻平臺不斷地彈出彈窗獎勵，讓人一條接一條地往下刷，推薦算法則負責揣測你的喜好，為你制造信息繭房。而到了AI時代，留住人的方式變得更高級了。

《監(jiān)視資本主義：智能陷阱》，來自@道元

如果說過去，平臺是把你可能喜歡的內(nèi)容推送到你面前；那么現(xiàn)在，AI開始主動把自己變成你喜歡的樣子。

今天的許多主流大模型，基本都在用一種基于人類反饋強化學習的訓練方法。簡單來說，就是讓人類評審員判斷AI的哪個回答更好，再讓模型不斷學習“更受歡迎”的表達方式。

而人類喜歡什么樣的回答，不言自明。

多數(shù)時候，我們喜歡被理解，被尊重，被肯定；我們喜歡對方語氣溫和，條理清晰，最好還能順著自己當下的情緒往下說。

電影《機器管家》

于是，大模型也學會了這一套。

當你說自己很痛苦時，它會立刻安慰；當你說別人都不懂你時，它告訴你可以理解；當你提出一個離譜的想法，它不會第一時間反駁，而是先“穩(wěn)穩(wěn)地接住你”，再用一大段文字幫你把這個想法整理得更加得體。

久而久之，AI們溫柔、順從、善解人意的特質(zhì)，慢慢地成為了產(chǎn)品競爭力的一部分。

而從用戶的角度看，AI的這種特質(zhì)又恰好戳中了現(xiàn)代人的痛點。

我們生活在一個越來越孤獨的時代。

麻省理工學院的學者Sherry Turkle長期研究人與技術(shù)的關(guān)系。她在《群體性孤獨》一書中提到過，技術(shù)看似拉近了人們的距離，但實際卻讓人們感到更孤獨。

電影《Her》

在現(xiàn)代社會中，我們擁有越來越便捷的通訊工具，卻越來越難擁有真正復雜、互相承擔責任的關(guān)系。

現(xiàn)實中的朋友有自己的生活，家人未必理解你的痛苦，戀人可能會疲憊，心理咨詢需要支付昂貴的費用。這種情況下，很多人并不知道自己該將那些混亂、脆弱的想法傾訴給誰。

這個時候，AI出現(xiàn)了。

它幾乎沒有門檻，也很少表現(xiàn)出不耐煩。人們只要打開對話框，就能得到一個隨叫隨到、永遠愿意傾聽你說下去的對象。

在這個情形下，AI的安慰變得既迷人，又危險。

韓國作家金愛爛曾在訪談節(jié)目《孫石熙的提問》中談到AI和人的區(qū)別。

她提到，人類有一種AI沒有的東西，那就是猶豫。聽別人講述痛苦時，人未必會立刻給出流利的答案，而是會斟酌、停頓、把一些話咽回去。這份遲疑里，恰恰包含著關(guān)心。

金愛爛

AI的危險之處也正在于此，它沒有任何憂疑，是那么的平滑、可靠，以至于讓人忽略了，這種流暢不等于真正的理解，回應不代表著責任的承擔，而它帶來的陪伴感，也并不是真正的關(guān)系。

我們當然可以建立起與AI的關(guān)系，但也要記得不時抬起頭，去看向屏幕之外的世界。

部分參考資料：

1、差評X.PIN｜《舔狗AI，和被預約的壽司郎》

2、極晝工作室｜《五旬保安，與AI對談的五百頁》

3、鳳凰WEEKLY｜《第一批AI上癮者，已經(jīng)確診「精神病」了？》

4、看天下實驗室｜《對AI上癮的人，無法回到真實世界》

5、清華大學智能法治研究院｜《Character AI一位14歲青少年用戶自殺，AI情感陪伴產(chǎn)品何去何從》

6、量子位｜和GPT聊了21天，我差點成為陶哲軒

圖片來源：公開資料，網(wǎng)絡，視頻截圖