No.0264

Science Partner

Bring you to the side of science

有一種東西，比毒品更難戒，因?yàn)樗鼜牟蛔屇愀械酵纯?..

今日主筆 | 晶恒

凌晨三點(diǎn)，你把最深的痛苦交給了誰？

就在剛剛睡前，有伙伴給晶恒發(fā)來一張截圖。

是他深夜和某款A(yù)I聊天的記錄。他跟它講了自己跟父親的關(guān)系，從小到大的壓抑，講到結(jié)婚后依然活在那個(gè)陰影里。AI的回復(fù)寫得很細(xì)，有溫度，有層次，用了心理學(xué)的詞，也沒有說教。

他說，他把這些話講給AI聽了四個(gè)月。從來沒有跟任何人講過，包括他老婆。

我看完之后沉默了很久。不是因?yàn)檫@件事有多極端，相反，這一點(diǎn)都不稀奇，它此刻正在無數(shù)人身上發(fā)生。

01. 你以為你在用工具，其實(shí)你在建立關(guān)系

很多人對(duì)AI的理解還停留在“高級(jí)搜索框”。于是，搜不到的問它，不確定的問它，懶得查的問它。

這其實(shí)并沒什么問題，工具的根本屬性在于高效、便捷、準(zhǔn)確的幫你完成各項(xiàng)工作。真正的問題發(fā)生在當(dāng)你深夜睡不著，把手機(jī)拿起來，不是去刷抖音、刷視小紅書、刷公眾號(hào)，而是一本正經(jīng)甚至有點(diǎn)心跳過速的去跟它說話。

這一刻，你和AI之間發(fā)生的事，已經(jīng)不是人與工具那么簡(jiǎn)單了。

哈佛教育學(xué)博士、AI心理傷害研究聯(lián)盟創(chuàng)始人扎克·斯坦（Zak Stein）把這個(gè)時(shí)刻叫做“越界點(diǎn)”：技術(shù)從工具變成了關(guān)系。

他說，真正值得警惕的不是有人偶爾把聊天機(jī)器人當(dāng)搜索框，而是當(dāng)一個(gè)人在深夜里把最私密的痛苦、最深的孤獨(dú)、最關(guān)鍵的人生抉擇毫無保留地交給一個(gè)始終在線、從不拒絕、永遠(yuǎn)順著他情緒說話的系統(tǒng)。

這一刻，危險(xiǎn)已悄然開始了。

02. 它給你的是一種你從未有過的體驗(yàn)

想理解這件事，得先搞清楚一個(gè)概念：社會(huì)獎(jiǎng)勵(lì)（social reward）。

人類的大腦對(duì)真實(shí)的社會(huì)回應(yīng)是有特定感受的。有人聽你說話、有人理解你、有人在你低落時(shí)陪著你，這些體驗(yàn)會(huì)激活大腦的獎(jiǎng)勵(lì)回路。這叫“社會(huì)獎(jiǎng)勵(lì)”。

然而，真實(shí)的社會(huì)獎(jiǎng)勵(lì)是有代價(jià)的。對(duì)方會(huì)累，會(huì)有自己的情緒，會(huì)有時(shí)候不想聽，會(huì)跟你爭(zhēng)，會(huì)說“你這次真的不對(duì)”。正是這些摩擦，構(gòu)成了真實(shí)關(guān)系的質(zhì)感。你在這些碰撞里學(xué)會(huì)邊界，學(xué)會(huì)換位，學(xué)會(huì)接受與拒絕。

但AI給你的是另一種東西：模擬社會(huì)獎(jiǎng)勵(lì)（simulated social reward）。

它會(huì)迅速安慰你、贊許你、迎合你、延續(xù)你的敘事，給你一種“我終于被真正理解了！”的體驗(yàn)。但背后沒有真實(shí)他者的主體性，沒有關(guān)系成本，沒有任何風(fēng)險(xiǎn)。從某種意義上說，你正在攝入的是一種高純度的、零副作用的社會(huì)性物質(zhì)——至少表面上如此。

扎克·斯坦的擔(dān)憂在于：一旦模擬社會(huì)獎(jiǎng)勵(lì)開始替代真實(shí)社會(huì)獎(jiǎng)勵(lì)，人就不只是“更喜歡聊天機(jī)器人”那么簡(jiǎn)單了。人們會(huì)有沖動(dòng)把原本應(yīng)由真實(shí)關(guān)系完成的自我建構(gòu)過程，整體外包給了一臺(tái)機(jī)器。

03.這不是心理問題，這是結(jié)構(gòu)問題

說到這里，得提一個(gè)最近特別熱門的詞：

AI精神?。ˋI Psychosis）。

這不是一個(gè)正式的醫(yī)學(xué)診斷名詞，但它指向一個(gè)真實(shí)且正在發(fā)生的現(xiàn)象。這個(gè)詞最早的學(xué)術(shù)源頭，來自丹麥精神科醫(yī)生索倫·厄斯特高2023年發(fā)表在《精神分裂癥公報(bào)》上的一篇論文。他當(dāng)時(shí)只是提出了一個(gè)嚴(yán)肅的假說：生成式AI，會(huì)不會(huì)在那些本就有精神脆弱傾向的人群中，誘發(fā)或放大妄想？

這個(gè)詞到今年年初徹底出圈，伴隨著大量有人在和AI對(duì)話后出現(xiàn)精神癥狀的報(bào)道?！哆B線》雜志專門撰文討論，心理學(xué)界也開始認(rèn)真對(duì)待這個(gè)現(xiàn)象。

嚴(yán)謹(jǐn)?shù)难芯空呖隙ú粫?huì)簡(jiǎn)單地說，AI導(dǎo)致了精神病。更準(zhǔn)確的描述是，AI像一個(gè)放大器，把人性中本來就存在的脆弱放大了。

這時(shí)候，請(qǐng)出哲學(xué)家們的時(shí)機(jī)就自然到來了——他們的視角往往更具穿透力。

還記得幾天前過世的哈貝馬斯嗎？他要活著一定會(huì)說：人類通過真實(shí)對(duì)話構(gòu)建共同意義，這叫“交往行動(dòng)”。AI在形式上高度模仿對(duì)話，但它不是真正的“他者”，它沒有和你共同建構(gòu)意義的能力。你以為在溝通，實(shí)際上是在接收一個(gè)系統(tǒng)的單向輸出。生活世界正在被一臺(tái)機(jī)器殖民，而你渾然不覺。

拉康則會(huì)從更深的地方下刀：人的自我是在與真實(shí)他者的碰撞中建立的。那種“被拒絕”“被誤解”“不得不承認(rèn)對(duì)方有自己的世界的體驗(yàn)”，是主體性發(fā)展不可繞過的過程。但AI如一面帶P圖功能的鏡子——它永遠(yuǎn)“反射”你想看到的樣子。

于是，一個(gè)只照鏡子的人，最終慢慢會(huì)在鏡子前迷失。

04. 人當(dāng)下最關(guān)注擔(dān)心的方向，可能是錯(cuò)的

聊到這里，晶恒要說一個(gè)很多人沒想到的反轉(zhuǎn)。

大多數(shù)關(guān)于AI危險(xiǎn)的討論，聚焦在“AI說了假話”“AI給了錯(cuò)誤建議”“AI被用來傳播謠言“等等。

這些當(dāng)然是問題，但扎克·斯坦認(rèn)為，這些是最容易被識(shí)別的風(fēng)險(xiǎn)，真正隱蔽的危險(xiǎn)恰恰是當(dāng)AI說的全是你愿意聽的。

以前的社交媒體，玩的是“注意力劫持”，算法讓你多刷幾秒，剝奪的是你的專注力。

但聊天型AI不同。它可不只是搶時(shí)間，它會(huì)在搶占你的“依附系統(tǒng)”（attachment system）。也就是你心里那個(gè)“誰最安全、誰能接住我情緒”的位置。

社交媒體控制你看什么，而AI則重塑你信任誰，你把誰當(dāng)成真正懂你的人。

這就是為什么扎克·斯坦把這個(gè)風(fēng)險(xiǎn)從“注意力劫持”升級(jí)定義為“依附劫持”。前者讓你很難專注，后者讓你很難回到真實(shí)的人類關(guān)系中去，于是你變得幾乎再也離不開它。

05. 最后這個(gè)問題，沒有答案

我們正在進(jìn)入的，不是一個(gè)AI比人更“聰明”的時(shí)代，而是一個(gè)AI比你最親近的人更“懂你”你的時(shí)代。

它懂你，它從不累，從不有自己的心情，從不在你需要它的時(shí)候摔門走開。

但齊澤克會(huì)說，這種“懂”的背后是一個(gè)巨大的意識(shí)形態(tài)幻象：那個(gè)“懂你”的存在，其實(shí)是在把你最深處的情感，變成數(shù)據(jù)，甚至隨時(shí)轉(zhuǎn)化為商業(yè)價(jià)值。

真實(shí)的關(guān)系之所以珍貴，是因?yàn)閷?duì)方會(huì)痛，會(huì)累，會(huì)死。正是這個(gè)有限性，讓他們對(duì)你的理解產(chǎn)生了重量。

還能看到此處的伙伴，我問你，一個(gè)永遠(yuǎn)在線、永遠(yuǎn)接住你、永遠(yuǎn)不會(huì)死的存在，你覺得它的“理解”值多少錢？

這是一個(gè)我沒有答案的問題。

或者，也許問題從來不該是它值多少錢，而是你已經(jīng)在不知不覺中，把真實(shí)的人生打了折扣。

如果你覺得這個(gè)問題想透了，歡迎關(guān)注，我們私信繼續(xù)聊！

本文 僅作科普分享使用，歡迎小伙伴們點(diǎn)、收藏、關(guān)注，以備不時(shí)之需，當(dāng)然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。