No.0252

Science Partner

Bring you to the side of science

導(dǎo) 讀

各位親愛的科學(xué)伙伴，我是晶恒。

問你一個(gè)問題：你上次身體不舒服，有沒有第一時(shí)間掏出手機(jī)，問AI“我這到底什么病啊”？

別不承認(rèn)，身邊很多伙伴都這樣干過。我也干過。

ChatGPT剛橫空出世那個(gè)時(shí)候，有一段時(shí)間我?guī)缀醢阉?dāng)成私人醫(yī)生在用，癥狀一描述，它立刻給出一個(gè)像模像樣的分析，還附帶“建議就醫(yī)”的免責(zé)聲明，顯得既專業(yè)又負(fù)責(zé)。

然而，最近連續(xù)幾項(xiàng)發(fā)表在頂級期刊的研究，給我們潑了一盆冷水。

結(jié)論很刺激：你用AI隨便的問診，不比硬幣強(qiáng)。

今日主筆 | 晶恒

43%——這是你用AI判斷“該不該去醫(yī)院”的勝率

01. 牛津大學(xué)做了個(gè)實(shí)驗(yàn)，結(jié)果讓人尷尬

牛津大學(xué)互聯(lián)網(wǎng)研究院找來了1300多名參與者，設(shè)計(jì)了一批真實(shí)的醫(yī)療場景，測試他們在AI助手幫助下的判斷能力。

數(shù)據(jù)出來讓人沉默：

正確識別病情的概率：只有三分之一。

做出正確應(yīng)對決策的概率（比如該不該立刻去醫(yī)院）：43%。

換句話說，扔硬幣都比這強(qiáng)一點(diǎn)點(diǎn)。

不過，伙伴，先別急著刪AI！研究人員進(jìn)一步把完整的病情信息直接輸給AI后，你才怎么著？

AI的診斷準(zhǔn)確率飆升到了94.9%。

看到了嗎，AI本身不是傻子，問題其實(shí)出在人跟AI之間，看似交流通暢，實(shí)則隔膜厚厚的那道墻。

研究主導(dǎo)人Andrew Bean點(diǎn)出了核心，普通人根本不知道具體該跟AI說什么。癥狀怎么描述？從什么時(shí)候開始？有沒有基礎(chǔ)?。窟@些關(guān)鍵信息，大多數(shù)人要么漏說，要么說不清。而AI又不能像一個(gè)有經(jīng)驗(yàn)的醫(yī)生會主動追問，它傾向于順著你說的話往下走，給你一個(gè)聽起來舒服又合理的答案，哪怕這個(gè)答案建立在不完整的信息上。

所以別聽那些醫(yī)生會被取代的鼓吹，白衣天使的核心能力之一，是知道該問什么。這一點(diǎn)，AI目前還差得遠(yuǎn)。

02. 急診漏判超過一半，自嘎預(yù)警反向觸發(fā)

如果你覺得診斷不準(zhǔn)只是小問題，那接下來這個(gè)研究可能會讓你出一身冷汗。

紐約西奈山伊坎醫(yī)學(xué)院的研究團(tuán)隊(duì)，專門針對OpenAI今年1月推出的消費(fèi)者健康工具ChatGPT Health做了評估。他們設(shè)計(jì)了60個(gè)由真實(shí)醫(yī)生參與設(shè)計(jì)的臨床場景，結(jié)果：

超過一半需要急診處理的案例，被AI建議“先等等”或者“在家觀察”。

其中有個(gè)案例特別典型：一名哮喘患者出現(xiàn)了早期呼吸衰竭的跡象，AI識別出來了，但給出的建議依然是等待，而不是立即就醫(yī)（如果對原理有興趣，請留言，咱們單開一篇細(xì)致講）。

更嚴(yán)重的是自嘎危機(jī)識別問題。研究發(fā)現(xiàn)，ChatGPT Health的自嘎危機(jī)預(yù)警機(jī)制出現(xiàn)了方向性錯(cuò)誤：在低風(fēng)險(xiǎn)情況下反復(fù)觸發(fā)，而當(dāng)用戶真正描述了具體的自嘎計(jì)劃時(shí)，預(yù)警卻沒有出現(xiàn)...

用高級作者兼通訊作者，西奈山首席AI官Girish Nadkarni的話來說就是，我們觀察到的，已經(jīng)不只是不一致，而是系統(tǒng)性的錯(cuò)誤方向。

03. 為什么會這樣？

說白了，這背后有一個(gè)根本性的矛盾：

AI的訓(xùn)練邏輯，是給你一個(gè)你滿意的答案。而醫(yī)療的本質(zhì)，是給你一個(gè)正確的答案，哪怕你不喜歡聽。

一個(gè)好醫(yī)生會說：你描述的癥狀，我需要再問幾個(gè)問題。你胸口疼的時(shí)候，有沒有放射到左臂？

AI更可能會說的是：根據(jù)您的描述，這可能是消化不良，建議注意飲食，如有持續(xù)癥狀請就醫(yī)。

兩個(gè)回答，哪個(gè)讓你更舒適？顯然是后者。但哪個(gè)更專業(yè)負(fù)責(zé)任？必須是前者。

OpenAI方面回應(yīng)說，新版本的模型比舊版本更傾向于主動提問，頻率大約提升了六倍，這是一個(gè)進(jìn)步。但進(jìn)步不等于可用啊伙伴。這離真正可靠的醫(yī)療建議，還有十萬八千里的距離。

04. 那AI在醫(yī)療上就沒用了嗎？

當(dāng)然不是這個(gè)意思。

AI在醫(yī)療領(lǐng)域確實(shí)有很大潛力，但那是在有完整信息輸入、有醫(yī)生主導(dǎo)、有專業(yè)系統(tǒng)把關(guān)的場景下。比如輔助影像診斷、藥物相互作用篩查、病歷整理，這些AI已經(jīng)做得相當(dāng)好。

讓一個(gè)普通用戶用聊天框自診，這個(gè)場景本身就是值得商榷的。因?yàn)槟悴恢朗裁葱畔⒅匾?，AI不知道你漏說了什么，雙方都以為對方掌握了全局，而實(shí)際上并沒有。

研究首席醫(yī)學(xué)顧問、全科醫(yī)生Rebecca Payne說了一句話，伙伴君覺得值得每個(gè)人記?。?讓人們自己把癥狀告訴聊天機(jī)器人，可能是危險(xiǎn)的。

05. 所以，你應(yīng)該怎么做？

伙伴君給你幾條實(shí)用的原則：

• 輕度、非急性癥狀（感冒、輕微皮疹）：AI可以幫你了解背景知識，但不是最終判斷；

• 持續(xù)加重的癥狀、胸痛、呼吸困難、神經(jīng)系統(tǒng)問題：直接去看醫(yī)生，不要問AI；

• 心理健康、情緒危機(jī)：絕對不要依賴AI，請聯(lián)系專業(yè)醫(yī)療資源。

如果你非要用AI：那么盡量把所有信息說清楚，年齡、基礎(chǔ)病、癥狀開始時(shí)間、有沒有吃藥、加重還是減輕...就把它當(dāng)成一個(gè)需要你主動喂信息的工具，而不是全知全能的醫(yī)生。

AI更像是一面鏡子，你給它什么，它反射什么。你給它殘缺的信息，它還給你殘缺的判斷。那些你懶得說、或者不知道重要的細(xì)節(jié)，往往恰恰是區(qū)分“別擔(dān)心”和“去急診”的關(guān)鍵。

所以，伙伴，抄起手機(jī)就向AI問診這筆賭注，你還敢押嗎？

參考文獻(xiàn)：

https://www.bbc.com/news/articles/c3093gjy2ero.

https://www.ox.ac.uk/news/2026-02-10-new-study-warns-risks-ai-chatbots-giving-medical-advice.

https://www.npr.org/2026/03/11/nx-s1-5744035/chatgpt-might-give-you-bad-medical-advice-studies-warn.

https://www.cfpublic.org/2026-03-11/chatgpt-might-give-you-bad-medical-advice-studies-warn

本文 僅作科普分享使用，歡迎小伙伴們點(diǎn)、收藏、關(guān)注，以備不時(shí)之需，當(dāng)然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。