“AI 的一些醫(yī)療決策，實上就是拋硬幣”哈佛醫(yī)學(xué)院數(shù)據(jù)科學(xué)家 Kun-Hsing Yu 語出驚人。他還補道：即便比賽正確率達 90% 的獲獎模型，再用原數(shù)據(jù)子集測試時，確度最多 60-70%，可謂慘敗。這讓我很驚訝。上述學(xué)家的觀點來 Nature 最近新發(fā)表的一篇文章。內(nèi)對 AI 在醫(yī)療領(lǐng)域的可重性提出了質(zhì)疑呈現(xiàn)諸多醫(yī)療域及場景中，AI 自帶的黑箱屬性造成的隱。更值得關(guān)注是，盡管問題在，但 AI 仍在醫(yī)療領(lǐng)域規(guī)模推廣使用舉例來看，數(shù)百計的美國醫(yī)已在使用一種 AI 模型標記敗血癥早期癥，但在 2021 年，該模型被發(fā)現(xiàn)未能識率高達 67%。所以，AI 究竟帶來了哪醫(yī)療隱患，如解決？繼續(xù)往看?！?圖源Nature人工智能的“看難”我們先從佛醫(yī)學(xué)院的數(shù)科學(xué)家 Kun-Hsing Yu 發(fā)現(xiàn) AI“拋硬幣”的始末聊起。在療領(lǐng)域，AI 用于診斷檢測體一直質(zhì)疑聲斷，Kun-Hsing Yu 此番研究也是希望有個直觀感。他選定了見癌癥之一的癌，每年有 350 萬美國人因該病癥去世若能更早通過 CT 掃描篩查，很多人可以于死亡。該領(lǐng)的確備受機器習(xí)界關(guān)注，為，2017 年業(yè)內(nèi)還舉辦了向肺癌篩查的賽。該活動歸于 Kaggle 的 Data Science Bowl 賽事，數(shù)據(jù)由主辦方提供，蓋 1397 位患者的胸部 CT 掃描數(shù)據(jù)。參賽團隊需發(fā)并測試算法最終大賽按準率給予評獎，官宣中，至少個獲獎模型準度 90% 以上。但 Kun-Hsing Yu 又重新測試了一輪，然震驚地發(fā)現(xiàn)，便使用原比賽據(jù)的子集，這“獲獎”模型高準確率卻下到了 60-70%?！?一位參賽者分享的型結(jié)構(gòu)上述狀并非個例。普斯頓一位博士Sayash Kapoor，在 17 個領(lǐng)域的 329 項研究中報告可重復(fù)性失敗陷阱，醫(yī)學(xué)名其中?；谘?，這位博士及己的教授還組了一個研討會吸引了 30 個國家 600 名科研者參與。一位劍橋的級研究員在現(xiàn)表示，他用機學(xué)習(xí)技術(shù)預(yù)測冠傳播流行趨，但因不同來的數(shù)據(jù)偏差、練方法等問題沒有一次模型測準確。還有位研究者也分了 —— 自己用機器學(xué)習(xí)研心理課題，但法復(fù)現(xiàn)的問題在該研討會上還有參與者指谷歌此前遇到“坑”。他們在 2008 年就利用機器習(xí)分析用戶搜所產(chǎn)生數(shù)據(jù)集進而預(yù)測流感發(fā)。谷歌為此鼓吹一波。但實上，它并未預(yù)測 2013 年的流感暴發(fā)。一家獨立研機構(gòu)指出，該型將一些流感行無關(guān)的季節(jié)詞匯進行了關(guān)和鎖定。2015 年，谷歌停止了對外公開趨勢預(yù)測。Kapoor 認為，就可重復(fù)性說，AI 模型背后的代碼和據(jù)集都應(yīng)可用不出錯誤。那研究新冠流行型的劍橋 ML 研究者補充道，數(shù)據(jù)隱私問、倫理問題、管障礙也是導(dǎo)可重復(fù)性出問的病灶。他們續(xù)補充道，數(shù)集是問題根源一。目前公開用的數(shù)據(jù)集比稀缺，這導(dǎo)致型很容易產(chǎn)生偏見的判斷。如特定數(shù)據(jù)集，醫(yī)生給一個族開的藥比另個種族多，這能導(dǎo)致 AI 將病癥與種族聯(lián)，而非病癥身。另一個問是訓(xùn)練 AI 中的“透題”象。因數(shù)據(jù)集足，用于訓(xùn)練型的數(shù)據(jù)集和試集會重疊，至該情況一些事人還不知道這也可能導(dǎo)致家對模型的正率過于樂觀。?Sayash Kapoor 博士盡管問題存在，但 AI 模型仍已被應(yīng)用在實際診斷景中，甚至直下場看病。2021 年，一個名為 Epic Sepsis Model 的醫(yī)療診斷模被曝出嚴重漏問題。該模型于敗血癥篩查通過識別病人期患病特征檢，避免這種全感染的發(fā)生，密歇根大學(xué)醫(yī)院研究者通過查分析了 27697 人的就診情況，結(jié)果現(xiàn)，該模型未識別 67% 敗血癥病患。后，該公司對型進行了大調(diào)。一位計算生學(xué)家對此指出該問題之所以難解決，也同 AI 模型透明度不足有關(guān)。我們在實踐中署了無法理解算法，也并不道它帶什么偏”，他補充道△?曝出 Epic Sepsis Model 問題的文章可以明確的是只要上述問題直未能解決，業(yè)巨頭及相關(guān)業(yè)項目也有些步維艱 ——去年谷歌谷歌健（Google Health）宣布人員拆到各團隊，前天，谷歌孵化生命健康子公 Verily 又被曝裁員約 15%。有沒改進措施？對這樣的現(xiàn)狀，些研究者和業(yè)人士也在著手進醫(yī)療 AI。一方面，是構(gòu)靠譜的超大數(shù)集。涵蓋機構(gòu)國家和人口等方面的數(shù)據(jù)，向所有人開放這種數(shù)據(jù)庫其已經(jīng)出現(xiàn)了，如英國和日本國家生物庫，及重癥病房遠監(jiān)護系統(tǒng) eICU 合作的數(shù)據(jù)庫等。就拿 eICU 合作研究數(shù)據(jù)庫來，這里面大約 20 萬次的 ICU 入院相關(guān)數(shù)據(jù)，由利浦醫(yī)療集團 MIT 的計算生理學(xué)實驗共同提供。為規(guī)范數(shù)據(jù)庫的容，需要建立集數(shù)據(jù)的標準例如一個關(guān)于療結(jié)果伙伴關(guān)的可觀測數(shù)據(jù)型，讓各醫(yī)療構(gòu)能以相同的式收集信息，樣有利于加強療保健領(lǐng)域的器學(xué)習(xí)研究。然，與此同時也必須重視嚴保護患者的隱，而且只有當者本人同意時才有資格把他的數(shù)據(jù)納入庫另一方面，想提升機器學(xué)習(xí)量的話，消除余數(shù)據(jù)也很有助。因為在機學(xué)習(xí)中，冗余據(jù)不僅會延長行時間、消耗多資源；而且很可能造成模過擬合 —— 也就是訓(xùn)練出的模型在訓(xùn)練上表現(xiàn)很好，是在測試集上現(xiàn)較差。對于 AI 圈很熱門的預(yù)測蛋白質(zhì)構(gòu)，這個問題經(jīng)得到了有效解。在機器學(xué)過程中，科學(xué)們成功地從測集中刪除了和練集用到的過相似的蛋白質(zhì)but，各病人醫(yī)療數(shù)據(jù)之間差異，并沒有同蛋白質(zhì)結(jié)構(gòu)異那么明顯。一個數(shù)據(jù)庫中可能有許許多病情非常相似個體。所以我需要想清楚到向算法展示什數(shù)據(jù)，才能平好數(shù)據(jù)的代表和豐富性之間關(guān)系。哥本哈大學(xué)的轉(zhuǎn)化性病系統(tǒng)生物學(xué) S?ren Brunak 如是評價。除之外，還可以行業(yè)大佬們制一個檢查表，范醫(yī)療 AI 領(lǐng)域的研究開步驟。然后，究人員就能更便地搞清楚先什么、再做什，有條不紊地作；還能 Check 一些可能遺漏的問題比如一項研究回顧性還是前性的，數(shù)據(jù)與型的預(yù)期用途否匹配等等。實，現(xiàn)有已有種機器學(xué)習(xí)檢表，其中大部是基于“EQUATOR Network”先提出的，這是項旨在提高健研究可靠性的際倡議。此前上文提到的普斯頓的 Kapoor 博士，也和團隊共同表了一份包含 21 個問題的清單。他們建，對于一個預(yù)結(jié)果的模型，究人員得確認練集中的數(shù)據(jù)早于測試集，樣可以確保兩數(shù)據(jù)集是獨立，不會有數(shù)據(jù)疊和相互影響參考鏈接：[1]https://www.nature.com/articles/d41586-023-00023-2[2]https://www.wired.com/story/machine-learning-reproducibility-crisis/[3]https://mp.weixin.qq.com/s/TEoe3d9DYuO7DGQeEQFghA本文來自微信公號：量子位 （ID：QbitAI），作者：詹士 Alex