“AI 的一些醫(yī)療決策，實(shí)上就是拋硬幣”哈佛醫(yī)學(xué)院數(shù)據(jù)科學(xué)家 Kun-Hsing Yu 語出驚人。他還補(bǔ)道：即便比賽正確率達(dá) 90% 的獲獎(jiǎng)模型，再用原數(shù)據(jù)子集測(cè)試時(shí)，確度最多 60-70%，可謂慘敗。這讓我很驚訝。上述學(xué)家的觀點(diǎn)來 Nature 最近新發(fā)表的一篇文章。內(nèi)對(duì) AI 在醫(yī)療領(lǐng)域的可重性提出了質(zhì)疑呈現(xiàn)諸多醫(yī)療域及場(chǎng)景中，AI 自帶的黑箱屬性造成的隱。更值得關(guān)注是，盡管問題在，但 AI 仍在醫(yī)療領(lǐng)域規(guī)模推廣使用舉例來看，數(shù)百計(jì)的美國(guó)醫(yī)已在使用一種 AI 模型標(biāo)記敗血癥早期癥，但在 2021 年，該模型被發(fā)現(xiàn)未能識(shí)率高達(dá) 67%。所以，AI 究竟帶來了哪醫(yī)療隱患，如解決？繼續(xù)往看?！?圖源Nature人工智能的“看難”我們先從佛醫(yī)學(xué)院的數(shù)科學(xué)家 Kun-Hsing Yu 發(fā)現(xiàn) AI“拋硬幣”的始末聊起。在療領(lǐng)域，AI 用于診斷檢測(cè)體一直質(zhì)疑聲斷，Kun-Hsing Yu 此番研究也是希望有個(gè)直觀感。他選定了見癌癥之一的癌，每年有 350 萬美國(guó)人因該病癥去世若能更早通過 CT 掃描篩查，很多人可以于死亡。該領(lǐng)的確備受機(jī)器習(xí)界關(guān)注，為，2017 年業(yè)內(nèi)還舉辦了向肺癌篩查的賽。該活動(dòng)歸于 Kaggle 的 Data Science Bowl 賽事，數(shù)據(jù)由主辦方提供，蓋 1397 位患者的胸部 CT 掃描數(shù)據(jù)。參賽團(tuán)隊(duì)需發(fā)并測(cè)試算法最終大賽按準(zhǔn)率給予評(píng)獎(jiǎng)，官宣中，至少個(gè)獲獎(jiǎng)模型準(zhǔn)度 90% 以上。但 Kun-Hsing Yu 又重新測(cè)試了一輪，然震驚地發(fā)現(xiàn)，便使用原比賽據(jù)的子集，這“獲獎(jiǎng)”模型高準(zhǔn)確率卻下到了 60-70%?！?一位參賽者分享的型結(jié)構(gòu)上述狀并非個(gè)例。普斯頓一位博士Sayash Kapoor，在 17 個(gè)領(lǐng)域的 329 項(xiàng)研究中報(bào)告可重復(fù)性失敗陷阱，醫(yī)學(xué)名其中?；谘?，這位博士及己的教授還組了一個(gè)研討會(huì)吸引了 30 個(gè)國(guó)家 600 名科研者參與。一位劍橋的級(jí)研究員在現(xiàn)表示，他用機(jī)學(xué)習(xí)技術(shù)預(yù)測(cè)冠傳播流行趨，但因不同來的數(shù)據(jù)偏差、練方法等問題沒有一次模型測(cè)準(zhǔn)確。還有位研究者也分了 —— 自己用機(jī)器學(xué)習(xí)研心理課題，但法復(fù)現(xiàn)的問題在該研討會(huì)上還有參與者指谷歌此前遇到“坑”。他們在 2008 年就利用機(jī)器習(xí)分析用戶搜所產(chǎn)生數(shù)據(jù)集進(jìn)而預(yù)測(cè)流感發(fā)。谷歌為此鼓吹一波。但實(shí)上，它并未預(yù)測(cè) 2013 年的流感暴發(fā)。一家獨(dú)立研機(jī)構(gòu)指出，該型將一些流感行無關(guān)的季節(jié)詞匯進(jìn)行了關(guān)和鎖定。2015 年，谷歌停止了對(duì)外公開趨勢(shì)預(yù)測(cè)。Kapoor 認(rèn)為，就可重復(fù)性說，AI 模型背后的代碼和據(jù)集都應(yīng)可用不出錯(cuò)誤。那研究新冠流行型的劍橋 ML 研究者補(bǔ)充道，數(shù)據(jù)隱私問、倫理問題、管障礙也是導(dǎo)可重復(fù)性出問的病灶。他們續(xù)補(bǔ)充道，數(shù)集是問題根源一。目前公開用的數(shù)據(jù)集比稀缺，這導(dǎo)致型很容易產(chǎn)生偏見的判斷。如特定數(shù)據(jù)集，醫(yī)生給一個(gè)族開的藥比另個(gè)種族多，這能導(dǎo)致 AI 將病癥與種族聯(lián)，而非病癥身。另一個(gè)問是訓(xùn)練 AI 中的“透題”象。因數(shù)據(jù)集足，用于訓(xùn)練型的數(shù)據(jù)集和試集會(huì)重疊，至該情況一些事人還不知道這也可能導(dǎo)致家對(duì)模型的正率過于樂觀。?Sayash Kapoor 博士盡管問題存在，但 AI 模型仍已被應(yīng)用在實(shí)際診斷景中，甚至直下場(chǎng)看病。2021 年，一個(gè)名為 Epic Sepsis Model 的醫(yī)療診斷模被曝出嚴(yán)重漏問題。該模型于敗血癥篩查通過識(shí)別病人期患病特征檢，避免這種全感染的發(fā)生，密歇根大學(xué)醫(yī)院研究者通過查分析了 27697 人的就診情況，結(jié)果現(xiàn)，該模型未識(shí)別 67% 敗血癥病患。后，該公司對(duì)型進(jìn)行了大調(diào)。一位計(jì)算生學(xué)家對(duì)此指出該問題之所以難解決，也同 AI 模型透明度不足有關(guān)。我們?cè)趯?shí)踐中署了無法理解算法，也并不道它帶什么偏”，他補(bǔ)充道△?曝出 Epic Sepsis Model 問題的文章可以明確的是只要上述問題直未能解決，業(yè)巨頭及相關(guān)業(yè)項(xiàng)目也有些步維艱 ——去年谷歌谷歌健（Google Health）宣布人員拆到各團(tuán)隊(duì)，前天，谷歌孵化生命健康子公 Verily 又被曝裁員約 15%。有沒改進(jìn)措施？對(duì)這樣的現(xiàn)狀，些研究者和業(yè)人士也在著手進(jìn)醫(yī)療 AI。一方面，是構(gòu)靠譜的超大數(shù)集。涵蓋機(jī)構(gòu)國(guó)家和人口等方面的數(shù)據(jù)，向所有人開放這種數(shù)據(jù)庫其已經(jīng)出現(xiàn)了，如英國(guó)和日本國(guó)家生物庫，及重癥病房遠(yuǎn)監(jiān)護(hù)系統(tǒng) eICU 合作的數(shù)據(jù)庫等。就拿 eICU 合作研究數(shù)據(jù)庫來，這里面大約 20 萬次的 ICU 入院相關(guān)數(shù)據(jù)，由利浦醫(yī)療集團(tuán) MIT 的計(jì)算生理學(xué)實(shí)驗(yàn)共同提供。為規(guī)范數(shù)據(jù)庫的容，需要建立集數(shù)據(jù)的標(biāo)準(zhǔn)例如一個(gè)關(guān)于療結(jié)果伙伴關(guān)的可觀測(cè)數(shù)據(jù)型，讓各醫(yī)療構(gòu)能以相同的式收集信息，樣有利于加強(qiáng)療保健領(lǐng)域的器學(xué)習(xí)研究。然，與此同時(shí)也必須重視嚴(yán)保護(hù)患者的隱，而且只有當(dāng)者本人同意時(shí)才有資格把他的數(shù)據(jù)納入庫另一方面，想提升機(jī)器學(xué)習(xí)量的話，消除余數(shù)據(jù)也很有助。因?yàn)樵跈C(jī)學(xué)習(xí)中，冗余據(jù)不僅會(huì)延長(zhǎng)行時(shí)間、消耗多資源；而且很可能造成模過擬合 —— 也就是訓(xùn)練出的模型在訓(xùn)練上表現(xiàn)很好，是在測(cè)試集上現(xiàn)較差。對(duì)于 AI 圈很熱門的預(yù)測(cè)蛋白質(zhì)構(gòu)，這個(gè)問題經(jīng)得到了有效解。在機(jī)器學(xué)過程中，科學(xué)們成功地從測(cè)集中刪除了和練集用到的過相似的蛋白質(zhì)but，各病人醫(yī)療數(shù)據(jù)之間差異，并沒有同蛋白質(zhì)結(jié)構(gòu)異那么明顯。一個(gè)數(shù)據(jù)庫中可能有許許多病情非常相似個(gè)體。所以我需要想清楚到向算法展示什數(shù)據(jù)，才能平好數(shù)據(jù)的代表和豐富性之間關(guān)系。哥本哈大學(xué)的轉(zhuǎn)化性病系統(tǒng)生物學(xué) S?ren Brunak 如是評(píng)價(jià)。除之外，還可以行業(yè)大佬們制一個(gè)檢查表，范醫(yī)療 AI 領(lǐng)域的研究開步驟。然后，究人員就能更便地搞清楚先什么、再做什，有條不紊地作；還能 Check 一些可能遺漏的問題比如一項(xiàng)研究回顧性還是前性的，數(shù)據(jù)與型的預(yù)期用途否匹配等等。實(shí)，現(xiàn)有已有種機(jī)器學(xué)習(xí)檢表，其中大部是基于“EQUATOR Network”先提出的，這是項(xiàng)旨在提高健研究可靠性的際倡議。此前上文提到的普斯頓的 Kapoor 博士，也和團(tuán)隊(duì)共同表了一份包含 21 個(gè)問題的清單。他們建，對(duì)于一個(gè)預(yù)結(jié)果的模型，究人員得確認(rèn)練集中的數(shù)據(jù)早于測(cè)試集，樣可以確保兩數(shù)據(jù)集是獨(dú)立，不會(huì)有數(shù)據(jù)疊和相互影響參考鏈接：[1]https://www.nature.com/articles/d41586-023-00023-2[2]https://www.wired.com/story/machine-learning-reproducibility-crisis/[3]https://mp.weixin.qq.com/s/TEoe3d9DYuO7DGQeEQFghA本文來自微信公號(hào)：量子位 （ID：QbitAI），作者：詹士 Alex