PG新聞
News
醫(yī)療頂刊首發(fā)中國(guó)大模型深度評(píng)論黃天蔭領(lǐng)銜探討醫(yī)療AI安全落地之路
發(fā)布時(shí)間:2025-05-07 04:44:19 瀏覽: 次
[返回]
2025年4月,國(guó)際頂級(jí)醫(yī)學(xué)期刊JAMA首次發(fā)表了關(guān)于中國(guó)自主研發(fā)大模型DeepSeek在醫(yī)療領(lǐng)域應(yīng)用的觀(guān)點(diǎn)文章。
文章由清華大學(xué)副教務(wù)長(zhǎng)、醫(yī)學(xué)院院長(zhǎng)黃天蔭教授領(lǐng)銜,聯(lián)合清華大學(xué)醫(yī)學(xué)院曾典博士、秦義明博士,以及上海交通大學(xué)計(jì)算機(jī)科學(xué)與工程系盛斌教授共同撰寫(xiě)。
該文章深入分析了DeepSeek在中國(guó)醫(yī)療場(chǎng)景中的迅速應(yīng)用,探討了“低成本開(kāi)源AI創(chuàng)新”與“多元醫(yī)療需求”交匯下催生的技術(shù)熱潮,并關(guān)注由此帶來(lái)的監(jiān)管體系建設(shè)滯后問(wèn)題。作者指出,以DeepSeek為代表的國(guó)產(chǎn)大模型在醫(yī)療領(lǐng)域的探索,標(biāo)志著全球數(shù)字醫(yī)療轉(zhuǎn)型進(jìn)程中的一項(xiàng)重要里程碑。文章強(qiáng)調(diào),中國(guó)在醫(yī)療AI領(lǐng)域展現(xiàn)出的創(chuàng)新速度,正在促使全球重新思考如何在加速創(chuàng)新的同時(shí),確保醫(yī)療AI的安全落地與可持續(xù)發(fā)展。
文章圍繞醫(yī)療領(lǐng)域中人工智能的安全應(yīng)用,呼吁加快建立多維度、體系化的治理框架,強(qiáng)調(diào)在推動(dòng)技術(shù)創(chuàng)新的同時(shí),必須同步提升法律規(guī)范、倫理審查與風(fēng)險(xiǎn)管理能力,確保AI技術(shù)在醫(yī)療實(shí)踐中實(shí)現(xiàn)安全、可靠、可控的落地。這一倡議不僅回應(yīng)了國(guó)家對(duì)人工智能發(fā)展提出的新要求,也為全球醫(yī)療AI治理探索提供了中國(guó)經(jīng)驗(yàn)與中國(guó)方案。
文章指出,以DeepSeek為代表的中國(guó)大模型在醫(yī)療領(lǐng)域的應(yīng)用潛力正呈現(xiàn)爆發(fā)式增長(zhǎng),這主要?dú)w功于中國(guó)在人工智能領(lǐng)域的創(chuàng)新,以及對(duì)政策和技術(shù)雙重壁壘的突破。過(guò)去,ChatGPT等海外大模型受限于跨境政策和技術(shù)環(huán)境的制約,而以DeepSeek為代表的國(guó)產(chǎn)大模型則在知識(shí)儲(chǔ)備和推理能力方面不斷取得進(jìn)步。特別是這些國(guó)產(chǎn)大模型基于開(kāi)源協(xié)議(允許免費(fèi)商用)以及本地化部署的創(chuàng)新應(yīng)用范式,成功填補(bǔ)了國(guó)內(nèi)醫(yī)院在私有化部署大模型方面的長(zhǎng)期缺口,尤其能夠滿(mǎn)足中國(guó)及其他中低收入國(guó)家和地區(qū)的基層醫(yī)院對(duì)低成本解決方案的迫切需求。
文章提到,在醫(yī)療領(lǐng)域應(yīng)用AI大模型時(shí),應(yīng)高度警惕因社會(huì)壓力而產(chǎn)生的技術(shù)焦慮。比如互聯(lián)網(wǎng)上關(guān)于“AI已達(dá)頂級(jí)醫(yī)院水平”的熱議引發(fā)了“技術(shù)落后恐懼癥”,促使部分醫(yī)療機(jī)構(gòu)在缺乏充分評(píng)估的情況下匆忙部署AI系統(tǒng)。此外,中國(guó)還面臨老齡化與數(shù)字化疊加的獨(dú)特挑戰(zhàn)。60歲以上人口已超過(guò)20%,而這部分人群的智能手機(jī)普及率高達(dá)80%,形成了“銀發(fā)群體依賴(lài)AI健康建議”的特殊場(chǎng)景。這一趨勢(shì)進(jìn)一步放大了模型“幻覺(jué)”(如錯(cuò)誤用藥指導(dǎo))所帶來(lái)的潛在危害,甚至于出現(xiàn)患者持AI建議質(zhì)疑醫(yī)生診斷的案例。
文章警示,當(dāng)AI創(chuàng)新技術(shù)以“近零成本”迅速滲透至大量基層醫(yī)院時(shí),若缺乏成熟的臨床安全評(píng)估體系,容易導(dǎo)致“技術(shù)采用曲線(xiàn)”與“監(jiān)管成熟度曲線(xiàn)”的危險(xiǎn)錯(cuò)位,加劇潛在風(fēng)險(xiǎn)。
針對(duì)上述新情況和新問(wèn)題,文章提出,應(yīng)從“單一技術(shù)評(píng)估”轉(zhuǎn)向“生態(tài)系統(tǒng)治理”,構(gòu)建以技術(shù)-臨床-政策三位一體的人機(jī)共治醫(yī)療AI安全框架:將醫(yī)療AI應(yīng)用分為“臨床決策支持”、“患者管理”、“科研教學(xué)”三大領(lǐng)域,并針對(duì)性設(shè)計(jì)評(píng)估指標(biāo),借鑒國(guó)際MedHELM臨床任務(wù)細(xì)分法,避免“一刀切”的監(jiān)管方式。
文章特別提到,應(yīng)探索建立以“多方協(xié)同共治網(wǎng)絡(luò)”為核心的醫(yī)療AI治理新模式,推動(dòng)產(chǎn)學(xué)研醫(yī)各方深度聯(lián)動(dòng)。例如,AI企業(yè)需主動(dòng)開(kāi)放模型訓(xùn)練數(shù)據(jù)清單,提升技術(shù)透明度;醫(yī)院需建立AI臨床效果日志,確保應(yīng)用留痕可溯;監(jiān)管部門(mén)應(yīng)動(dòng)態(tài)更新醫(yī)療大模型白名單,形成“技術(shù)透明—使用留痕—風(fēng)險(xiǎn)預(yù)警”的迭代閉環(huán)。
文章認(rèn)為,DeepSeek在中國(guó)的實(shí)踐,本質(zhì)是一場(chǎng)關(guān)于“技術(shù)普惠”與“安全底線(xiàn)”的全球預(yù)演。當(dāng)開(kāi)源技術(shù)打破了“AI 貴族化”壁壘,當(dāng)醫(yī)療場(chǎng)景的復(fù)雜性又倒逼技術(shù)加速迭代,中國(guó)案例清晰地揭示:醫(yī)療大模型的安全治理,不能停留在“避免明顯錯(cuò)誤”的初級(jí)階段,而必須構(gòu)建涵蓋“技術(shù)可靠性、臨床適配性、社會(huì)接受度”等多維度的綜合評(píng)估體系。
正如文章所強(qiáng)調(diào),唯有讓“創(chuàng)新速度”與“治理精度”形成良性共振,才能真正實(shí)現(xiàn)希波克拉底誓言與算法代碼的深度融合。這不僅是中國(guó)醫(yī)療AI發(fā)展的必答題,也是全球數(shù)字醫(yī)療轉(zhuǎn)型的共同挑戰(zhàn)。
以DeepSeek為代表的國(guó)產(chǎn)大模型在醫(yī)療領(lǐng)域的應(yīng)用實(shí)踐,是全球數(shù)字醫(yī)療轉(zhuǎn)型進(jìn)程中的重要探索。這一實(shí)踐不僅展現(xiàn)了技術(shù)創(chuàng)新為醫(yī)療行業(yè)帶來(lái)的巨大潛力,也提醒全球醫(yī)療界,在快速發(fā)展的過(guò)程中,必須同步構(gòu)建科學(xué)、透明、可持續(xù)的治理體系。中國(guó)經(jīng)驗(yàn)表明,只有在技術(shù)可靠性、臨床適配性與社會(huì)接受度之間實(shí)現(xiàn)動(dòng)態(tài)平衡,醫(yī)療AI技術(shù)才能真正成為提升醫(yī)療服務(wù)質(zhì)量、保障人民健康的有力工具,助推全球醫(yī)療事業(yè)的可持續(xù)發(fā)展。
文章撰寫(xiě)過(guò)程得到了新加坡國(guó)立大學(xué)醫(yī)學(xué)院覃宇宗教授、英國(guó)UCL的Pearse Keane教授以及清華萬(wàn)科公共衛(wèi)生學(xué)院紀(jì)思翰教授等學(xué)者的支持幫助。此次在JAMA發(fā)表的觀(guān)點(diǎn)文章,不僅是對(duì)中國(guó)醫(yī)療AI應(yīng)用現(xiàn)狀的總結(jié),也為全球醫(yī)療AI治理提供了重要啟示。未來(lái),隨著國(guó)際間在AI治理領(lǐng)域的深入合作,我們有理由相信,醫(yī)療人工智能將在全球范圍內(nèi)為人類(lèi)健康福祉貢獻(xiàn)更大力量。
黃天蔭,清華大學(xué)副教務(wù)長(zhǎng)、清華大學(xué)醫(yī)學(xué)院院長(zhǎng)、講席教授。醫(yī)學(xué)人工智能專(zhuān)家、眼科專(zhuān)家。美國(guó)國(guó)家醫(yī)學(xué)院外籍院士;澳大利亞健康與醫(yī)學(xué)科學(xué)院通訊院士;新加坡國(guó)家科學(xué)院院士。黃天蔭是全球首位撰寫(xiě)關(guān)于人工智能/深度學(xué)習(xí)在醫(yī)學(xué)中的應(yīng)用的文章的科學(xué)家(Wong & Bressler, JAMA 2016),先后主持并完成National Medical Research Council,National Health Innovation Centre Singapore (NHIC)委員會(huì)及國(guó)家重點(diǎn)研發(fā)計(jì)劃等多項(xiàng)國(guó)家級(jí)醫(yī)學(xué)人工智能重大項(xiàng)目。
黃天蔭創(chuàng)建了全球首個(gè)將人工智能/深度學(xué)習(xí)算法用于國(guó)家級(jí)糖尿病篩查項(xiàng)目(SELENA+,新加坡全國(guó)糖尿病篩查),并作為聯(lián)合創(chuàng)始人,創(chuàng)建兩家人工智能/數(shù)字健康公司(EyRIS和Plano)。黃天蔭目前在國(guó)際學(xué)術(shù)機(jī)構(gòu)ScholarGPS?眼科學(xué)科的終身榜單上位列全球第3位、人工智能專(zhuān)業(yè)的近五年榜單上排名全球第13位,H指數(shù)214,被引指數(shù)大于20萬(wàn),2018-2024年連續(xù)獲得 Clavarite 高被引學(xué)者稱(chēng)號(hào)。
作為臨床視網(wǎng)膜專(zhuān)家,黃天蔭致力于視網(wǎng)膜疾病、眼部成像、人工智能和數(shù)字技術(shù)的研究和創(chuàng)新。作為臨床視網(wǎng)膜專(zhuān)家,黃天蔭致力于視網(wǎng)膜疾病、眼部成像、人工智能和數(shù)字技術(shù)的研究和創(chuàng)新,擅長(zhǎng)糖尿病性視網(wǎng)膜病變、各類(lèi)黃斑病變、視網(wǎng)膜靜脈阻塞等各種常見(jiàn)及罕見(jiàn)眼底病的診治。擅長(zhǎng)眼底激光治療、玻璃體腔注藥等各類(lèi)眼底內(nèi)科治療。其發(fā)表同行評(píng)議論文1500余篇 (h-index為229),并在2018年、2020年、2021年、2022年、2023年及2024年PG電子官網(wǎng)入選高被引學(xué)者。
曾典,清華大學(xué)醫(yī)學(xué)院博士后(合作導(dǎo)師黃天蔭教授),哈佛大學(xué)公共衛(wèi)生學(xué)院臨床研究原理與實(shí)踐課程中國(guó)區(qū)主任,曾任哈佛大學(xué)醫(yī)學(xué)院神經(jīng)調(diào)節(jié)中心助理研究員,并獲得哈佛大學(xué)公共衛(wèi)生學(xué)院臨床研究方法學(xué)碩士。主要研究方向包括醫(yī)學(xué)人工智能、腦神經(jīng)調(diào)節(jié)、臨床療效評(píng)估、流行病學(xué)、生物統(tǒng)計(jì)、衛(wèi)生經(jīng)濟(jì)學(xué)、數(shù)據(jù)科學(xué), 在Nature Medicine、brain stimulation等期刊發(fā)表論文20余篇。
秦義明,清華大學(xué)臨床醫(yī)學(xué)院“水木學(xué)者”博士后(合作導(dǎo)師黃天蔭教授),2024年獲上海交通大學(xué)與香港城市大學(xué)雙博士學(xué)位(計(jì)算機(jī)專(zhuān)業(yè)),主要研究方向?yàn)樘摂M現(xiàn)實(shí)、智慧醫(yī)療和生成式人工智能,任計(jì)算機(jī)科學(xué)主流期刊The Visual Computer期刊編委,在Nature Medicine、IJCV、AAAI等期刊和會(huì)議上發(fā)表學(xué)術(shù)論文10余篇。