AI技術(shù)在醫(yī)療行業(yè)的應(yīng)用面臨諸多挑戰(zhàn)，如模型幻覺(jué)、數(shù)據(jù)安全等，需要專業(yè)的團(tuán)隊(duì)和準(zhǔn)確的數(shù)據(jù)來(lái)解決。

　　2.以方舟健客為例，其AI醫(yī)生助理在慢病管理場(chǎng)景中展現(xiàn)出顯著的價(jià)值，提升了問(wèn)診效率和核心業(yè)務(wù)運(yùn)營(yíng)效率。

　　3.未來(lái)醫(yī)療行業(yè)可能走向智能體模式，人類醫(yī)生和AI智能體共同決策，提高醫(yī)療服務(wù)的準(zhǔn)確性和效率。

　　4.另一方面，醫(yī)療領(lǐng)域的數(shù)據(jù)資源將成為重要的競(jìng)爭(zhēng)力，算法能力和數(shù)據(jù)資源將成為未來(lái)醫(yī)療行業(yè)非常重要的競(jìng)爭(zhēng)力。

　　5.方舟健客將結(jié)合自身的戰(zhàn)略和業(yè)務(wù)模式，謹(jǐn)慎評(píng)估是否推出開源行業(yè)模型或數(shù)據(jù)集，以應(yīng)對(duì)市場(chǎng)競(jìng)爭(zhēng)和技術(shù)挑戰(zhàn)。

　　2025開年，號(hào)稱“數(shù)字化攻堅(jiān)最難陣地”的醫(yī)療行業(yè)又迎來(lái)了一波AI落地的新高潮。

　　在DeepSeek拉低大模型的使用門檻后，藥物研發(fā)、疾病診斷、個(gè)性化治療和慢病管理等多個(gè)領(lǐng)域的代表企業(yè)應(yīng)聲而動(dòng)，有接入AI能力賦能業(yè)務(wù)場(chǎng)景的，有發(fā)布全場(chǎng)景智能體的，有開源垂直模型和數(shù)據(jù)集的……回顧醫(yī)療行業(yè)數(shù)字化的歷史，會(huì)發(fā)現(xiàn)AI醫(yī)療的真正挑戰(zhàn)，往往不在單點(diǎn)的技術(shù)，而在場(chǎng)景之深，并非引入領(lǐng)先的技術(shù)就一定能如愿轉(zhuǎn)為業(yè)務(wù)價(jià)值，能理解場(chǎng)景需求，精準(zhǔn)解決痛點(diǎn)才是落地關(guān)鍵。

　　對(duì)于蜂擁接入各類領(lǐng)先大模型的醫(yī)療企業(yè)，各類模型是否適合自身的業(yè)務(wù)場(chǎng)景？如何把相同的工具用出差異優(yōu)勢(shì)？《數(shù)字價(jià)值觀察室·AI落地場(chǎng)景觀察》第三期直播，鈦媒體集團(tuán)聯(lián)合創(chuàng)始人&聯(lián)席CEO劉湘明對(duì)話方舟健客技術(shù)高級(jí)副總裁郭陟，將以“互聯(lián)網(wǎng)慢病管理”這個(gè)垂直場(chǎng)景為代表，探討AI落地的適用性和面臨的難題。

　　作為“AI慢病管理第一股”，方舟健客在DeepSeek爆火之前就一直在探索AI的場(chǎng)景應(yīng)用，將AI、大數(shù)據(jù)等新興技術(shù)用于旗下“H2H（Hospital To Home）智慧醫(yī)療服務(wù)平臺(tái)”的打造，郭陟認(rèn)為慢病管理是醫(yī)療行業(yè)內(nèi)有千億級(jí)市場(chǎng)規(guī)模的垂直領(lǐng)域，AI在醫(yī)生問(wèn)診提效和核心業(yè)務(wù)運(yùn)營(yíng)效率優(yōu)化等環(huán)節(jié)有充分的價(jià)值發(fā)揮空間。

　　3月21日發(fā)布的上市后首份年報(bào)顯示，2024年度，方舟健客錄得收入人民幣27.07億元，同比增長(zhǎng)11.2%，經(jīng)調(diào)整后凈利潤(rùn)達(dá)1711.9萬(wàn)元，同比增長(zhǎng)139%，月活用戶數(shù)量同比增長(zhǎng)20%，這些數(shù)字背后有多大程度AI的助力？

　　對(duì)于具有嚴(yán)肅和不可逆等特性的醫(yī)療領(lǐng)域，郭陟認(rèn)為“模型幻覺(jué)”‘和數(shù)據(jù)安全“問(wèn)題，是亟待需要突破的兩大技術(shù)難題。

　　對(duì)于AI在醫(yī)療場(chǎng)景落地的未來(lái)，郭陟認(rèn)為，算力和通用模型這類通用能力可以讓AI+醫(yī)療的落地應(yīng)用達(dá)到60分的及格線分甚至更高，取決于專業(yè)領(lǐng)域的算法以及準(zhǔn)確、高質(zhì)量的數(shù)據(jù)，而這些都來(lái)自對(duì)業(yè)務(wù)痛點(diǎn)的理解和協(xié)同。

　　劉湘明：DeepSeek大火，進(jìn)一步加速了AI在千行百業(yè)的落地，很多人公認(rèn)醫(yī)療大健康領(lǐng)域是AI落地的最佳應(yīng)用場(chǎng)景之一，為什么這個(gè)場(chǎng)景具有AI適用性？

　　郭陟：以我們所在的慢病服務(wù)行業(yè)為例，慢病服務(wù)這個(gè)行業(yè)產(chǎn)生的一大背景就是，我國(guó)老齡化進(jìn)程加速但醫(yī)療資源分配不均。國(guó)家統(tǒng)計(jì)局的數(shù)據(jù)顯示，2024年底我國(guó)65歲及以上老年人占比達(dá)15.6%，比20年前增長(zhǎng)一倍以上，還有數(shù)據(jù)顯示，我國(guó)75%以上的老年人至少患有一種慢性病，例如高血壓、糖尿病等，慢病管理慢病服務(wù)相關(guān)的需求日益旺盛，但同時(shí)好的醫(yī)療資源都集中一線大城市，醫(yī)療資源分配非常不均衡，對(duì)于慢病管理來(lái)說(shuō)非常不友好。

　　首先就會(huì)產(chǎn)生問(wèn)診難的問(wèn)題，例如偏遠(yuǎn)地區(qū)的老人，可能沒(méi)辦法享受到優(yōu)質(zhì)的慢病醫(yī)療資源，即使是一線城市的病人，也會(huì)有掛號(hào)難的問(wèn)題，需要搶號(hào)。

　　診斷后，慢性病患者需要長(zhǎng)期用藥，且有一些藥是要準(zhǔn)時(shí)用藥，但是對(duì)于一個(gè)患者來(lái)說(shuō)，如果說(shuō)這個(gè)疾病不是致命的，例如高血壓，糖尿病，患者在一開始用藥可能還挺積極的，例如設(shè)個(gè)鬧鐘，但是過(guò)了半年，感覺(jué)病情不會(huì)要人命，就無(wú)所謂了，用藥的依從性便得不到保證，導(dǎo)致治療效果不佳。

　　最后一些慢病患者長(zhǎng)期治療中可能會(huì)有其他并發(fā)癥，或者患有其他疾病，但是不知道跟原來(lái)疾病之間的關(guān)系，這種情況下如果到網(wǎng)上去找信息，容易獲得零碎的，甚至是錯(cuò)誤信息，導(dǎo)致醫(yī)患之間的信息不對(duì)稱。

　　醫(yī)療資源供需矛盾在慢病服務(wù)場(chǎng)景中產(chǎn)生的問(wèn)診難、用藥依從性差、信息不對(duì)稱這一系列的問(wèn)題，就具備很強(qiáng)的AI適用性。AI技術(shù)可以促進(jìn)醫(yī)療資源的最大化利用，讓有限的醫(yī)療資源可以普惠大眾。其實(shí)大模型面世之前也有很多的AI改善方式，現(xiàn)在大模型能做更多的事情，改善效果可以從原來(lái)的幾倍，到幾十倍甚至幾百倍。

　　劉湘明：如您所說(shuō)，在AI普及之前，這個(gè)體系中例如互聯(lián)網(wǎng)醫(yī)院、送藥到家這些事情，原來(lái)就很多企業(yè)都在做，現(xiàn)在哪些業(yè)務(wù)場(chǎng)景里面，您通過(guò)引入AI技術(shù)，讓它變得跟原來(lái)不太一樣了？

　　郭陟：在整個(gè)體系里引入AI非常多，核心在于前面提到的幾大痛點(diǎn)問(wèn)題，會(huì)通過(guò)AI優(yōu)化幾大核心業(yè)務(wù)去解決這些問(wèn)題。

　　比如在互聯(lián)網(wǎng)醫(yī)院，其核心是怎么提升醫(yī)生的效率。以一個(gè)優(yōu)質(zhì)的專家為例，原來(lái)一天可以看150人，如果醫(yī)生的問(wèn)診效率能提升，能翻倍甚至十倍，其實(shí)就能夠解決一部分程度解決患者問(wèn)診難的問(wèn)題。在這個(gè)方面，我們是給醫(yī)生配了AI醫(yī)生助理，這是第一個(gè)場(chǎng)景。

　　另一個(gè)場(chǎng)景，是針對(duì)慢病管理服務(wù)，邏輯跟醫(yī)生類似，平臺(tái)上的管理顧問(wèn)是有限的，所以我們給顧問(wèn)提供一個(gè)AI客服助理，AI助理能夠輔助顧問(wèn)服務(wù)更多的用戶。

　　最后一個(gè)就醫(yī)療科普新媒體，我們通過(guò)應(yīng)用大模型，打造了一個(gè)AI創(chuàng)作助理，這樣能給新媒體編輯賦能，這是非常成功的一個(gè)場(chǎng)景應(yīng)用，我們會(huì)把一些場(chǎng)景聚集在一起，針對(duì)科普領(lǐng)域做AI創(chuàng)作助理，這個(gè)AI小助手應(yīng)用，可以讓編輯發(fā)大量的、個(gè)性化的科普內(nèi)容，以解決醫(yī)療科普信息的不對(duì)稱問(wèn)題。

　　劉湘明：剛才您談到的AI醫(yī)生助理，現(xiàn)在具體的應(yīng)用場(chǎng)景有哪些？對(duì)用戶以及對(duì)醫(yī)生的工作，會(huì)帶來(lái)哪些影響？

　　郭陟：醫(yī)生助理的應(yīng)用場(chǎng)景是比較多的，我們的AI醫(yī)生助理，應(yīng)用場(chǎng)景是完全貼近方舟健客的客戶業(yè)務(wù)，建立在熟人醫(yī)患關(guān)系中。也就是患者見過(guò)醫(yī)生，建立了聯(lián)系之后，需要復(fù)診或者有其他一些問(wèn)題，就可以在我們的互聯(lián)網(wǎng)醫(yī)院直接去找這個(gè)醫(yī)生，這樣可以節(jié)省雙方的時(shí)間，并提升診療針對(duì)性。

　　但同時(shí)會(huì)產(chǎn)生一個(gè)矛盾點(diǎn)，我們平臺(tái)上大多是知名的醫(yī)生，至少是主治副主任和主任醫(yī)生，他們的時(shí)間是非常緊張的，所以他們大多是用碎片化時(shí)間做在線問(wèn)診，在線問(wèn)診過(guò)程中，他們會(huì)發(fā)現(xiàn)，患者經(jīng)常問(wèn)他們一些重復(fù)性問(wèn)題，以及一些特別簡(jiǎn)單基礎(chǔ)的問(wèn)題。醫(yī)生端會(huì)覺(jué)得重復(fù)，回復(fù)的效率很低，且傾向在線下工作之后的空余時(shí)間集中回復(fù)患者的問(wèn)題，一條回復(fù)可能就足夠。但是對(duì)于患者來(lái)說(shuō)，都希望上線后一點(diǎn)擊這個(gè)醫(yī)生，給他發(fā)條消息，他馬上能回復(fù)，而且醫(yī)生要不厭其煩地回答他的問(wèn)題。正是基于這個(gè)矛盾點(diǎn)，我們構(gòu)造了AI醫(yī)生助理，讓他來(lái)連接醫(yī)生和患者。

　　當(dāng)AI醫(yī)生助理發(fā)現(xiàn)患者問(wèn)的是一些簡(jiǎn)單、重復(fù)性的問(wèn)題，他可以針對(duì)這些問(wèn)題進(jìn)行一些回答。比如問(wèn)的是藥品知識(shí)，根據(jù)藥品說(shuō)明書回復(fù)就是非常確定的，再例如針對(duì)疾病保健、運(yùn)動(dòng)飲食這些方面問(wèn)題的回復(fù)都也很明確，這些都是AI醫(yī)生助理可以回答的。

　　如果患者是不舒服來(lái)咨詢癥狀，AI醫(yī)生助理也可以給患者做初步的癥狀收集以及初步的分析，等到醫(yī)生有空的時(shí)候再來(lái)接診，也就是把最重要的診斷轉(zhuǎn)給醫(yī)生來(lái)做。

　　我們的AI醫(yī)生助理相當(dāng)于是搭建了一個(gè)患者跟醫(yī)生之間的橋梁，通過(guò)這種方式可以快速響應(yīng)患者咨詢，同時(shí)也能提升醫(yī)生的接診治療和效率，讓醫(yī)生服務(wù)更多的患者。這就是醫(yī)生助理這個(gè)智能體的業(yè)務(wù)場(chǎng)景。

　　劉湘明：在醫(yī)生助理場(chǎng)景中，都用了哪些模型的能力？DeepSeek R1的功能應(yīng)用會(huì)更顯著一些嗎？

　　郭陟：醫(yī)生助理背后的大模型是比較多的，因?yàn)獒t(yī)生的任務(wù)是多樣性的，我們的智能體會(huì)把這些特定任務(wù)進(jìn)行分類，再交給不同的模型去處理特定問(wèn)題。

　　例如，針對(duì)藥品的問(wèn)題，我們會(huì)先走RAG知識(shí)庫(kù)，拿到我們內(nèi)部的知識(shí)信息，有了這些確定信息之后，再交給DeepSeek V3模型去回答。

　　郭陟：對(duì)，不用推理，在這個(gè)場(chǎng)景，做一個(gè)問(wèn)答就可以。不僅是因?yàn)橥评砟Ｐ突卮饡?huì)慢，還因?yàn)橥评砟Ｐ陀袝r(shí)候會(huì)產(chǎn)生大模型幻覺(jué)，這在醫(yī)療領(lǐng)域是有風(fēng)險(xiǎn)的。

　　再比如針對(duì)一些特定的任務(wù)，例如患者是希望你給他做一個(gè)癥狀的初篩，甚至更往前一步，希望做一個(gè)自診，那這個(gè)時(shí)候就要非常謹(jǐn)慎，我們就會(huì)用一個(gè)我們基于開源模型微調(diào)的小參數(shù)模型，輸入我們自診的SOP，讓患者根據(jù)這個(gè)流程來(lái)進(jìn)行自診。這個(gè)模型實(shí)際上只負(fù)責(zé)收集信息，收集完信息之后，再交給另外一個(gè)微調(diào)模型來(lái)給初步的建議。

　　此外還有一類可能會(huì)涉及敏感問(wèn)題，我們會(huì)用一個(gè)規(guī)模更小的模型去增加信息的確定性，然后給出拒絕的回答。

　　如上所述，針對(duì)不同的任務(wù)，我們是會(huì)用不同的模型去應(yīng)對(duì)。包括前面提到的DeepSeek R1推理模型其實(shí)也有它的優(yōu)點(diǎn)，我們會(huì)利用它的推理能力，把它當(dāng)做一個(gè)監(jiān)督模型，類似教師，例如把R1回答某些特定問(wèn)題的思維鏈固化，然后放進(jìn)前面V3回答的那些問(wèn)題里，幫助回答的準(zhǔn)確度。

　　我們是通過(guò)這種方式，充分利用不同模型的特點(diǎn)，讓所有這些分類任務(wù)的回答，保證最大可能的準(zhǔn)確度。

　　郭陟：首先任何模型肯定是不會(huì)給出診斷的，嚴(yán)謹(jǐn)表述應(yīng)該是初篩，在這個(gè)環(huán)節(jié)模型只是收集信息，給出一些建議而并非診斷，診斷這個(gè)動(dòng)作是必須醫(yī)生來(lái)做的。以及如果在基本問(wèn)題的問(wèn)答過(guò)程中，如果大模型發(fā)現(xiàn)他自己回答不了，或者是患者強(qiáng)烈要找醫(yī)生，也還是會(huì)走到轉(zhuǎn)醫(yī)生這個(gè)模塊，大模型會(huì)把之前的的溝通記錄以及總結(jié)的摘要求同步醫(yī)生，讓醫(yī)生再給出一個(gè)診斷。

　　劉湘明：您剛才介紹的這些AI助理中，是不是醫(yī)生助理的開發(fā)難度和復(fù)雜性是最高的？

　　郭陟：是這樣的，一方面是因?yàn)獒t(yī)生助理要處理的任務(wù)最多，其他AI助理處理的任務(wù)相對(duì)會(huì)少一些。另一方面，醫(yī)生助理的嚴(yán)謹(jǐn)度、準(zhǔn)確度要求是最高的，其他AI助理的準(zhǔn)確性稍微低一點(diǎn)，是可以彌補(bǔ)的，但是醫(yī)生助理的準(zhǔn)確度低是絕對(duì)不行的。

　　劉湘明：雖然醫(yī)藥場(chǎng)景具有很強(qiáng)的AI適用性，但同時(shí)這個(gè)行業(yè)具有很強(qiáng)的專業(yè)性和嚴(yán)肅性，AI落地會(huì)遇到哪些問(wèn)題和難點(diǎn)？

　　郭陟：確實(shí)，醫(yī)藥場(chǎng)景除了場(chǎng)景格外豐富外，是一個(gè)對(duì)業(yè)務(wù)專業(yè)度和嚴(yán)謹(jǐn)度要求非常高的領(lǐng)域，難點(diǎn)其實(shí)非常多，最重要的會(huì)集中在以下三點(diǎn)。

　　第一個(gè)難點(diǎn)是AI落地需要有既懂技術(shù)又懂業(yè)務(wù)的專業(yè)團(tuán)隊(duì)?，F(xiàn)在雖然大模型很多，應(yīng)用很普及。各行業(yè)各企業(yè)都在接入并應(yīng)用，但是大多數(shù)情況下其實(shí)并不知道，所在企業(yè)如何用好AI。這時(shí)候就需要有一個(gè)專業(yè)的團(tuán)隊(duì)，能夠把AI應(yīng)用跟企業(yè)業(yè)務(wù)結(jié)合起來(lái)。這個(gè)專業(yè)團(tuán)隊(duì)不僅僅是一個(gè)技術(shù)實(shí)施團(tuán)隊(duì)，而是既要了解技術(shù)，又要了解業(yè)務(wù)，還要非常非常懂 AI，這是要求挺高的。

　　第二個(gè)難點(diǎn)就是醫(yī)療場(chǎng)景是對(duì)誤差容忍度比較低的行業(yè)，但是以大模型為代表的AI，尤其是推理模型，容易產(chǎn)生模型幻覺(jué)，所以大家會(huì)看到有時(shí)候大模型會(huì)“一本正經(jīng)地胡說(shuō)八道”，這對(duì)于醫(yī)療行業(yè)的應(yīng)用來(lái)說(shuō)是致命的。必須要解決模型幻覺(jué)的問(wèn)題，這是AI在醫(yī)療場(chǎng)景落地要邁過(guò)去的最難關(guān)口。

　　第三個(gè)難點(diǎn)就是安全合規(guī)問(wèn)題。數(shù)據(jù)安全是要得到保證的，相關(guān)應(yīng)用是要合規(guī)的，而且在醫(yī)療領(lǐng)域還會(huì)包含倫理上的問(wèn)題都要解決，所以說(shuō)安全合規(guī)，這相當(dāng)于是落地的第三個(gè)難點(diǎn)。

　　劉湘明：對(duì)于您提到的模型幻覺(jué)問(wèn)題，從模型工程的角度來(lái)看，該怎么去降低醫(yī)療場(chǎng)景中模型幻覺(jué)的影響？

　　第一步是需要建立一個(gè)準(zhǔn)確知識(shí)庫(kù)，然后通過(guò)RAG的方式轉(zhuǎn)化為搜索出相關(guān)的文檔內(nèi)容提供給大模型來(lái)，并指導(dǎo)大模型回答。在這一步中，知識(shí)庫(kù)的豐富度和數(shù)據(jù)質(zhì)量是關(guān)鍵衡量指標(biāo)，方舟健客平臺(tái)運(yùn)營(yíng)至今，積累了超4920萬(wàn)用戶和22萬(wàn)醫(yī)生專家使用，此外平臺(tái)上有超21萬(wàn)SKU藥品的說(shuō)明書，以及海量發(fā)布的科普文章，這些豐富的數(shù)據(jù)積累是構(gòu)成知識(shí)庫(kù)的基礎(chǔ)，除了豐富的數(shù)量外，數(shù)據(jù)的質(zhì)量是更為重要的，基于業(yè)務(wù)場(chǎng)景的數(shù)據(jù)和知識(shí)沉淀，是方舟健客的知識(shí)庫(kù)差異化優(yōu)勢(shì)。

　　當(dāng)然，基于龐大數(shù)據(jù)的清洗工作量肯定是巨大的，這也是構(gòu)建知識(shí)庫(kù)的關(guān)鍵動(dòng)作，我們首先會(huì)用傳統(tǒng)算法結(jié)合大模型算法會(huì)去做清洗，先做自動(dòng)化清洗，然后人工清洗，對(duì)于醫(yī)藥場(chǎng)景而言，人工檢查的環(huán)節(jié)非常重要，此外對(duì)于重點(diǎn)知識(shí)內(nèi)容還會(huì)再增加抽查，通過(guò)多重核驗(yàn)，保證知識(shí)庫(kù)內(nèi)容的準(zhǔn)確性。

　　其實(shí)大模型的確定性回答也可能會(huì)產(chǎn)生幻覺(jué)，只是概率會(huì)小一些，因此有了知識(shí)庫(kù)之后還要進(jìn)行第二步，就是根據(jù)知識(shí)庫(kù)和相應(yīng)的數(shù)據(jù)，再提取一些知識(shí)圖譜和一些業(yè)務(wù)規(guī)則構(gòu)成圖數(shù)據(jù)庫(kù)，用圖數(shù)據(jù)庫(kù)去給大模型做一些限制。這些基于規(guī)則的限制，會(huì)讓大模型不會(huì)越界，而且很可靠。

　　第三步才來(lái)到大模型回答階段，針對(duì)問(wèn)答中一些特別敏感的問(wèn)題，需要微調(diào)一些參數(shù)比較小的模型去回答。這個(gè)時(shí)候，我們會(huì)基于知識(shí)庫(kù)的核心內(nèi)容，從里面抽一些樣本，然后再去做一些多樣化的處理。然后通過(guò)樣本微調(diào)一些模型進(jìn)一步增強(qiáng)模型回答的確定性。當(dāng)然這階段可能增強(qiáng)確定性效果，沒(méi)有像前面兩個(gè)階段那么顯而易見，但是在醫(yī)藥場(chǎng)景，任何可以提高回答確定性、準(zhǔn)確性的努力都是值得嘗試的，準(zhǔn)確無(wú)上限。

　　這三步做完之后，最后就是定期測(cè)試大模型的整體效果，一方面監(jiān)測(cè)效果，另一方面避免模型漂移。大家也知道一些外部模型，在使用過(guò)程中有時(shí)候會(huì)產(chǎn)生模型漂移，定期的監(jiān)測(cè)就很重要，如果發(fā)現(xiàn)性能和效果有下降，我們就會(huì)及時(shí)回過(guò)頭，從第一步開始去溯源，一步步重新再去做優(yōu)化。這其實(shí)是一個(gè)標(biāo)準(zhǔn)的處理方案，只不過(guò)在醫(yī)藥場(chǎng)景我們做這個(gè)事情會(huì)相對(duì)會(huì)做的比大家更認(rèn)真一些。

　　劉湘明：以您的經(jīng)驗(yàn)，這個(gè)漂移大概多長(zhǎng)時(shí)間會(huì)發(fā)生？或者說(shuō)這種現(xiàn)象是否很常見？

　　郭陟：不同模型會(huì)不一樣，但是漂移發(fā)生是必然的。首先，模型的訓(xùn)練數(shù)據(jù)是會(huì)隨時(shí)更新的，會(huì)補(bǔ)充新的訓(xùn)練數(shù)據(jù)進(jìn)去，而最近兩年新的訓(xùn)練數(shù)據(jù)很多都是大模型產(chǎn)生的，中間必然是有幻覺(jué)產(chǎn)生，所以模型必然會(huì)發(fā)生漂移。

　　那么只能針對(duì)漂移去針對(duì)性處理，現(xiàn)在有兩個(gè)方法，第一個(gè)就是針對(duì)特別敏感的一些問(wèn)題，就用傳統(tǒng)的開源模型，我們自己微調(diào)使用，另外針對(duì)能力強(qiáng)大的模型我們肯定也得用，就提高監(jiān)測(cè)頻次看是否產(chǎn)生漂移，如果產(chǎn)生漂移，就針對(duì)這一塊的內(nèi)容去識(shí)別，然后通過(guò)其他知識(shí)庫(kù)和微調(diào)的方法糾正過(guò)來(lái)。

　　郭陟：在方舟健客之前，我也做過(guò)很長(zhǎng)時(shí)間的安全行業(yè)，對(duì)數(shù)據(jù)安全的問(wèn)題理解是非常深的。雖然在目前的互聯(lián)網(wǎng)環(huán)境下，絕對(duì)的安全是非常困難的，但是我們還是要努力，尤其是在醫(yī)療健康這個(gè)對(duì)風(fēng)險(xiǎn)偏差零容忍的行業(yè)。

　　我們現(xiàn)在的解決方案主要是構(gòu)建了一個(gè)安全管理平臺(tái)，這個(gè)平臺(tái)核心是解決兩方面的問(wèn)題。第一個(gè)是構(gòu)建一個(gè)數(shù)據(jù)安全沙箱，我們現(xiàn)在的原則是，凡是企業(yè)內(nèi)部數(shù)據(jù)，肯定是私有化本地部署的，部分?jǐn)?shù)據(jù)也會(huì)調(diào)用云端算力，最后是一個(gè)混合云的架構(gòu)部署。在這個(gè)方案里，整個(gè)數(shù)據(jù)流轉(zhuǎn)過(guò)程中，會(huì)對(duì)所有的入口進(jìn)行防護(hù)，傳輸加密、存儲(chǔ)加密、日志審計(jì)……這些傳統(tǒng)安全措施肯定都要用一遍，同時(shí)我們所有的數(shù)據(jù)都有一個(gè)分級(jí)控制的標(biāo)準(zhǔn)，對(duì)于外部模型或云端算力的需要調(diào)用的本地?cái)?shù)據(jù)，達(dá)到我們的三級(jí)或者四級(jí)以上的數(shù)據(jù)，我們就會(huì)要求進(jìn)行脫敏，會(huì)通過(guò)一個(gè)模型，對(duì)這部分?jǐn)?shù)據(jù)做泛化或者加密，只要不影響模型的答案結(jié)論，會(huì)以數(shù)據(jù)安全作為第一準(zhǔn)則。

　　除了數(shù)據(jù)安全之外，合規(guī)性問(wèn)題也必須要重視，我們首先會(huì)做內(nèi)容的安全過(guò)濾，通過(guò)設(shè)置敏感詞規(guī)則過(guò)濾體系，用AI屏蔽敏感詞和違規(guī)內(nèi)容。另外大模型應(yīng)用中，也要非常重視個(gè)人信息保護(hù)和知識(shí)產(chǎn)權(quán)保護(hù)。

　　我們會(huì)通過(guò)區(qū)塊鏈技術(shù)，對(duì)于大模型產(chǎn)生成果的整個(gè)鏈路進(jìn)行確權(quán)和留痕，此外針對(duì)所有模型的回答，我們會(huì)用DeepSeek R1來(lái)做一個(gè)監(jiān)督大模型，協(xié)助過(guò)濾違規(guī)風(fēng)險(xiǎn)內(nèi)容、偏見內(nèi)容。

　　劉湘明：如您所說(shuō)，方舟健客這套智慧體系中，有監(jiān)督模型、數(shù)據(jù)加密模型，整個(gè)體系里面到底現(xiàn)在部署了多少模型？

　　這是醫(yī)藥行業(yè)的特殊性造成的，那些大一統(tǒng)的框架，雖然應(yīng)用起來(lái)很快，但是出問(wèn)題的時(shí)候也很麻煩，在醫(yī)藥行業(yè)適用性反而會(huì)差。

　　我們做這套體系有一個(gè)原則，就是對(duì)于這種智能應(yīng)用希望是分而治之。因?yàn)榉侄沃?，每個(gè)任務(wù)最后才能走向確定性，而且單個(gè)任務(wù)有問(wèn)題就不會(huì)影響到其他任務(wù)。

　　劉湘明：未來(lái)，在人工智能體大量參與的情況下，整個(gè)醫(yī)療行業(yè)的服務(wù)邏輯和傳統(tǒng)模式會(huì)不會(huì)有很大的變化？

　　郭陟：傳統(tǒng)模式下，醫(yī)院以及互聯(lián)網(wǎng)醫(yī)院的核心就是醫(yī)生，人類醫(yī)生是一個(gè)核心的決策單元，各類AI應(yīng)用也是輔助醫(yī)生做的，比如說(shuō)幫醫(yī)生整理一下病歷，幫醫(yī)生輔助看一下CT圖 、B超圖，標(biāo)注出來(lái)，最后讓醫(yī)生再確認(rèn)。但是未來(lái)，可能會(huì)從傳統(tǒng)模式演變成智能體模式，AI醫(yī)生助理能力會(huì)慢慢提升，會(huì)變成一個(gè)真正的數(shù)字員工獨(dú)立干活。這些數(shù)字員工有可能會(huì)組成一個(gè)智能體的網(wǎng)絡(luò)，互相學(xué)習(xí)，能力進(jìn)一步提升，醫(yī)療領(lǐng)域可能會(huì)形成人類醫(yī)生和AI智能體的混合決策網(wǎng)絡(luò)。

　　劉湘明：原來(lái)醫(yī)療體系還是以醫(yī)生為中心去構(gòu)建的，將來(lái)如果變成一個(gè)混合模式的話會(huì)帶來(lái)很大的變化。您估計(jì)這種狀態(tài)大概需要多長(zhǎng)時(shí)間？

　　劉湘明：剛才您談到了很多的智能體，基本上是在單點(diǎn)上輔助，其實(shí)還沒(méi)有一個(gè)通用的智能體，把整個(gè)的流程都串起來(lái)。最近Manus這個(gè)通用智能體很受關(guān)注，您覺(jué)得未來(lái)會(huì)不會(huì)有一個(gè)類似這樣的通用智能體去把單點(diǎn)智能應(yīng)用串起來(lái)？如果出現(xiàn)，是否會(huì)形成競(jìng)爭(zhēng)？

　　郭陟：通用的智能體和各個(gè)領(lǐng)域?qū)Ｓ玫闹悄荏w并不是競(jìng)爭(zhēng)關(guān)系，而是相輔相成的關(guān)系。

　　我喜歡把大模型和智能體類比成人，通用的智能體可以被認(rèn)為是一個(gè)知識(shí)非常淵博的應(yīng)屆生。當(dāng)然這個(gè)應(yīng)屆生水平會(huì)從高中水平，到現(xiàn)在的博士水平或者更高，而且是全領(lǐng)域的博士。但是就算是全領(lǐng)域博士，如果要去做一些特定企業(yè)內(nèi)的一些工作，也是需要再經(jīng)過(guò)培訓(xùn)的。例如醫(yī)療領(lǐng)域相關(guān)的這些工作，尤其是針對(duì)企業(yè)私域的一些知識(shí)，是他過(guò)往訓(xùn)練中無(wú)法獲得的，比如企業(yè)的業(yè)務(wù)知識(shí)和流程，這些企業(yè)特定的know-how必然是一個(gè)通用智能體無(wú)法掌握的。

　　因此，通用的智能體也好，通用的工具也好。到了醫(yī)療特定的企業(yè)里，一定是有一個(gè)跟業(yè)務(wù)模式結(jié)合的定制過(guò)程，否則，它能力再?gòu)?qiáng)也起不到作用。得醫(yī)療專用的智能體，未來(lái)一定是會(huì)有非常大的市場(chǎng)的。

　　劉湘明：原來(lái)的醫(yī)院競(jìng)爭(zhēng)基本上是誰(shuí)有好的醫(yī)生，誰(shuí)就會(huì)占據(jù)更大的競(jìng)爭(zhēng)優(yōu)勢(shì)，AI促進(jìn)下未來(lái)醫(yī)療行業(yè)會(huì)不會(huì)進(jìn)入到一個(gè)新的競(jìng)爭(zhēng)層級(jí)，比如說(shuō)數(shù)據(jù)資源更多的企業(yè)或者醫(yī)院會(huì)掌握更大的這個(gè)競(jìng)爭(zhēng)優(yōu)勢(shì)？

　　郭陟：這個(gè)趨勢(shì)是存在的。過(guò)去模式下，醫(yī)生是醫(yī)院的核心資源，未來(lái)智能體發(fā)展起來(lái)，醫(yī)院可能會(huì)進(jìn)入一種智能體密集的狀態(tài)，而智能體依賴的最重要的三要素包括算力、算法和數(shù)據(jù)。在算力資源相當(dāng)?shù)那闆r下，算法能力和數(shù)據(jù)資源將成為未來(lái)醫(yī)療行業(yè)非常重要的競(jìng)爭(zhēng)力。

　　劉湘明：您覺(jué)得未來(lái)AI公司有沒(méi)有機(jī)會(huì)在醫(yī)療領(lǐng)域迅速的崛起？就像當(dāng)年互聯(lián)網(wǎng)公司一樣。

　　郭陟：AI公司至少可以分成兩類，一類是通用能力型AI技術(shù)公司，類似智譜、月之暗面等，這些公司只要能夠?qū)崿F(xiàn)技術(shù)突破，其業(yè)務(wù)就能夠指數(shù)級(jí)增長(zhǎng)做到快速發(fā)展；第二類還是需要回到應(yīng)用場(chǎng)景討論，比如說(shuō)醫(yī)療領(lǐng)域下有非常多的垂直細(xì)分領(lǐng)域，每一個(gè)細(xì)分領(lǐng)域都有很大的AI崛起的空間。

　　劉湘明：在這個(gè)格局下，方舟健客的怎么樣用出AI的差異化呢？未來(lái)的競(jìng)爭(zhēng)優(yōu)勢(shì)又在哪呢？

　　郭陟：AI發(fā)展取決于算力、算法和數(shù)據(jù)這三個(gè)方面，算力以及通用模型算法在醫(yī)療行業(yè)是比較難跑出差異性的，這方面，我們基本上就會(huì)采用生態(tài)合作的方式，例如跟騰訊云等戰(zhàn)略合作，通用模型層面，我們也是接入了市面上大部分知名的模型。

　　對(duì)于絕大部分企業(yè)而言，搭一個(gè)大模型平臺(tái)并不難，但是難在如何真正把AI用好，這里面會(huì)涉及很多細(xì)分的場(chǎng)景，細(xì)分的工作，需要專屬算法和相應(yīng)的垂直數(shù)據(jù)，針對(duì)這些專屬的算法和數(shù)據(jù)，我們?cè)谒膫€(gè)維度上是具備優(yōu)勢(shì)的，這四個(gè)維度也是我們內(nèi)部的針對(duì)AI應(yīng)用的一個(gè)指導(dǎo)思路。

　　業(yè)務(wù)為源很好理解，我們做AI的應(yīng)用，肯定是要貼近業(yè)務(wù)，建立最佳實(shí)踐，AI要跟業(yè)務(wù)模式深度捆綁，才能建立獨(dú)家優(yōu)勢(shì)。以前面提到的AI醫(yī)生助理為例，看上去AI受到了很多限制，但實(shí)際上它是最適合慢病管理里熟人醫(yī)患關(guān)系這個(gè)業(yè)務(wù)場(chǎng)景的，可以幫助我們大幅的提升問(wèn)診效率，能促進(jìn)業(yè)務(wù)快速發(fā)展，而這個(gè)智能體放在其他的場(chǎng)景，可能價(jià)值就沒(méi)那么明顯了。

　　分而治之指的是我們不會(huì)去追求大而全的解決方案，而是針對(duì)每個(gè)環(huán)節(jié)做細(xì)節(jié)優(yōu)化，希望通過(guò)這種細(xì)節(jié)的逐步積累，最終形成合力。比如說(shuō)醫(yī)生助理的很多任務(wù)，都拆分的很細(xì)，讓不同的模型去解決不同的問(wèn)題，最終長(zhǎng)期積累，形成AI助理的差異性綜合能力。這里面考驗(yàn)的還是對(duì)單個(gè)業(yè)務(wù)痛點(diǎn)的理解以及解決方法的積累，方舟健客的真實(shí)醫(yī)患互動(dòng)經(jīng)驗(yàn)積累，是核心壁壘。

　　有了這些積累后，需要技術(shù)上的沉淀，平臺(tái)驅(qū)動(dòng)。一方面我們搭建了智能體的開發(fā)平臺(tái)，不僅我們的這個(gè)AI團(tuán)隊(duì)可以在平臺(tái)上搭建，公司內(nèi)部的所有員工，只要有一定能力，都可以在平臺(tái)上搭建智能體，久而久之，很多業(yè)務(wù)的流程就會(huì)慢慢的都遷移到平臺(tái)上，非常有利于整個(gè)企業(yè)的 AI轉(zhuǎn)化。另一方面，基于是同一個(gè)平臺(tái)開發(fā)，安全合規(guī)策略就非常容易推進(jìn)了，這些都是平臺(tái)驅(qū)動(dòng)所建立的優(yōu)勢(shì)。

　　數(shù)據(jù)為本，為了最小化模型幻覺(jué)，我們需要準(zhǔn)確和專業(yè)的PG電子官網(wǎng)數(shù)據(jù)。這里面不僅要有一些醫(yī)學(xué)相關(guān)知識(shí)的數(shù)據(jù)，也更多的是要積累這個(gè)跟業(yè)務(wù)和管理相關(guān)的數(shù)據(jù)，這樣建立的知識(shí)庫(kù)才是有差異性和競(jìng)爭(zhēng)力的。

　　劉湘明：DeepSeek其實(shí)開了一個(gè)好頭就是開源，您怎么看待開源在醫(yī)療領(lǐng)域的可行性和價(jià)值，方舟健客是否會(huì)跟進(jìn)？

　　郭陟：開源行業(yè)模型和數(shù)據(jù)集，是可以加速醫(yī)療領(lǐng)域AI技術(shù)的普及和標(biāo)準(zhǔn)化，這肯定是個(gè)好事，我們也非常贊同，但是這些行業(yè)模型和數(shù)據(jù)集開源之后，如果要利用，其實(shí)還是需要依賴一個(gè)AI的專業(yè)團(tuán)隊(duì)。很多基層的醫(yī)院，甚至是公立機(jī)構(gòu)是最需要這些模型和數(shù)據(jù)集的，但是往往他們會(huì)缺少既懂AI技術(shù)，又能理解自身業(yè)務(wù)場(chǎng)景的團(tuán)隊(duì)。所以往往最后變成了對(duì)專業(yè)的科技公司實(shí)現(xiàn)價(jià)值最大化，但是對(duì)廣大更有需求的基層醫(yī)療機(jī)構(gòu)，價(jià)值有限。醫(yī)療機(jī)構(gòu)還是需要養(yǎng)成符合自身場(chǎng)景需求的技術(shù)落地業(yè)務(wù)的能力。

　　開源策略對(duì)于某些公司來(lái)說(shuō)，可能是一個(gè)好的策略。但是不同公司的業(yè)務(wù)模式是不一樣的，不一定適用所有的公司。方舟健客會(huì)結(jié)合自身的戰(zhàn)略上和業(yè)務(wù)模式去謹(jǐn)慎評(píng)估是不是要推出這種開源行業(yè)模型或者數(shù)據(jù)集。即使是做開源，也會(huì)因?yàn)闃I(yè)務(wù)模式不同，采用不同的開源策略。

　　郭陟：互聯(lián)網(wǎng)醫(yī)院的核心壁壘就目前還在于是醫(yī)生的資源和患者數(shù)據(jù)，這是兩個(gè)最核心的競(jìng)爭(zhēng)壁壘。短時(shí)間之內(nèi)也肯定還是非常重要，未來(lái)這兩個(gè)優(yōu)勢(shì)也會(huì)一定會(huì)慢慢轉(zhuǎn)化為智能體依托的差異化算法，最終肯定會(huì)形成一個(gè)算法壁壘。只是這個(gè)周期會(huì)比其他行業(yè)更漫長(zhǎng)一點(diǎn)，需要更多的耐心。

　　以上為《數(shù)字價(jià)值觀察室·AI落地場(chǎng)景觀察》第三期直播的部分內(nèi)容，完整版請(qǐng)觀看《“AI+醫(yī)療”加速落地，還需啃下哪些“硬骨頭”》。