導(dǎo)讀

大語(yǔ)言模型對(duì)文本數(shù)據(jù)的解析能力極大方便了知識(shí)庫(kù)系統(tǒng)的構(gòu)建，而自然語(yǔ)言檢索和問(wèn)答則提升了知識(shí)庫(kù)的應(yīng)用的便利性。‍

自ChatGPT風(fēng)靡全球以來(lái)，國(guó)內(nèi)各領(lǐng)域也開(kāi)始積極探索生成式人工智能大語(yǔ)言模型產(chǎn)品的應(yīng)用。《中國(guó)人工智能大模型地圖研究報(bào)告》顯示，截至5月底國(guó)內(nèi)10億參數(shù)規(guī)模以上的大模型已發(fā)布79個(gè)，醫(yī)療領(lǐng)域的大模型產(chǎn)品也已發(fā)布十余個(gè)，應(yīng)用場(chǎng)景聚焦在輔助問(wèn)診、輔助決策、健康咨詢(xún)、醫(yī)學(xué)智慧影像等。

醫(yī)療大模型在輔助決策方面能夠發(fā)揮哪些作用？其與臨床決策支持系統(tǒng)有哪些區(qū)別？CDSreport結(jié)合了幾位專(zhuān)家的觀點(diǎn)進(jìn)行剖析。

01

大模型或改變知識(shí)庫(kù)建設(shè)和應(yīng)用方式

在剛結(jié)束的2023世界人工智能大會(huì)上，中國(guó)信通院云大所副所長(zhǎng)閔棟在健康高峰論壇列舉了醫(yī)療大模型可能的9個(gè)應(yīng)用方向，包括輔助決策、治療方案生成和質(zhì)量控制等。

在輔助決策、輔助診斷方面，閔棟認(rèn)為，在傳統(tǒng)臨床決策支持系統(tǒng)（CDSS）的基礎(chǔ)上，大模型的訓(xùn)練數(shù)據(jù)來(lái)源更為廣泛，自我進(jìn)化能力更高效，因而能為CDSS帶來(lái)較大幅度的提升。實(shí)際工作中，醫(yī)生經(jīng)常需要調(diào)動(dòng)大量醫(yī)學(xué)知識(shí)、記憶大量的患者信息，難免會(huì)出現(xiàn)記憶疲勞、身體疲憊等問(wèn)題。而醫(yī)療大模型的引入可以幫助醫(yī)生記錄信息，大幅減少醫(yī)務(wù)人員工作量，緩解疲勞。同時(shí)，大模型還能通過(guò)學(xué)習(xí)電子病歷、醫(yī)學(xué)文獻(xiàn)、檢查檢驗(yàn)結(jié)果等數(shù)據(jù)同醫(yī)生進(jìn)行語(yǔ)言互動(dòng)，提升診斷的準(zhǔn)確性及效率。

2023年以來(lái)，已有十幾家公司發(fā)布了醫(yī)療大模型產(chǎn)品，應(yīng)用場(chǎng)景多聚焦在輔助問(wèn)診、健康咨詢(xún)、醫(yī)學(xué)智慧影像等。其中，大模型在輔助決策發(fā)揮的作用及對(duì)CDSS能力的提升已經(jīng)成為共識(shí)。

有研究顯示，通用大模型已經(jīng)能夠在診療過(guò)程中發(fā)揮作用。例如，在信息抽取上，可以將大段臨床文本進(jìn)行結(jié)構(gòu)化；在數(shù)據(jù)清洗層面，可以在一定范圍內(nèi)提供一致性校驗(yàn)工作。在此基礎(chǔ)上，經(jīng)過(guò)特殊訓(xùn)練的醫(yī)療大模型，通過(guò)整合多種來(lái)源和格式數(shù)據(jù)，可以提升醫(yī)療效率與質(zhì)量。

醫(yī)療大模型是如何提升CDSS能力的？華東理工大學(xué)計(jì)算機(jī)技術(shù)研究所所長(zhǎng)、自然語(yǔ)言處理與大數(shù)據(jù)挖掘?qū)嶒?yàn)室主任阮彤表示，數(shù)據(jù)庫(kù)的建設(shè)和應(yīng)用提升效果最明顯。

傳統(tǒng)的知識(shí)庫(kù)構(gòu)建通常采用人工手段，從專(zhuān)業(yè)書(shū)籍、臨床指南，醫(yī)學(xué)文獻(xiàn)中抽取知識(shí)。這種抽取過(guò)程不但需要耗費(fèi)較大人力，后續(xù)更新過(guò)程也比較緩慢。同時(shí)，知識(shí)圖譜等結(jié)構(gòu)化的數(shù)據(jù)雖然精確，但語(yǔ)義表達(dá)能力遠(yuǎn)遠(yuǎn)弱于自然語(yǔ)言，包括多元關(guān)系、條件關(guān)系，因果關(guān)聯(lián)等知識(shí)模式定義。建設(shè)和使用過(guò)程需要較高的專(zhuān)業(yè)認(rèn)知能力和業(yè)務(wù)建模能力，而模式的理解和正確性驗(yàn)證也同樣有雙重門(mén)檻。此外，經(jīng)過(guò)加工的知識(shí)庫(kù)，在不同應(yīng)用場(chǎng)景還需要結(jié)合實(shí)際情況進(jìn)行二次加工，進(jìn)一步局限了使用場(chǎng)景。

以診斷為例，不僅要結(jié)合患者主訴，還要根據(jù)檢驗(yàn)檢查結(jié)果評(píng)估診斷優(yōu)劣。這個(gè)過(guò)程取決于對(duì)疾病判斷的精準(zhǔn)度、檢驗(yàn)檢查合理性以及信息交互過(guò)程方便程度。達(dá)到這些目標(biāo)，信息系統(tǒng)需通過(guò)數(shù)據(jù)抓取和分析來(lái)判斷各種疾病的可能性，并且在各信息系統(tǒng)之間以及與醫(yī)務(wù)人員交互之間具備較好的處理能力，針對(duì)不同場(chǎng)景還需要獨(dú)特的系統(tǒng)設(shè)計(jì)和評(píng)估方式。

針對(duì)這一難點(diǎn)，一些CDSS供應(yīng)商選擇自然語(yǔ)言處理等人工智能技術(shù)來(lái)處理海量醫(yī)學(xué)信息，從而實(shí)現(xiàn)結(jié)構(gòu)化數(shù)據(jù)，建立醫(yī)學(xué)知識(shí)庫(kù)和臨床規(guī)則庫(kù)，并納入臨床真實(shí)病歷對(duì)知識(shí)模型進(jìn)行持續(xù)訓(xùn)練優(yōu)化，形成不斷更新的循證醫(yī)學(xué)知識(shí)庫(kù)。

阮彤認(rèn)為，大語(yǔ)言模型對(duì)文本數(shù)據(jù)的解析能力極大方便了知識(shí)庫(kù)系統(tǒng)的構(gòu)建，而自然語(yǔ)言檢索和問(wèn)答則提升了知識(shí)庫(kù)的應(yīng)用的便利性。大語(yǔ)言模型體現(xiàn)的推理能力，提供了智能醫(yī)學(xué)診斷和治療方案推薦的可能性。例如，可以通過(guò)ChatGPT的開(kāi)源框架langchain的一系列工具，以及Zero-Shot抽取能力，將原始文本數(shù)據(jù)抽取成為合適的形式。而對(duì)于臨床決策類(lèi)的知識(shí)庫(kù)應(yīng)用，可綜合患者數(shù)據(jù)通過(guò)大模型進(jìn)行解析，在知識(shí)庫(kù)上進(jìn)行推理。

02‍

醫(yī)療大模型不能“胡說(shuō)”，部署可及性需要考慮

ChatGPT問(wèn)世后，其語(yǔ)言交互能力令人驚嘆，但“一本正經(jīng)胡說(shuō)”的情況也時(shí)有發(fā)生。在醫(yī)療領(lǐng)域，這類(lèi)可能會(huì)誤導(dǎo)診斷，甚至威脅到患者的生命健康。醫(yī)療行業(yè)的專(zhuān)業(yè)性與嚴(yán)肅性，對(duì)大模型的精準(zhǔn)度提出了極端的高要求。

日前，北京市衛(wèi)生健康委發(fā)布《北京市互聯(lián)網(wǎng)診療監(jiān)管實(shí)施辦法（試行）》便提出，嚴(yán)禁使用人工智能等自動(dòng)生成處方，嚴(yán)禁在處方開(kāi)具前向患者提供藥品。此舉意在規(guī)范互聯(lián)網(wǎng)診療活動(dòng)，亦是在降低大模型等人工智能技術(shù)可能帶來(lái)的風(fēng)險(xiǎn)。

對(duì)于大模型在醫(yī)療領(lǐng)域應(yīng)用的風(fēng)險(xiǎn)，閔棟總結(jié)了3方面風(fēng)險(xiǎn)：算法的局限性可能導(dǎo)致內(nèi)容失真，生成內(nèi)容可能出現(xiàn)錯(cuò)誤；醫(yī)療數(shù)據(jù)質(zhì)量不足，可能導(dǎo)致訓(xùn)練存在安全和隱私泄露風(fēng)險(xiǎn)；算力不足可能導(dǎo)致成本較高。

惠每科技CTO王實(shí)曾表示，對(duì)于醫(yī)療行業(yè)的企業(yè)，數(shù)據(jù)是他們獨(dú)有的優(yōu)勢(shì)。這些數(shù)據(jù)一方面為半公開(kāi)數(shù)據(jù)，包括收集了大量的醫(yī)學(xué)文獻(xiàn)的醫(yī)學(xué)知識(shí)庫(kù)、知識(shí)圖譜等；另一方面是非公開(kāi)數(shù)據(jù)，包括臨床脫敏數(shù)據(jù)、電子病歷、檢測(cè)檢驗(yàn)報(bào)告和RLHF臨床醫(yī)生反饋數(shù)據(jù)。通過(guò)使用這些數(shù)據(jù)訓(xùn)練大模型，能夠形成有別于通用基座大模型的專(zhuān)業(yè)能力。

同時(shí)，由于使用場(chǎng)景為醫(yī)療機(jī)構(gòu)，為保證數(shù)據(jù)安全和患者隱私，大模型或需要在本地部署。阮彤指出，醫(yī)療行業(yè)對(duì)患者隱私保護(hù)和數(shù)據(jù)安全的要求較高，滿(mǎn)足醫(yī)療機(jī)構(gòu)本地環(huán)境部署要求也是大模型落地的重要考量因素。考慮到醫(yī)院實(shí)際部署環(huán)境，動(dòng)輒上千億參數(shù)的通用大模型難以在院內(nèi)施展拳腳，這就要求醫(yī)療大模型不能無(wú)限“大”，而要盡可能考慮部署可及性。同時(shí)，由于醫(yī)療數(shù)據(jù)不可能外接到ChatGPT或其他外部運(yùn)營(yíng)的大模型上，這就意味著醫(yī)療機(jī)構(gòu)可控的、較為廉價(jià)的模型或是最佳選擇。

資料來(lái)源：[1]阮彤：ChatGPT等大語(yǔ)言模型對(duì)醫(yī)療信息系統(tǒng)的影響與提升——大語(yǔ)言模型在醫(yī)療行業(yè)應(yīng)用系列，中國(guó)醫(yī)院協(xié)會(huì)信息專(zhuān)業(yè)委員會(huì)‍‍[2]醫(yī)療大模型：轉(zhuǎn)瞬即逝的曇花還是跨時(shí)代的變革，動(dòng)脈網(wǎng)[3]大模型在臨床輔助診療場(chǎng)景下的問(wèn)題與探討，CDSreport

【責(zé)任編輯：王惠】

       原文標(biāo)題 : 十余個(gè)醫(yī)療大模型相繼發(fā)布，專(zhuān)家提示需注意三類(lèi)風(fēng)險(xiǎn)