ChatGPTChatGPT背景下的醫(yī)藥行業(yè)數(shù)字化轉(zhuǎn)型新范式研究報(bào)告CMACCMAC天士力國(guó)際基因網(wǎng)絡(luò)藥物創(chuàng)新中心南京柯基數(shù)據(jù)科技有限公司 5 6 6 7 8 8 9 1.2.5.基于人工反饋的強(qiáng)化學(xué)習(xí)（ReinforcementLearningfromHuman 15 15 15 16 17 17 17 18 20 20 20 20 21 21 21 21 23 23 23 23 23 24 242.5.2.醫(yī)學(xué)文獻(xiàn)檢索、摘要 24 24 25 25 25 27 28 28 293.2.1.總結(jié)權(quán)威信息（標(biāo) 30 31 313.2.4.挖掘藥品說(shuō)明書(shū)信息（如適應(yīng)癥、藥 33 33 35 35 36 37 37 39 39 39 41 41 47第四章現(xiàn)狀總結(jié)及展望 52 524.1.1.數(shù)據(jù)合規(guī)性及知識(shí)產(chǎn)權(quán): 524.1.2.數(shù)據(jù)安全性及私有化部署: 534.1.3.藥物警戒&不良事件監(jiān)測(cè): 534.1.4.啟動(dòng)成本和運(yùn)維成本: 534.2.未來(lái)展望 53前言化程度相比現(xiàn)有的搜索引擎和智能對(duì)話Chatbot等產(chǎn)品在多輪對(duì)話、上下文語(yǔ)義理解及推開(kāi)啟了人工智能的新紀(jì)元。隨著ChatGPT的火爆，作為典型的知識(shí)密集型行業(yè)，很多醫(yī)藥企業(yè)近期也很關(guān)注ChatGPT在醫(yī)藥行業(yè)的落地應(yīng)用以及對(duì)研發(fā)、臨床試驗(yàn)、學(xué)術(shù)推廣和患者教育等業(yè)務(wù)的影可行性的分析及建議。CMAC牽頭聯(lián)合國(guó)內(nèi)和跨國(guó)生物制藥企業(yè)研發(fā)及醫(yī)學(xué)專家、醫(yī)藥認(rèn)知智能數(shù)字化轉(zhuǎn)型提供參考。第一章ChatGPT大模型技術(shù)及通用應(yīng)用綜述的知識(shí)表示及存儲(chǔ)基礎(chǔ)，對(duì)提升系統(tǒng)的智能化程度有至關(guān)重要的作用，ChatGPT依賴的是），自然語(yǔ)言處理帶入“預(yù)訓(xùn)練”時(shí)代。然而，GPT模型當(dāng)時(shí)并沒(méi)有引起人們太多的關(guān)注，反GPT家族是OpenAI公司推出的相關(guān)產(chǎn)品，這是一種生成式語(yǔ)言模型，可用于對(duì)話、問(wèn)答、機(jī)器翻譯、寫(xiě)代碼等一系列自然語(yǔ)言任務(wù)。每一代GPT相較于上一代模型的參數(shù)量積淀下來(lái)的恐怖的數(shù)據(jù)量?？梢哉f(shuō)大規(guī)模的參數(shù)與海量的訓(xùn)練數(shù)據(jù)為GPT系列模型賦能，是__”，那么GPT-3就能夠直接輸出結(jié)果“褒義”。如果在輸入中再給不過(guò)，通過(guò)對(duì)GPT-3模型能力的仔細(xì)評(píng)估發(fā)現(xiàn)，大模型并不能真正克服深度學(xué)習(xí)模型GPT模型家族的發(fā)展從GPT-3開(kāi)始分成了兩個(gè)技術(shù)路徑并行發(fā)展，一個(gè)路徑是以Codex為代表的代碼預(yù)訓(xùn)練技術(shù)，另一個(gè)路徑是以InstructGPT為代表的文本指令（Instruction）預(yù)訓(xùn)練技術(shù)。但這兩個(gè)技術(shù)路徑不是始終并行發(fā)展的，而是到了一定階段后進(jìn)入了融合式預(yù)訓(xùn)練的過(guò)程，并通過(guò)指令學(xué)習(xí)（InstructionTuning）、有監(jiān)督精調(diào)（SupervisedFine-tuning）以及基于人類反饋的強(qiáng)化學(xué)習(xí)（ReinforcementLearningChatGPT是現(xiàn)象級(jí)應(yīng)用，標(biāo)志著語(yǔ)言大模型已經(jīng)具備了一些通用人工智納入訓(xùn)練過(guò)程中，使模型的輸出與用戶的意圖更好地結(jié)合，如下圖所示。標(biāo)注人員根據(jù)提示（prompts）寫(xiě)一個(gè)適當(dāng)?shù)幕貜?fù)，然后使用這個(gè)有監(jiān)督的新數(shù)據(jù)集對(duì)第三步是強(qiáng)化學(xué)習(xí)，基于隨機(jī)的輸入或提示（prompts）生成答案，由獎(jiǎng)勵(lì)模型計(jì)算得分，將得分反饋到強(qiáng)化學(xué)習(xí)模型中以演變策略。了優(yōu)異泛化能力的模型，去針對(duì)性地對(duì)下游任務(wù)進(jìn)行微調(diào)。在GPT被提出之前，大多數(shù)深度學(xué)習(xí)方法都需要大量人工標(biāo)注的高質(zhì)量數(shù)據(jù)，但是標(biāo)masked-language-modeling（其輸入句子中的一些詞被替換為[MASK]，模型被要求預(yù)測(cè)應(yīng)該插入到[MASK]位置的正確的詞），如下數(shù)，將生成內(nèi)容匹配到某一分類標(biāo)簽。下的語(yǔ)境學(xué)習(xí)（In-contextlearning），即在提示中加入幾個(gè)完整的例子，如“美國(guó)的首都是華盛頓，法國(guó)的首都是巴黎，英國(guó)的首都是____”，以及在推理任務(wù)上的思維鏈1.2.3.指令精調(diào)（Instructi希望通過(guò)構(gòu)造“指令（Instruction）”并微調(diào)的方式，學(xué)習(xí)人類交互模式的分布，使模型匹配的正確回復(fù)。的API后的真實(shí)人機(jī)交互數(shù)據(jù)，這些數(shù)據(jù)在使用之前都經(jīng)過(guò)了信息去重和敏感信息過(guò)濾；另一部分?jǐn)?shù)據(jù)則來(lái)自于人工標(biāo)注。為了使標(biāo)注人員能夠標(biāo)注出高質(zhì)量的數(shù)據(jù)集，OpenAI通過(guò)前期的審核和面試，聘請(qǐng)了一個(gè)由40人組成的其二是小樣本（Few-shot）數(shù)據(jù)，由標(biāo)注人員寫(xiě)出“指令”和一些對(duì)應(yīng)的問(wèn)答對(duì)，用于訓(xùn)人類在解決數(shù)學(xué)應(yīng)用題這類復(fù)雜推理任務(wù)的過(guò)程中，通常會(huì)將問(wèn)題分解為多個(gè)中間步操作等任務(wù)，而且可能適用任何需要通過(guò)語(yǔ)言解決的問(wèn)題。1.2.5.基于人工反饋的強(qiáng)化學(xué)習(xí)（ReinforcementLearningfromHumanRLHF是ChatGPT/InstrcutGPT實(shí)現(xiàn)與人負(fù)面影響結(jié)果的重要技術(shù)。該算法在強(qiáng)化學(xué)習(xí)框架生成策略優(yōu)化階段，給定習(xí)得的獎(jiǎng)勵(lì)模型，ChatGPT/Instru），經(jīng)典的AI技術(shù)應(yīng)用范式分為四個(gè)步驟：定義問(wèn)題、收集數(shù)據(jù)、模型訓(xùn)進(jìn)入大模型時(shí)代后，AI技術(shù)的應(yīng)用范式變?yōu)樯贁?shù)有能力的機(jī)構(gòu)完成大模型訓(xùn)練，并以極低的成本提供給其他AI開(kāi)發(fā)人員使用，AI應(yīng)用的開(kāi)發(fā)過(guò)程僅包含定義任務(wù)、ChatGPT和知識(shí)圖譜是兩種不同的技術(shù)，它們有各自的優(yōu)缺點(diǎn)和應(yīng)用如下圖所示是一個(gè)典型的醫(yī)學(xué)知識(shí)圖譜，建立了“疾病-癥狀-藥品-特殊人群”等非常結(jié)構(gòu)能領(lǐng)域符號(hào)派的代表。ChatGPT是一種基于深度神經(jīng)網(wǎng)絡(luò)的語(yǔ)言模型，可以理解自然語(yǔ)言的輸入庫(kù)中，而ChatGPT是將知識(shí)隱性的存儲(chǔ)ChatGPT在自然語(yǔ)言處理領(lǐng)域取得了很大的成功，但是目前仍沒(méi)有解言的方式提供給ChatGPT，可以有效提升ChatGPT對(duì)領(lǐng)域知識(shí)的準(zhǔn)確性。可力，可通過(guò)設(shè)計(jì)特殊的知識(shí)抽取prompt富。這樣可以加速知識(shí)圖譜的構(gòu)建過(guò)程，并且ChatGPT還可以對(duì)數(shù)據(jù)進(jìn)行預(yù)標(biāo)注，在一些ChatGPT對(duì)數(shù)據(jù)進(jìn)行預(yù)標(biāo)注，再將得到的標(biāo)注數(shù)據(jù)引入特殊場(chǎng)所進(jìn)行小模型的訓(xùn)練，可以因此，ChatGPT和知識(shí)圖譜是相互補(bǔ)充的技術(shù)，它們可以優(yōu)勢(shì)，為人工智能應(yīng)用提供更加豐富、多樣化的解決方案。代碼翻譯、bug修復(fù)等。微軟在2023年3月發(fā)布了基于GPT-4的編程助手創(chuàng)作會(huì)逐步形成全新的創(chuàng)意產(chǎn)業(yè)生態(tài)價(jià)值鏈。做好問(wèn)答式搜索還需要很多提升。主”生成一些原本不存在的新點(diǎn)子，基于這一特點(diǎn)，教師可以使用ChatGPT來(lái)尋找課程設(shè)計(jì)中的靈感。ChatGPT還能為教師提供個(gè)性化、針對(duì)性、新穎而貼切的教案內(nèi)容，引發(fā)學(xué)生興趣。當(dāng)學(xué)生遇到相應(yīng)問(wèn)題時(shí)，可以先使用ChatGPT獲取回答，在此基礎(chǔ)上仍存在華為盤(pán)古。華為在2021年基于昇騰AI與鵬城實(shí)驗(yàn)室聯(lián)合發(fā)布了鵬程盤(pán)古大模型。盤(pán)大模型。騰訊混元。騰訊在2022年發(fā)布混元AI大模型，其中包含NLP、CV和多模態(tài)等基礎(chǔ)模型和眾多行業(yè)/領(lǐng)域模型。到今年2月初，騰訊混元AI大模型團(tuán)隊(duì)再推出萬(wàn)億中文NLP360搜索。在360主辦的2023數(shù)字安全與發(fā)展高峰論商湯商量。商湯在2023年4月10日發(fā)布了自研類ChatGPT產(chǎn)品，名曰商量這個(gè)體系中還包括秒畫(huà)（AI作畫(huà)）、如影（AI數(shù)字人生成）?！杏㈦p語(yǔ)對(duì)話模型ChatGLM-6B，支持在單張消費(fèi)級(jí)顯卡上進(jìn)行推理使用。這是繼此谷歌Bard。谷歌在2023年2月7日發(fā)布了其下一代對(duì)話AI系統(tǒng)，名為Bard，迎戰(zhàn)），型化、平民化研究。LLaMA130億參數(shù)版本的表現(xiàn)，在大多數(shù)測(cè)試上優(yōu)于GPT-31750億大模型。第二章ChatGPT大模型在醫(yī)藥領(lǐng)域國(guó)內(nèi)外的應(yīng)用情況需要花費(fèi)大量人力物力，確保藥物研發(fā)的嚴(yán)謹(jǐn)、科學(xué)和安全性。其研發(fā)團(tuán)隊(duì)已在其靶點(diǎn)發(fā)現(xiàn)平臺(tái)PandaOmi基于自然語(yǔ)言的問(wèn)答，促進(jìn)更便捷發(fā)現(xiàn)潛在靶點(diǎn)和生物標(biāo)志物。注釋①有希望的藥物靶點(diǎn)和生物標(biāo)志物。更高效、準(zhǔn)確和個(gè)性化的方式來(lái)訪問(wèn)有關(guān)分子生物學(xué)、治療靶點(diǎn)發(fā)現(xiàn)和藥物開(kāi)發(fā)的信息。注之后，以大模型為基礎(chǔ)的生成式人工智能已經(jīng)在直接模擬合成及預(yù)測(cè)從未發(fā)現(xiàn)的結(jié)構(gòu)，極大擴(kuò)展初始蛋白結(jié)構(gòu)庫(kù)。注釋②命科學(xué)版ChatGPT”，由生命科學(xué)大模型驅(qū)動(dòng)的AI生成圖生科在過(guò)去2年多時(shí)間內(nèi)、近300位AI+BioTe直致力于打造的生命科學(xué)大模型xTrimo。該模型擁有千億參數(shù)，從跨物種藥效團(tuán)限制的分子生成模型，通過(guò)百萬(wàn)活性化合物小分子與其藥效團(tuán)的對(duì)應(yīng)關(guān)系進(jìn)行GPT自回歸學(xué)習(xí)；PharGPT不依賴于靶點(diǎn)結(jié)構(gòu)，即架苗頭分子。循證資料中公布的臨床試驗(yàn)結(jié)果進(jìn)行解析，并推薦合適的臨床試驗(yàn)中心及PI，為中心篩選提供科學(xué)參考，提高效率。提高整體效率。2.2.3.藥物選擇、患者入組工廠、AzureSQL數(shù)據(jù)庫(kù)等子模塊，開(kāi)發(fā)了一個(gè)能將輔助更精準(zhǔn)的藥物選擇、縮短入組時(shí)間，從而更快地為患者帶來(lái)新療法。網(wǎng)絡(luò)、大數(shù)據(jù)處理技術(shù)與生態(tài)化的健康產(chǎn)業(yè)平臺(tái)，打造“基于文心大模型的AI臨在線。該回復(fù)時(shí)間無(wú)法滿足一線千變?nèi)f化的問(wèn)詢需求。此外用戶的問(wèn)題集中，70%左右是重復(fù)問(wèn)題，仍需要人工逐一回復(fù)，導(dǎo)致浪費(fèi)表、外部醫(yī)生、護(hù)士、藥師、患者等內(nèi)外部不同類型用戶的醫(yī)學(xué)Chatbot，旨在提供更加高效、智能的醫(yī)學(xué)學(xué)術(shù)服務(wù)。醫(yī)學(xué)Chatbot學(xué)術(shù)問(wèn)答機(jī)器人就能夠較好的解決以上提及的解決更加個(gè)性化，難度較高的問(wèn)題，降低人工成本。的能力相結(jié)合。一方面，ChatGPT可以輔助內(nèi)容自動(dòng)拆解與生成，提升醫(yī)學(xué)內(nèi)容拆打標(biāo)簽的工作，又確保符合藥企的合規(guī)性。了信息來(lái)源。最近，國(guó)外一篇研究《ChatGPT在輔助測(cè)試結(jié)論：100個(gè)高階推理問(wèn)題，平均回答時(shí)間為45.31±7），題中，具備80%以上的可靠性了。注釋③功能，目前醫(yī)院科室都有較多的醫(yī)患溝通群，醫(yī)務(wù)療效率。些長(zhǎng)難句ChatGPT也能按照中文的表達(dá)方式做相應(yīng)處理，專業(yè)內(nèi)容也基本維持原意。英語(yǔ)文章潤(rùn)色是醫(yī)學(xué)從業(yè)人員的一個(gè)重要需求，由于有大量的英語(yǔ)語(yǔ)料作為支撐，讓Ferma.AI實(shí)現(xiàn)了理解和分析生物制藥數(shù)據(jù)源的能力，成為了醫(yī)學(xué)會(huì)議大模型產(chǎn)品。目前這家公司已提供了一個(gè)基于佛羅里達(dá)奧蘭多舉行的語(yǔ)音識(shí)別子公司NuanceCommunications發(fā)布一款A(yù)I臨床筆記軟件，即DragonAmbienteXperience（DAX?)Express。這是一個(gè)集成到工作流程中的自動(dòng)化臨床文和自然語(yǔ)言功能相結(jié)合的應(yīng)用程序。DAXExpress擴(kuò)展了久經(jīng)考驗(yàn)的DragonMedical行政負(fù)擔(dān)，使臨床醫(yī)生能夠花更多的時(shí)間照顧患者，減少文書(shū)工作的時(shí)間?？p集成到醫(yī)生的工作流程中，重塑護(hù)理服務(wù)，減少臨床醫(yī)生的倦怠?；蛲ㄟ^(guò)遠(yuǎn)程醫(yī)療患者對(duì)話立即用于臨床審查和完成。臨床醫(yī)生將受益于DragonMedical診后，減輕認(rèn)知負(fù)擔(dān)。注釋④第三章ChatGPT在生物醫(yī)藥場(chǎng)景測(cè)試及對(duì)比分析備一定的理解和分析能力。點(diǎn)評(píng)：讀文獻(xiàn)，提煉關(guān)鍵信息，做總結(jié)是研究人員最基本工作。ChatGPT總結(jié)起來(lái)，符合提問(wèn)需求，可為研究人員提供了參考。新靶點(diǎn)，給出預(yù)測(cè)活性值和預(yù)測(cè)方法。果可以看出，ChatGPT只是列舉了二甲雙胍的部分靶點(diǎn)，而非最完整的答案。為避免提問(wèn)多方挖掘和驗(yàn)證。要信息。ChatGPT系統(tǒng)給出了5大領(lǐng)域藥物，然而這些內(nèi)容不具有提問(wèn)：蛋白網(wǎng)絡(luò)互作分析網(wǎng)站點(diǎn)評(píng)：ChatGPT匯總了常用的網(wǎng)站，總結(jié)的比較好，說(shuō)明基本的數(shù)據(jù)挖掘和邏輯總結(jié)），還提及兩個(gè)其他的評(píng)估標(biāo)準(zhǔn)，但是否為最全答案，還需要專業(yè)人員進(jìn)行深入挖掘和分析。3.2.2.挖掘和理解中國(guó)指南內(nèi)容議第1次檢測(cè)應(yīng)在治療后4周左右，然后每3個(gè)月療后兩年以內(nèi)，建議每3~4個(gè)月檢測(cè)一次。治療兩年以后，如果病毒載艾滋病患者開(kāi)始治療后什么時(shí)候檢測(cè)病毒載量？多久復(fù)測(cè)？點(diǎn)評(píng)：ChatGTP無(wú)法捕捉這段文字來(lái)自指南，更沒(méi)有該指南的相關(guān)信息，中肯的結(jié)論。提問(wèn)：關(guān)于瑞新托與善思答療效、安全性等方面對(duì)比點(diǎn)評(píng)：藥品信息比對(duì)是重要信息。ChatGPT雖然給出了答案，但顯然都是錯(cuò)誤3.2.4.挖掘藥品說(shuō)明書(shū)信息（如適應(yīng)癥、藥理機(jī)制等）提問(wèn)：芍麻止痙顆粒的適應(yīng)癥有哪些？點(diǎn)評(píng)：ChatGPT的結(jié)論邏輯性很強(qiáng)，但是內(nèi)容跟藥物說(shuō)明書(shū)有很大出第一輪提問(wèn)：現(xiàn)在獲批用于mHSPC治療的藥物有多少？點(diǎn)評(píng)：ChatGPT實(shí)現(xiàn)了簡(jiǎn)單的多輪問(wèn)答，對(duì)替代性的簡(jiǎn)述語(yǔ)義有一定的理解能力，輸），提問(wèn)：病理分期為Ⅱ期的結(jié)腸癌，如何選擇輔助化療方案？的答案，我們可以看出，ChatGPT有一定的學(xué)習(xí)能力，通過(guò)與人類對(duì)話答案的質(zhì)量。點(diǎn)評(píng)：以醫(yī)生角色做提問(wèn)，ChatGPT有一定的語(yǔ)義理解和信息挖掘，能站在醫(yī)生的角度進(jìn)行專業(yè)闡述，口語(yǔ)化較高。提問(wèn)：篩選差異表達(dá)基因方法點(diǎn)評(píng)：ChatGPT可以根據(jù)醫(yī)患不同角色給出響應(yīng)需求的答案。但是，由于患者的提問(wèn)常常更具有口語(yǔ)化和不規(guī)范性，其內(nèi)容對(duì)于語(yǔ)義理解的要求更高。目前階段，ChatGPT對(duì)ChatGPT不僅僅應(yīng)用與問(wèn)答與文獻(xiàn)總結(jié)、對(duì)比，在醫(yī)學(xué)信息抽取的能力上也別任務(wù)上已經(jīng)可以勝任基本的業(yè)務(wù)需求，只要提示（prompt）使用得當(dāng)ChatGPT在生物醫(yī)藥領(lǐng)域的實(shí)體識(shí)別能力較強(qiáng)，可以從識(shí)別生物醫(yī)藥調(diào)控機(jī)制，誘導(dǎo)腫瘤干細(xì)胞分化、逆轉(zhuǎn)腫瘤細(xì)胞的上皮間充質(zhì)表型轉(zhuǎn)化（EMT）等作用，ChatGPT在生物醫(yī)藥領(lǐng)域的實(shí)體識(shí)別精確率非常高，極少出現(xiàn)識(shí)別錯(cuò)ChatGPT可以完成復(fù)雜的實(shí)體識(shí)別任務(wù)，例如非連續(xù)實(shí)體識(shí)別，在系統(tǒng)腫瘤細(xì)胞”中準(zhǔn)確提取了“血液系統(tǒng)”和“淋巴系統(tǒng)”。結(jié)論不嚴(yán)謹(jǐn)，可能是提示使用不正確導(dǎo)致。ChatGPT不能保證穩(wěn)定的實(shí)體抽取結(jié)果，同樣的問(wèn)題且不改變?nèi)魏巫址珻hatGPT在生物醫(yī)藥領(lǐng)域有很強(qiáng)的關(guān)系抽取能力，可以從文本中但該問(wèn)題的難點(diǎn)在于如何正確的向ChatGPT提問(wèn)題，也就是如何有效的向ChatGPT描述并誘導(dǎo)細(xì)胞凋亡；誘導(dǎo)和激活自然殺傷細(xì)胞（NK）和抗原特異性細(xì)胞毒T細(xì)胞（CTL）介控機(jī)制，誘導(dǎo)腫瘤干細(xì)胞分化、逆轉(zhuǎn)腫瘤細(xì)胞的上皮間充質(zhì)表型轉(zhuǎn)化（EMT）等作用，進(jìn)而在恢復(fù)耐藥腫瘤細(xì)胞對(duì)藥物的敏感性和抑制腫瘤轉(zhuǎn)移、復(fù)發(fā)等方面發(fā)揮潛在作用。關(guān)的，對(duì)此ChatGPT的解釋是“因?yàn)榫渥拥闹髡Z(yǔ)和再看一個(gè)例子，ChatGPT仍然無(wú)法理解“治療關(guān)系”，沒(méi)有抽取出“前哨淋巴結(jié)活組織檢查，治療，早期乳腺癌”的關(guān)系。4）抽取結(jié)果不穩(wěn)定ChatGPT不能保證穩(wěn)定的關(guān)系抽取結(jié)果，同樣的問(wèn)題且不改變?nèi)魏巫址?，和激活自然殺傷?xì)胞（NK）和抗原特異性細(xì)胞毒T細(xì)胞（CTL）介導(dǎo)的腫瘤殺傷效果。例如增加了樣本三元組“（ALND，治療，早期乳腺癌）”,ChatGPT可以學(xué)習(xí)并輸