T/HBSEA013—2024StandardsforMedicalLargeLanguageModelsConstructio2024-10-25發(fā)布T/HBSEA013—2024 T/HBSEA013—2024本標準按照GB/T1.1-2020《標準化工作導(dǎo)則第1部分：標準化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定起草。本標準由湖北省軟件企業(yè)協(xié)會提出并歸口。本標準起草單位：武漢大學(xué)中南醫(yī)院、湖北福鑫科創(chuàng)信息技術(shù)有限公司、武漢大學(xué)人民醫(yī)院（湖北省人民醫(yī)院）、湖北省婦幼保健院、襄陽市中心醫(yī)院、十堰市太和醫(yī)院、湖北省第三人民醫(yī)院（湖北省中山醫(yī)院）、咸寧市第一人民醫(yī)院、孝感市第一人民醫(yī)院、嘉魚縣人民醫(yī)院。本標準主要起草人：張幀、肖輝、馮輝、李成偉、張方、余莎莎、肖飛、劉曉東、王明舉、宋莉莉、張偉、陳艷林、溫陽、吳笛、伍煦、劉學(xué)賓、向晉標、何玉玉。請注意本文件的某些內(nèi)容可能涉及專利。本文件的發(fā)布機構(gòu)不承擔(dān)識別專利的責(zé)任。本標準于2024年10月首次發(fā)布。1T/HBSEA013—2024醫(yī)療大模型構(gòu)建及應(yīng)用標準本標準旨在為醫(yī)療大模型的構(gòu)建、評估、開發(fā)、部署、應(yīng)用本標準適用于醫(yī)療大模型從數(shù)據(jù)采集到場景應(yīng)用的全生命周集與預(yù)處理、模型構(gòu)建與訓(xùn)練、模型性能評估、安全與隱私、模2規(guī)范性引用文件下列文件對于本文件的應(yīng)用是必不可少的。凡版本適用于本文件。凡是不注日期的引用文件，其最新版本（GB/T41867-2022信息技3術(shù)語和定義3.1大模型大模型是指基于大規(guī)模數(shù)據(jù)集和深度學(xué)習(xí)技術(shù)訓(xùn)練的人模型結(jié)構(gòu)和大量的參數(shù)，能夠處理復(fù)雜的任務(wù)和大規(guī)模數(shù)據(jù)。大模參數(shù)多、計算資源需求高等特征。在醫(yī)療領(lǐng)域，大模型可以用于疾3.2醫(yī)療數(shù)據(jù)相關(guān)的數(shù)據(jù)。這些數(shù)據(jù)包括但不限于病歷數(shù)據(jù)、影像數(shù)據(jù)、實驗室據(jù)等。醫(yī)療數(shù)據(jù)分為結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)，來源于醫(yī)院、診中心等醫(yī)療機構(gòu)，是訓(xùn)練醫(yī)療大模型的核心資源，其質(zhì)量和數(shù)量直3.3隱私保護止數(shù)據(jù)泄露、濫用和未經(jīng)授權(quán)的訪問，確保數(shù)據(jù)主體的隱私權(quán)隱私保護的主要措施有數(shù)據(jù)加密、數(shù)據(jù)匿名化與去3.4深度學(xué)習(xí)深度學(xué)習(xí)是一種基于人工神經(jīng)網(wǎng)絡(luò)的機器學(xué)習(xí)技術(shù)，通過多層數(shù)據(jù)中自動學(xué)習(xí)特征表示和復(fù)雜模式，用于解決各類復(fù)雜任主要有卷積神經(jīng)網(wǎng)絡(luò)（CNN）、循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）、生成式對2T/HBSEA013—20243.5生成式AI生成式AI是一類人工智能技術(shù)，通過從訓(xùn)練數(shù)據(jù)中學(xué)習(xí)其始數(shù)據(jù)相似的數(shù)據(jù)。例如，生成式對抗網(wǎng)絡(luò)（GAN）和變分自編碼3.6數(shù)據(jù)標注數(shù)據(jù)標注是指對原始數(shù)據(jù)進行人工或自動的標記和分類，督信息，幫助模型學(xué)習(xí)和理解數(shù)據(jù)中的模式和特征文本標注、序列標注。圖像標注主要是對醫(yī)學(xué)影像數(shù)據(jù)中的序列標注主要是對序列數(shù)據(jù)進行標注，如標注時間4倫理與合規(guī)要求4.1倫理管理4.1.1倫理委員會倫理委員會應(yīng)作為獨立的監(jiān)督機構(gòu)，確保醫(yī)療大模型的開發(fā)和和法律要求，不受開發(fā)團隊和管理層影響。倫理委員會應(yīng)在數(shù)據(jù)收程中提供決策和倫理指導(dǎo)，確保項目的倫理合規(guī)性。4.1.2倫理評估3T/HBSEA013—20244.2數(shù)據(jù)合規(guī)要求4.2.1數(shù)據(jù)處理合規(guī)要求處理過程的透明度和公開性，向數(shù)據(jù)主體明確4.2.2數(shù)據(jù)共享合規(guī)要求法律法規(guī)，確保數(shù)據(jù)傳輸?shù)暮戏ㄐ院桶踩浴＠?，在向歐盟以5模型構(gòu)建與評估5.1數(shù)據(jù)采集與預(yù)處理5.1.1數(shù)據(jù)采集5.1.1.1數(shù)據(jù)來源和許可獲取數(shù)據(jù)前，應(yīng)確保已獲得患者知情同意和授權(quán)，以保障體檢中心等，以確保數(shù)據(jù)的多樣性和覆蓋范圍，有助于提高模型5.1.1.2數(shù)據(jù)采集過程例如，影像數(shù)據(jù)應(yīng)使用DICOM標準，電子病歷數(shù)據(jù)應(yīng)使用HL7或FHIR標準。數(shù)據(jù)采集不僅可以提高數(shù)據(jù)的時效性，還能減少因5.1.1.3數(shù)據(jù)存儲和傳輸5.1.2數(shù)據(jù)質(zhì)量控制5.1.2.1數(shù)據(jù)完整性4T/HBSEA013—2024采集、存儲、傳輸過程中不丟失、不篡改。例如，定期對數(shù)據(jù)庫進剔除不完整記錄等。插補方法可以選擇平均值插補、插值法5.1.2.2數(shù)據(jù)準確性例如，使用一致性檢查算法，發(fā)現(xiàn)和修正錯誤的日期格式、5.1.2.3數(shù)據(jù)一致性不同時間點上的一致性。例如，制定統(tǒng)一的編碼系統(tǒng)和數(shù)據(jù)格式，5.1.3數(shù)據(jù)預(yù)處理與清洗5.1.3.1數(shù)據(jù)清洗5.1.3.2數(shù)據(jù)預(yù)處理影響。例如，針對連續(xù)型數(shù)據(jù)進行歸一化，將據(jù)進行獨熱編碼（one-hotencoding），特征，提高模型性能。例如，利用PCA（主成分分特征；利用特征選擇算法，篩選出對目標變量具有5.1.4數(shù)據(jù)標注與分類5.1.4.1數(shù)據(jù)標注規(guī)范對于影像數(shù)據(jù)中的病變區(qū)域，制定詳細的標注指南，包括標注的準5T/HBSEA013—2024用RectLabel等專業(yè)的標注工具，進行圖像數(shù)據(jù)的標注；使用BRAT等工具進行文本數(shù)5.1.4.2標注質(zhì)量控制獨立標注，確保標注結(jié)果的準確性和一致性。例如，針對疑難病立專門的審核小組，對標注結(jié)果進行隨機抽樣檢查，發(fā)現(xiàn)并修正5.1.4.3數(shù)據(jù)分類使用機器學(xué)習(xí)算法進行自動分類，如決策樹算法、隨機森林算5.2模型構(gòu)建與訓(xùn)練5.2.1建模流程5.2.1.1需求分析5.2.1.2數(shù)據(jù)準備），5.2.1.3方案設(shè)計），5.2.1.4模型評價與優(yōu)化6T/HBSEA013—20245.2.1.5模型部署與維護5.2.2模型選擇與架構(gòu)設(shè)計5.2.2.1模型選擇佳的模型。復(fù)雜度過高可能導(dǎo)致訓(xùn)練緩慢和過擬合，復(fù)雜度過5.2.2.2模型架構(gòu)設(shè)計），模型的非線性特征捕獲能力。不同激活函數(shù)適用于不同類），），5.2.3模型訓(xùn)練與調(diào)參5.2.3.1模型訓(xùn)練），5.2.3.2參數(shù)調(diào)整5.2.3.3訓(xùn)練過程監(jiān)控7T/HBSEA013—2024型訓(xùn)練的穩(wěn)定性。使用可視化工具（如TensorBoard）監(jiān)控訓(xùn)練過程中的損失曲線、5.2.4模型優(yōu)化5.2.4.1模型壓縮），少存儲和計算資源。量化處理可以顯著提高模型運行效率，適5.2.4.2知識蒸餾采用蒸餾訓(xùn)練的方法，利用教師模型訓(xùn)練精簡版的學(xué)生模型，知識，提高學(xué)生模型的性能，同時減小模型規(guī)模。例如師模型，將其預(yù)測結(jié)果和隱藏層表示作為軟標簽指導(dǎo)小5.2.4.3模型融合通過多模型融合（如Bagging、Boosting、Sta），果，提高總體性能和穩(wěn)定性。例如，訓(xùn)練多個不同的模型，利用Voting或5.2.4.4算法優(yōu)化采用先進的優(yōu)化算法（如Adam、RMSprop、Ada），訓(xùn)練效率。如Adam優(yōu)化算法通過動態(tài)調(diào)整學(xué)習(xí)率，兼顧了5.3模型性能評估5.3.1評價指標為了全面衡量醫(yī)療大模型的性能，需要使用多種評價指模型在不同方面的表現(xiàn)，確保模型在臨床應(yīng)用中的5.3.1.1分類任務(wù)（用于疾病診斷、影像分類等）l準確性（Accuracy衡量模型預(yù)測正確實例占總其中，TP為真正例，TN為真負例，F(xiàn)P為假正）：8T/HBSEA013—2024l特異性（Specificity衡量模型正確識別陰性實例5.3.1.2回歸任務(wù)（用于疾病預(yù)測、風(fēng)險評分等）5.3.2評估方法與工具為了全面評估醫(yī)療大模型的性能，需要采用科學(xué)的方法5.3.2.1評估方法）：個子集，每次選擇一個子集作為驗證集，其余作為訓(xùn)練集，通過）：k次訓(xùn)練和驗證，每次選擇一個子集作為驗證集，其余k-1個子集作為訓(xùn)練集。最終）：進行模型訓(xùn)練，使用測試集進行模型評估。留出法簡單直接，但可9T/HBSEA013—20245.3.2.2評估工具(2)TensorFlow與Keras：內(nèi)置了多種模型評估方法和指標，可以方便地評估模型的分類性能?？梢允褂肧ciKit-Learn或其他工具繪制和計算。5.3.3基準測試與驗證基準測試與驗證是評估醫(yī)療大模型性能的重要環(huán)節(jié)，通過與公5.3.3.1基準測試o醫(yī)學(xué)影像：如LUNA16（肺結(jié)節(jié)檢測）、ISIC（皮膚病變分類）、o基因數(shù)據(jù)：如TCGA（癌癥基因組圖譜）、GTEx（基因表達多樣5.3.3.2模型驗證5.3.3.3報告與改進模型架構(gòu)、優(yōu)化參數(shù)、改進數(shù)據(jù)質(zhì)量等，不5.4安全與隱私5.4.1數(shù)據(jù)隱私保護5.4.1.1數(shù)據(jù)加密T/HBSEA013—2024傳輸過程中的安全性。所有數(shù)據(jù)傳輸應(yīng)通過安全通道進行加密，防密算法，保護數(shù)據(jù)在存儲中的安全性。加密密鑰應(yīng)嚴5.4.1.2數(shù)據(jù)訪問控制），分配不同的訪問權(quán)限，確保只有授權(quán)人員能夠訪問敏感數(shù)據(jù)），增加短信驗證碼、動態(tài)令牌、指紋等驗證方式，確5.4.1.3數(shù)據(jù)匿名化o差分隱私：通過添加噪聲，保護數(shù)據(jù)隱私，同時確保數(shù)據(jù)的可用性。差分隱私技術(shù)可以在不顯著影響數(shù)據(jù)分析結(jié)果的前提例如，在統(tǒng)計分析結(jié)果中添加適度噪聲，防止攻擊5.4.1.4數(shù)據(jù)偽匿名化o單向散列函數(shù)：通過單向散列函數(shù)（如SHA-256）處理，但是保留映射5.4.1.5數(shù)據(jù)使用協(xié)議使用協(xié)議應(yīng)明確數(shù)據(jù)收集的目的、范圍和使用方式，患者有權(quán)T/HBSEA013—20245.4.1.6數(shù)據(jù)使用授權(quán)5.4.2信息安全與加密5.4.2.1信息安全框架5.4.2.2數(shù)據(jù)加密例如，使用對稱加密保護數(shù)據(jù)內(nèi)容，并使用非對5.4.2.3安全協(xié)議5.4.2.4秘鑰管理可預(yù)測性。使用密鑰管理系統(tǒng)（KMS）集中管理5.4.3對抗攻擊與防御策略5.4.3.1對抗攻擊括白盒攻擊（攻擊者知曉模型內(nèi)部細節(jié)）、黑盒攻擊（攻擊者無T/HBSEA013—20245.4.3.2防御策略達式、白名單等技術(shù)，過濾和驗證輸入數(shù)據(jù)，防模型對對抗樣本的抵抗能力。對抗訓(xùn)練可以使模型在面對異常輸入(3)多模型集成：通過多模型集成，提高系統(tǒng)的抗攻擊能力。使用Bagging、Boosting等集成方法，將多模型的預(yù)測結(jié)果結(jié)合，減少單一模型對對抗樣本的依賴性。5.4.3.3防御機制），6模型部署與應(yīng)用6.1模型開發(fā)與部署6.1.1開發(fā)環(huán)境與工具6.1.1.1開發(fā)環(huán)境），o開發(fā)工具：使用版本控制工具（如Git）、集成和容器化工具（如Docker）來提高開發(fā)6.1.1.2開發(fā)工具o常用庫：包括NumPy、Pandas、Ma6.1.2部署流程與要求T/HBSEA013—20246.1.2.1部署環(huán)境(2)容器化部署：使用Docker容器化模型和所需依賴，確保部署環(huán)境的一致性和6.1.2.2部署流程6.1.2.2.1準備階段6.1.2.2.2部署階段(2)配置服務(wù)：設(shè)置模型服務(wù)端點和API接口，使用Flask、FastAPI等框架提供6.1.2.2.3測試與驗證6.1.2.3部署要求使用TLS/SSL加密傳輸數(shù)據(jù)，設(shè)置防火墻和多因素認證確保服務(wù)安全。6.1.3性能監(jiān)控與維護6.1.3.1性能監(jiān)控(1)實時監(jiān)控：使用Grafana、Prometheus等監(jiān)控工具實時監(jiān)控模型服務(wù)的性能6.1.3.2性能優(yōu)化(1)負載均衡：使用負載均衡技術(shù)（如NGINX、HAProxy將請求均勻分配到多T/HBSEA013—20246.1.3.3系統(tǒng)維護確性和有效性。新版本模型部署上生產(chǎn)環(huán)境前，需要經(jīng)過6.2模型應(yīng)用場景6.2.1AI預(yù)問診6.2.1.1場景描述AI預(yù)問診是一種利用人工智能技術(shù)模擬醫(yī)生初步診斷過程的系統(tǒng)，通過問答和癥狀分析，為患者提供初步的健康建議和指導(dǎo)。AI預(yù)問診系狀描述，AI系統(tǒng)生成預(yù)診結(jié)果，并推薦合適的科室和就醫(yī)時間。(2)醫(yī)院分診：醫(yī)院分診臺通過AI預(yù)問診系統(tǒng)快速篩查患者病情，分流至相應(yīng)科6.2.1.2實現(xiàn)要點6.2.1.2.1自然語言處理）：判斷用戶輸入的癥狀描述和求醫(yī)需求。在訓(xùn)練數(shù)據(jù)中，包含大量標6.2.1.2.2知識圖譜狀、治療方法、藥物等實體及其關(guān)聯(lián)關(guān)系。根據(jù)疾病指南、醫(yī)學(xué)文6.2.1.2.3癥狀匹配與推薦T/HBSEA013—2024不同疾病的匹配度。采用經(jīng)典的機器學(xué)習(xí)算法（如隨機森林、），6.2.1.2.4對話管理與用戶交互獲取更多有用信息。采用狀態(tài)機、規(guī)則引擎或基于深度學(xué)習(xí)的對話管理框架（如Rasa）查詢。對于在線問診界面，提供清晰的輸入框和選項按鈕；對于6.2.2生成式電子病歷6.2.2.1場景描述增強醫(yī)療數(shù)據(jù)的可用性和質(zhì)量。生成式電子病歷系統(tǒng)不僅可以6.2.2.2實現(xiàn)要點6.2.2.2.1數(shù)據(jù)輸入與識別）：用的語音識別工具包括GoogleSpeech-to-Tex癥狀描述、診斷和治療方案。提供易用的錄入接口，方便醫(yī)生6.2.2.2.2自然語言處理T/HBSEA013—20246.2.2.2.3生成式文本生成(2)預(yù)訓(xùn)練模型：利用預(yù)訓(xùn)練的語言模型（如GPT-3），對大量醫(yī)學(xué)文本數(shù)據(jù)進行6.2.2.2.4自動補全和建議），6.2.2.2.5數(shù)據(jù)存儲與管理據(jù)的完整性和一致性。使用數(shù)據(jù)庫（如MySQL、PosMongoDB）存儲結(jié)構(gòu)化數(shù)據(jù)。6.2.2.2.6數(shù)據(jù)安全與隱私保護據(jù)?；诮巧脑L問控制（RBAC）和多因素認證（MFA）6.2.2.2.7用戶界面與交互(1)UI設(shè)計：設(shè)計友好、直觀的用戶界面，方便醫(yī)生瀏覽和編輯電子病歷。界面誤，提高病歷生成的準確性。提供自動檢查和糾錯功能，6.2.3影像分析6.2.3.1場景描述進行自動分析和分類，迅速識別病變區(qū)域，提供診斷建議，顯著提T/HBSEA013—2024性。這類系統(tǒng)不僅減輕了醫(yī)生的工作負擔(dān)，還增強了診斷(1)腫瘤檢測：如肺癌、乳腺癌等通過CT、MRI影像進行早期篩查和病灶識別。6.2.3.2實現(xiàn)要點6.2.3.2.1數(shù)據(jù)加載和預(yù)處理或其他醫(yī)療影像存儲系統(tǒng)中獲取DICOM（DigitalImagingandCoo去噪：使用圖像去噪算法（如非局部均值、Wiener濾波）去除圖像中的噪o歸一化：將圖像像素值歸一化到特定范圍（如0到1）以增強對比度。o對齊：將多模態(tài)影像進行注冊和對齊，提高多模態(tài)影像的配準精度。o裁剪：將圖像裁剪到合適大小，去除不相關(guān)部分，減少計算開銷。6.2.3.2.2特征提取與建模o特征提取：通過多層卷積層提取圖像中的特征信息，如邊緣、紋理、形狀o全連接層：將特征圖展開為一維向量，進行高層次特征的組合和分類。進行遷移學(xué)習(xí)，以應(yīng)對醫(yī)學(xué)影像中數(shù)據(jù)樣本不足的問題。通過遷移模型的參數(shù)初始化新模型并進行微調(diào)，提升模型6.2.3.2.3訓(xùn)練與優(yōu)化括隨機旋轉(zhuǎn)、翻轉(zhuǎn)、縮放、平移等操作，使模型(3)優(yōu)化算法：使用優(yōu)化算法（如Adam、SGD等）進行模型訓(xùn)練，調(diào)整模），6.2.3.2.4病灶檢測與分類T/HBSEA013—2024），6.2.3.2.5結(jié)果解釋與可視化提供直觀的圖像解釋。通過熱圖等形式展示模型關(guān)注的區(qū)域，），灶檢測和分類情況。報告內(nèi)容可以包括圖像示例、病灶信息6.2.3.2.6系統(tǒng)集成與部署ArchivingandCommunicationSystems）或RIS（Radiolo(2)API服務(wù)：設(shè)計RESTfulAPI，提供影像上傳、分析和結(jié)果查詢等接口，便于系統(tǒng)集成和數(shù)據(jù)交互。使用Flask、FastAPI等框架實現(xiàn)API服務(wù)。(3)容器化部署：使用Docker容器化部署影像分析系統(tǒng)，包括模型、依賴庫和服6.2.3.2.7數(shù)據(jù)安全與隱私保護(1)數(shù)據(jù)加密：在影像數(shù)據(jù)的傳輸和存儲過程中，采用TLS/SSL加密傳輸協(xié)議和6.2.4臨床診斷6.2.4.1場景描述生提供輔助診斷建議和治療方案，從而提升臨床決策的科學(xué)性以整合患者的全面信息，包括病史、癥狀、體征、實驗室檢查過