CN120200863A 基于安全上下文協(xié)議的ai交互數(shù)據(jù)保護(hù)方法及系統(tǒng)_第1頁(yè)
CN120200863A 基于安全上下文協(xié)議的ai交互數(shù)據(jù)保護(hù)方法及系統(tǒng)_第2頁(yè)
CN120200863A 基于安全上下文協(xié)議的ai交互數(shù)據(jù)保護(hù)方法及系統(tǒng)_第3頁(yè)
CN120200863A 基于安全上下文協(xié)議的ai交互數(shù)據(jù)保護(hù)方法及系統(tǒng)_第4頁(yè)
CN120200863A 基于安全上下文協(xié)議的ai交互數(shù)據(jù)保護(hù)方法及系統(tǒng)_第5頁(yè)
已閱讀5頁(yè),還剩24頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶(hù)提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

(19)國(guó)家知識(shí)產(chǎn)權(quán)局地址100083北京市海淀區(qū)五道口東王莊甲1號(hào)3幢303號(hào)申請(qǐng)人龍脈數(shù)安(北京)科技有限公司有限公司11577基于安全上下文協(xié)議的AI交互數(shù)據(jù)保護(hù)方本申請(qǐng)公開(kāi)了一種基于安全上下文協(xié)議的根據(jù)請(qǐng)求類(lèi)型查詢(xún)所需上下文范圍及安全處理應(yīng)后更新會(huì)話上下文,并更新存儲(chǔ)的上下文數(shù)客戶(hù)端應(yīng)用向應(yīng)用網(wǎng)關(guān)發(fā)送用戶(hù)請(qǐng)求,并攜帶會(huì)話標(biāo)識(shí)符客戶(hù)端應(yīng)用向應(yīng)用網(wǎng)關(guān)發(fā)送用戶(hù)請(qǐng)求,并攜帶會(huì)話標(biāo)識(shí)符網(wǎng)關(guān)接收請(qǐng)求后,根據(jù)請(qǐng)求類(lèi)型和目標(biāo)AI模型,向策略引黎查詢(xún)本次交互所需的上下文范圍及安全處理策略網(wǎng)關(guān)使用會(huì)話標(biāo)識(shí)符向安全上下文服務(wù)請(qǐng)求所需上下文數(shù)據(jù),并傳遞策略指令SCS驗(yàn)證網(wǎng)關(guān)權(quán)限后,檢索完整上下文數(shù)據(jù),并依據(jù)策略指網(wǎng)關(guān)依據(jù)SCP協(xié)議格式,將用戶(hù)當(dāng)前輸入與從SCS獲取的安全上下文數(shù)據(jù)塊組裝成最終請(qǐng)求,發(fā)送給AI模型AI模型接收請(qǐng)求后,基于收到的信息進(jìn)行處理AI模型返回處理結(jié)果,網(wǎng)關(guān)接收響應(yīng)并根據(jù)需要更新會(huì)話的上下文;網(wǎng)關(guān)再次與SCS交互,請(qǐng)求更新上下文;SCS在驗(yàn)證權(quán)限后,更新存儲(chǔ)的完整上下文網(wǎng)關(guān)將AI模型的最終響應(yīng)返回給客戶(hù)端應(yīng)用。完成整個(gè)交21.一種基于安全上下文協(xié)議的AI交互數(shù)據(jù)保護(hù)方法,其特征在于,所述方法包括:客戶(hù)端應(yīng)用向應(yīng)用網(wǎng)關(guān)發(fā)送用戶(hù)請(qǐng)求,并攜帶會(huì)話標(biāo)識(shí)符;網(wǎng)關(guān)接收請(qǐng)求后,根據(jù)請(qǐng)求類(lèi)型和目標(biāo)AI模型,向策略引擎查詢(xún)本次交互所需的上下文范圍及安全處理策略;網(wǎng)關(guān)使用會(huì)話標(biāo)識(shí)符向安全上下文服務(wù)請(qǐng)求所需上下文數(shù)據(jù),并傳遞策略指令;SCS驗(yàn)證網(wǎng)關(guān)權(quán)限后,檢索完整上下文數(shù)據(jù),并依據(jù)策略指令進(jìn)行處理;網(wǎng)關(guān)依據(jù)SCP協(xié)議格式,將用戶(hù)當(dāng)前輸入與從SCS獲取的安全上下文數(shù)據(jù)塊組裝成最終AI模型接收請(qǐng)求后,基于收到的信息進(jìn)行處理;AI模型返回處理結(jié)果,網(wǎng)關(guān)接收響應(yīng)并根據(jù)需要更新會(huì)話的上下文;網(wǎng)關(guān)再次與SCS交網(wǎng)關(guān)將AI模型的最終響應(yīng)返回給客戶(hù)端應(yīng)用,完成整個(gè)交互過(guò)程。2.根據(jù)權(quán)利要求1所述的AI交互數(shù)據(jù)保護(hù)方法,其特征在于,網(wǎng)關(guān)接收請(qǐng)求后,向策略引擎查詢(xún)本次交互所需的上下文范圍及安全處理策略,包括:網(wǎng)關(guān)解析用戶(hù)請(qǐng)求,提取請(qǐng)求類(lèi)型、目標(biāo)AI模型信息以及會(huì)話標(biāo)識(shí)符;網(wǎng)關(guān)根據(jù)提取的信息,構(gòu)造查詢(xún)請(qǐng)求,該查詢(xún)請(qǐng)求包含會(huì)話標(biāo)識(shí)符、請(qǐng)求類(lèi)型和目標(biāo)AI模型標(biāo)識(shí);網(wǎng)關(guān)將查詢(xún)請(qǐng)求發(fā)送至策略引擎,請(qǐng)求獲取與本次交互相關(guān)的上下文數(shù)據(jù)范圍和安全處理策略;策略引擎根據(jù)查詢(xún)請(qǐng)求,返回本次交互所需的上下文數(shù)據(jù)范圍,包括但不限于用戶(hù)歷史對(duì)話記錄、用戶(hù)個(gè)人身份信息、用戶(hù)偏好設(shè)置、會(huì)話狀態(tài)與中間數(shù)據(jù)以及從外部系統(tǒng)檢索的與用戶(hù)相關(guān)的實(shí)時(shí)信息,以及相應(yīng)的安全處理策略。3.根據(jù)權(quán)利要求1所述的AI交互數(shù)據(jù)保護(hù)方法,其特征在于,網(wǎng)關(guān)使用會(huì)話標(biāo)識(shí)符向安全上下文服務(wù)(SCS)請(qǐng)求所需上下文數(shù)據(jù),并傳遞策略指令,包括:網(wǎng)關(guān)根據(jù)策略引擎返回的上下文數(shù)據(jù)范圍和安全處理策略,構(gòu)造請(qǐng)求消息,該請(qǐng)求消息包含會(huì)話標(biāo)識(shí)符、所需的上下文數(shù)據(jù)范圍以及安全處理策略指令;網(wǎng)關(guān)將構(gòu)造好的請(qǐng)求消息通過(guò)安全通信通道發(fā)送至SCS,以請(qǐng)求與會(huì)話標(biāo)識(shí)符相關(guān)的上下文數(shù)據(jù);SCS接收網(wǎng)關(guān)發(fā)送的請(qǐng)求消息,解析其中的會(huì)話標(biāo)識(shí)符、上下文數(shù)據(jù)范圍和安全處理策略指令。4.根據(jù)權(quán)利要求1所述的AI交互數(shù)據(jù)保護(hù)方法,其特征在于,SCS驗(yàn)證網(wǎng)關(guān)權(quán)限后,檢索SCS對(duì)接收到的請(qǐng)求消息中的網(wǎng)關(guān)身份進(jìn)行驗(yàn)證,確認(rèn)網(wǎng)關(guān)具有請(qǐng)求上下文數(shù)據(jù)的權(quán)驗(yàn)證通過(guò)后,SCS根據(jù)會(huì)話標(biāo)識(shí)符從其存儲(chǔ)的上下文數(shù)據(jù)中檢索與該會(huì)話相關(guān)的完整上下文數(shù)據(jù),包括用戶(hù)歷史對(duì)話記錄、用戶(hù)個(gè)人身份信息、用戶(hù)偏好設(shè)置、會(huì)話狀態(tài)與中間數(shù)據(jù)以及從外部系統(tǒng)檢索的與用戶(hù)相關(guān)的實(shí)時(shí)信息;SCS依據(jù)策略指令對(duì)檢索到的上下文數(shù)據(jù)進(jìn)行分類(lèi)處理,對(duì)于允許直接傳遞的非敏感數(shù)據(jù),保留原樣;對(duì)于需要保護(hù)的敏感數(shù)據(jù),不返回原始數(shù)據(jù),而是生成一個(gè)或多個(gè)安全引3用/令牌,并將這些引用/令牌放入響應(yīng)的上下文字段中;對(duì)于策略要求完全過(guò)濾的數(shù)據(jù),直5.根據(jù)權(quán)利要求1所述的AI交互數(shù)據(jù)保護(hù)方法,其特征在于,網(wǎng)關(guān)依據(jù)SCP協(xié)議格式,將用戶(hù)當(dāng)前輸入與從SCS獲取的安全上下文數(shù)據(jù)塊組裝成最終請(qǐng)求,發(fā)送給AI模型,包括:網(wǎng)關(guān)接收SCS返回的包含引用/令牌和非敏感/脫敏數(shù)據(jù)的“安全上下文”數(shù)據(jù)塊;網(wǎng)關(guān)按照SCP協(xié)議規(guī)定的格式,將用戶(hù)當(dāng)前輸入和安全上下文數(shù)據(jù)塊進(jìn)行整合,形成完整的請(qǐng)求消息,該請(qǐng)求消息的context字段結(jié)構(gòu)化地包含非敏感數(shù)據(jù)、脫敏數(shù)據(jù)以及指向SCS中敏感數(shù)據(jù)的引用/令牌;網(wǎng)關(guān)將整合后的請(qǐng)求消息通過(guò)安全通信通道發(fā)送至AI模型,以供AI模型進(jìn)行處理。6.根據(jù)權(quán)利要求1所述的AI交互數(shù)據(jù)保護(hù)方法,其特征在于,AI模型返回處理結(jié)果,網(wǎng)關(guān)接收響應(yīng)并根據(jù)需要更新會(huì)話的上下文;網(wǎng)關(guān)再次與SCS交互,請(qǐng)求更新上下文;SCS在驗(yàn)AI模型完成處理后,將處理結(jié)果作為響應(yīng)返回給網(wǎng)關(guān);網(wǎng)關(guān)接收AI模型的響應(yīng),并根據(jù)響應(yīng)內(nèi)容判斷是否需要更新會(huì)話的上下文,如將新的用戶(hù)輸入和AI回復(fù)加入對(duì)話歷史;若需要更新,網(wǎng)關(guān)構(gòu)造包含更新內(nèi)容的請(qǐng)求消息,該請(qǐng)求消息包含會(huì)話標(biāo)識(shí)符和需要更新的上下文數(shù)據(jù);網(wǎng)關(guān)將構(gòu)造好的更新請(qǐng)求消息通過(guò)安全通信通道再次發(fā)送至SCS;SCS接收網(wǎng)關(guān)的更新請(qǐng)求,對(duì)接收的請(qǐng)求消息中的網(wǎng)關(guān)身份進(jìn)行驗(yàn)證,確認(rèn)網(wǎng)關(guān)具有更新上下文數(shù)據(jù)的權(quán)限;驗(yàn)證通過(guò)后,SCS根據(jù)會(huì)話標(biāo)識(shí)符和更新請(qǐng)求中的上下文數(shù)據(jù),更新存儲(chǔ)的與會(huì)話標(biāo)識(shí)符相關(guān)的完整上下文數(shù)據(jù)。7.一種基于安全上下文協(xié)議的AI交互數(shù)據(jù)保護(hù)系統(tǒng),其特征在于,所述系統(tǒng)包括:客戶(hù)端應(yīng)用,用于向應(yīng)用網(wǎng)關(guān)發(fā)送用戶(hù)請(qǐng)求,并攜帶會(huì)話標(biāo)識(shí)符;網(wǎng)關(guān),用于接收請(qǐng)求后,根據(jù)請(qǐng)求類(lèi)型和目標(biāo)AI模型,向策略引擎查詢(xún)本次交互所需的上下文范圍及安全處理策略;使用會(huì)話標(biāo)識(shí)符向安全上下文服務(wù)請(qǐng)求所需上下文數(shù)據(jù),并SCP協(xié)議格式,將用戶(hù)當(dāng)前輸入與從SCS獲取的安全上下文數(shù)據(jù)塊組裝成最終請(qǐng)求,發(fā)送給AI模型;網(wǎng)關(guān)接收AI模型模塊響應(yīng)并根據(jù)需要更新會(huì)話的上下文,再次與SCS交互,請(qǐng)求更新上下文;SCS在驗(yàn)證權(quán)限后,更新存儲(chǔ)的完整上下文;并將AI模型的最終響應(yīng)返回給客戶(hù)8.一種電子設(shè)備,其特征在于,包括存儲(chǔ)器和處理器,所述存儲(chǔ)器存儲(chǔ)有計(jì)算機(jī)程序,所述計(jì)算機(jī)程序被所述處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1至6任一所述的AI交互數(shù)據(jù)保護(hù)方9.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì),其特征在于,其上存儲(chǔ)有計(jì)算機(jī)程序,所述計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1至6任一所述的AI交互數(shù)據(jù)保護(hù)方法。10.一種計(jì)算機(jī)程序產(chǎn)品,包括計(jì)算機(jī)程序/指令,其特征在于,該計(jì)算機(jī)程序/指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)權(quán)利要求1至6任一所述的AI交互數(shù)據(jù)保護(hù)方法。4技術(shù)領(lǐng)域[0001]本發(fā)明涉及數(shù)據(jù)安全技術(shù)領(lǐng)域,特別涉及一種基于安全上下文協(xié)議的AI交互數(shù)據(jù)保護(hù)方法及系統(tǒng)。背景技術(shù)[0002]隨著人工智能(AI)技術(shù)的快速發(fā)展,尤其是大型語(yǔ)言模型(LLM)在各種應(yīng)用中的廣泛應(yīng)用,AI系統(tǒng)在實(shí)現(xiàn)連貫、個(gè)性化和有效的交互時(shí),需要訪問(wèn)戶(hù)歷史對(duì)話記錄、個(gè)人身份信息(PII)、偏好設(shè)置、會(huì)話狀態(tài)與中間數(shù)據(jù)以及從外部系統(tǒng)檢索的實(shí)時(shí)信息等。然而,現(xiàn)有技術(shù)在處理這些上下文信息時(shí)存在顯著的數(shù)據(jù)安全風(fēng)險(xiǎn),主要體現(xiàn)在以下幾個(gè)方面:[0003]傳輸風(fēng)險(xiǎn):盡管可以使用TLS/SSL等通道加密技術(shù),但在數(shù)據(jù)的端點(diǎn)處理(客戶(hù)端、網(wǎng)關(guān)、AI模型服務(wù)器)時(shí),數(shù)據(jù)仍可能以明文形式存在,增加了中間節(jié)點(diǎn)被攻擊時(shí)數(shù)據(jù)泄露的風(fēng)險(xiǎn)。[0004]處理風(fēng)險(xiǎn):AI模型(尤其是第三方提供的閉源模型)在處理請(qǐng)求時(shí)會(huì)接觸到完整的上下文數(shù)據(jù),其內(nèi)部的數(shù)據(jù)處理和存儲(chǔ)策略可能不受控,存在數(shù)據(jù)濫用或意外泄露的風(fēng)[0005]存儲(chǔ)風(fēng)險(xiǎn):如果上下文信息被不當(dāng)存儲(chǔ)(例如,日志記錄、緩存),可能導(dǎo)致敏感數(shù)據(jù)持久化在不安全的位置。[0006]合規(guī)性風(fēng)險(xiǎn):直接傳輸和處理包含PII的上下文信息,難以滿足GDPR、CCPA等數(shù)據(jù)保護(hù)法規(guī)對(duì)數(shù)據(jù)最小化、目的限制和用戶(hù)同意的要求。[0007]訪問(wèn)控制粗糙:難以對(duì)上下文信息進(jìn)行細(xì)粒度的訪問(wèn)控制,往往將整個(gè)上下文塊暴露給處理流程中的多個(gè)組件。[0008]因此,亟需一種新的技術(shù)方案,能夠在保證AI交互效果的同時(shí),最大限度地減少敏感上下文數(shù)據(jù)在系統(tǒng)內(nèi)部(尤其是在傳輸和提交給AI模型時(shí))的暴露,從而提高AI應(yīng)用的數(shù)據(jù)安全性與合規(guī)性。發(fā)明內(nèi)容[0009]基于此,本申請(qǐng)實(shí)施例提供了一種基于安全上下文協(xié)議的AI交互數(shù)據(jù)保護(hù)方法及系統(tǒng),解決現(xiàn)有技術(shù)中AI交互上下文數(shù)據(jù)傳輸和處理過(guò)程中的安全風(fēng)險(xiǎn)問(wèn)題。[0010]第一方面,提供了一種基于安全上下文協(xié)議的AI交互數(shù)據(jù)保護(hù)方法,該方法包括:[0011]客戶(hù)端應(yīng)用向應(yīng)用網(wǎng)關(guān)發(fā)送用戶(hù)請(qǐng)求,并攜帶會(huì)話標(biāo)識(shí)符;[0012]網(wǎng)關(guān)接收請(qǐng)求后,根據(jù)請(qǐng)求類(lèi)型和目標(biāo)AI模型,向策略引擎查詢(xún)本次交互所需的上下文范圍及安全處理策略;[0013]網(wǎng)關(guān)使用會(huì)話標(biāo)識(shí)符向安全上下文服務(wù)請(qǐng)求所需上下文數(shù)據(jù),并傳遞策略指令;[0014]SCS驗(yàn)證網(wǎng)關(guān)權(quán)限后,檢索完整上下[0015]網(wǎng)關(guān)依據(jù)SCP協(xié)議格式,將用戶(hù)當(dāng)前輸入與從SCS獲取的安全上下文數(shù)據(jù)塊組裝成5[0017]AI模型返回處理結(jié)果,網(wǎng)關(guān)接收響應(yīng)并根據(jù)需要更新會(huì)話的上下文;網(wǎng)關(guān)再次與[0018]網(wǎng)關(guān)將AI模型的最終響應(yīng)返回給客戶(hù)端應(yīng)用,完成整個(gè)交互過(guò)程。[0019]可選地,網(wǎng)關(guān)接收請(qǐng)求后,向策略引擎查詢(xún)本次交互所需的上下文范圍及安全處[0020]網(wǎng)關(guān)解析用戶(hù)請(qǐng)求,提取請(qǐng)求類(lèi)型、目標(biāo)AI模型信息以及會(huì)話標(biāo)識(shí)符;[0021]網(wǎng)關(guān)根據(jù)提取的信息,構(gòu)造查詢(xún)請(qǐng)求,該查詢(xún)請(qǐng)求包含會(huì)話標(biāo)識(shí)符、請(qǐng)求類(lèi)型和目標(biāo)AI模型標(biāo)識(shí);[0022]網(wǎng)關(guān)將查詢(xún)請(qǐng)求發(fā)送至策略引擎,請(qǐng)求獲取與本次交互相關(guān)的上下文數(shù)據(jù)范圍和安全處理策略;[0023]策略引擎根據(jù)查詢(xún)請(qǐng)求,返回本次交互所需的上下文數(shù)據(jù)范圍,包括但不限于用戶(hù)歷史對(duì)話記錄、用戶(hù)個(gè)人身份信息、用戶(hù)偏好設(shè)置、會(huì)話狀態(tài)與中間數(shù)據(jù)以及從外部系統(tǒng)檢索的與用戶(hù)相關(guān)的實(shí)時(shí)信息,以及相應(yīng)的安全處理策略。[0024]可選地,網(wǎng)關(guān)使用會(huì)話標(biāo)識(shí)符向安全上下文服務(wù)(SCS)請(qǐng)求所需上下文數(shù)據(jù),并傳[0025]網(wǎng)關(guān)根據(jù)策略引擎返回的上下文數(shù)據(jù)范圍和安全處理策略,構(gòu)造請(qǐng)求消息,該請(qǐng)求消息包含會(huì)話標(biāo)識(shí)符、所需的上下文數(shù)據(jù)范圍以及安全處理策略指令;[0026]網(wǎng)關(guān)將構(gòu)造好的請(qǐng)求消息通過(guò)安全通信通道發(fā)送至SCS,以請(qǐng)求與會(huì)話標(biāo)識(shí)符相關(guān)的上下文數(shù)據(jù);[0027]SCS接收網(wǎng)關(guān)發(fā)送的請(qǐng)求消息,解析其中的會(huì)話標(biāo)識(shí)符、上下文數(shù)據(jù)范圍和安全處理策略指令。[0029]SCS對(duì)接收到的請(qǐng)求消息中的網(wǎng)關(guān)身份進(jìn)行驗(yàn)證,確認(rèn)網(wǎng)關(guān)具有請(qǐng)求上下文數(shù)據(jù)[0030]驗(yàn)證通過(guò)后,SCS根據(jù)會(huì)話標(biāo)識(shí)符從其存儲(chǔ)的上下文數(shù)據(jù)中檢索與該會(huì)話相關(guān)的完整上下文數(shù)據(jù),包括用戶(hù)歷史對(duì)話記錄、用戶(hù)個(gè)人身份信息、用戶(hù)偏好設(shè)置、會(huì)話狀態(tài)與中間數(shù)據(jù)以及從外部系統(tǒng)檢索的與用戶(hù)相關(guān)的實(shí)時(shí)信息;[0031]SCS依據(jù)策略指令對(duì)檢索到的上下文數(shù)據(jù)進(jìn)行分類(lèi)處理,對(duì)于允許直接傳遞的非敏感數(shù)據(jù),保留原樣;對(duì)于需要保護(hù)的敏感數(shù)據(jù),不返回原始數(shù)據(jù),而是生成一個(gè)或多個(gè)安全引用/令牌,并將這些引用/令牌放入響應(yīng)的上下文字段中;對(duì)于策略要求完全過(guò)濾的數(shù)[0032]可選地,網(wǎng)關(guān)依據(jù)SCP協(xié)議格式,將用戶(hù)當(dāng)前輸入與從SCS獲取的安全上下文數(shù)據(jù)[0033]網(wǎng)關(guān)接收SCS返回的包含引用/令牌和非敏感/脫敏數(shù)據(jù)的“安全上下文”數(shù)據(jù)塊;[0034]網(wǎng)關(guān)按照SCP協(xié)議規(guī)定的格式,將用戶(hù)當(dāng)前輸入和安全上下文數(shù)據(jù)塊進(jìn)行整合,形成完整的請(qǐng)求消息,該請(qǐng)求消息的context字段結(jié)構(gòu)化地包含非敏感數(shù)據(jù)、脫敏數(shù)據(jù)以及指6向SCS中敏感數(shù)據(jù)的引用/令牌;[0035]網(wǎng)關(guān)將整合后的請(qǐng)求消息通過(guò)安全通信通道發(fā)送至AI模型,以供AI模型進(jìn)行處[0036]可選地,AI模型返回處理結(jié)果,網(wǎng)關(guān)接收響應(yīng)并根據(jù)需要更新會(huì)話的上下文;網(wǎng)關(guān)[0037]AI模型完成處理后,將處理結(jié)果作為響應(yīng)返回給網(wǎng)關(guān);[0038]網(wǎng)關(guān)接收AI模型的響應(yīng),并根據(jù)響應(yīng)內(nèi)容判斷是否需要更新會(huì)話的上下文,如將新的用戶(hù)輸入和AI回復(fù)加入對(duì)話歷史;[0039]若需要更新,網(wǎng)關(guān)構(gòu)造包含更新內(nèi)容的請(qǐng)求消息,該請(qǐng)求消息包含會(huì)話標(biāo)識(shí)符和需要更新的上下文數(shù)據(jù);[0040]網(wǎng)關(guān)將構(gòu)造好的更新請(qǐng)求消息通過(guò)安全通信通道再次發(fā)送至SCS;[0041]SCS接收網(wǎng)關(guān)的更新請(qǐng)求,對(duì)接收的請(qǐng)求消息中的網(wǎng)關(guān)身份進(jìn)行驗(yàn)證,確認(rèn)網(wǎng)關(guān)具有更新上下文數(shù)據(jù)的權(quán)限;[0042]驗(yàn)證通過(guò)后,SCS根據(jù)會(huì)話標(biāo)識(shí)符和更新請(qǐng)求中的上下文數(shù)據(jù),更新存儲(chǔ)的與會(huì)話標(biāo)識(shí)符相關(guān)的完整上下文數(shù)據(jù)。[0043]第二方面,提供了一種基于安全上下文協(xié)議的AI交互數(shù)據(jù)保護(hù)系統(tǒng),該系統(tǒng)包括:[0044]客戶(hù)端應(yīng)用,用于向應(yīng)用網(wǎng)關(guān)發(fā)送用戶(hù)請(qǐng)求,并攜帶會(huì)話標(biāo)識(shí)符;[0045]網(wǎng)關(guān),用于接收請(qǐng)求后,根據(jù)請(qǐng)求類(lèi)型和目標(biāo)AI模型,向策略引擎查詢(xún)本次交互所需的上下文范圍及安全處理策略;使用會(huì)話標(biāo)識(shí)符向安全上下文服務(wù)請(qǐng)求所需上下文數(shù)據(jù),并傳遞策略指令;SCS驗(yàn)證網(wǎng)關(guān)權(quán)限后,檢索完整上下文數(shù)據(jù),并依據(jù)策略指令進(jìn)行處理;依據(jù)SCP協(xié)議格式,將用戶(hù)當(dāng)前輸入與從SCS獲取的安全上下文數(shù)據(jù)塊組裝成最終請(qǐng)求,發(fā)送給AI模型;網(wǎng)關(guān)接收AI模型模塊響應(yīng)并根據(jù)需要更新會(huì)話的上下文,再次與SCS交互,請(qǐng)求更新上下文;SCS在驗(yàn)證權(quán)限后,更新存儲(chǔ)的完整上下文;并將AI模型的最終響應(yīng)返回[0047]第三方面,提供了一種電子設(shè)備,包括存儲(chǔ)器和處理器,存儲(chǔ)器存儲(chǔ)有計(jì)算機(jī)程序,處理器執(zhí)行計(jì)算機(jī)程序時(shí)實(shí)現(xiàn)上述第一方面任一所述的AI交互數(shù)據(jù)保護(hù)方法。[0048]第四方面,提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì),其上存儲(chǔ)有計(jì)算機(jī)程序,計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)上述第一方面任一所述的AI交互數(shù)據(jù)保護(hù)方法。[0049]第五方面,提供了一種計(jì)算機(jī)程序產(chǎn)品,其上存儲(chǔ)有計(jì)算機(jī)程序,計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)上述第一方面任一所述的AI交互數(shù)據(jù)保護(hù)方法。[0050]本申請(qǐng)實(shí)施例提供的技術(shù)方案帶來(lái)的有益效果至少包括:[0051]增強(qiáng)的數(shù)據(jù)安全性:極大減少了原始敏感數(shù)據(jù)在網(wǎng)絡(luò)傳輸和被AI模型直接處理的機(jī)會(huì)。敏感數(shù)據(jù)被安全地隔離在可信的SCS[0052]降低泄露風(fēng)險(xiǎn):即使AI模型服務(wù)或傳輸鏈路被攻破,攻擊者也只能獲取到無(wú)意義的引用/令牌或非敏感/脫敏數(shù)據(jù),原始敏感數(shù)據(jù)依然安全。[0053]更好的合規(guī)性:更易于滿足數(shù)據(jù)保護(hù)法規(guī)(如GDPR的數(shù)據(jù)最小化、目的限制原則),因?yàn)榭梢跃_控制哪些數(shù)據(jù)被處理以及如何處理。[0054]細(xì)粒度訪問(wèn)控制:通過(guò)策略引擎和SCS,可以實(shí)現(xiàn)對(duì)上下文數(shù)據(jù)基于角色、目的7的精細(xì)化訪問(wèn)控制和動(dòng)態(tài)脫敏。[0055]靈活性與可擴(kuò)展性:SCS可以作為獨(dú)立服務(wù)部署和擴(kuò)展,安全策略可以靈活配置和更新,不影響AI模型本身??梢灾С謱?duì)接不同的內(nèi)部或第三方AI模型,并應(yīng)用統(tǒng)一的安全策略。[0056]可審計(jì)性:SCS和策略引擎可以提供詳細(xì)的上下文訪問(wèn)和處理日志,便于安全審計(jì)和追蹤。附圖說(shuō)明[0057]為了更清楚地說(shuō)明本發(fā)明的實(shí)施方式或現(xiàn)有技術(shù)中的技術(shù)方案,下面將對(duì)實(shí)施方式或現(xiàn)有技術(shù)描述中所需要使用的附圖作簡(jiǎn)單地介紹。顯而易見(jiàn)地,下面描述中的附圖僅僅是示例性的,對(duì)于本領(lǐng)域普通技術(shù)人員來(lái)講,在不付出創(chuàng)造性勞動(dòng)的前提下,還可以根據(jù)提供的附圖引伸獲得其它的實(shí)施附圖。[0058]圖1為本申請(qǐng)實(shí)施例提供的AI交互數(shù)據(jù)保護(hù)方法的步驟流程圖;[0059]圖2為本申請(qǐng)實(shí)施例提供的交互流程示意圖;[0060]圖3為本申請(qǐng)實(shí)施例提供的基于安全上下文協(xié)議的AI交互數(shù)據(jù)保護(hù)系統(tǒng)架構(gòu)[0061]圖4為本申請(qǐng)實(shí)施例提供的SCP協(xié)議中上下文數(shù)據(jù)結(jié)構(gòu)示例圖;[0062]圖5為本申請(qǐng)實(shí)施例提供的一種電子設(shè)備的示意圖。具體實(shí)施方式[0063]為了使本申請(qǐng)的目的、技術(shù)方案及優(yōu)點(diǎn)更加清楚明白,以下結(jié)合附圖及實(shí)施例,對(duì)本申請(qǐng)進(jìn)行進(jìn)一步詳細(xì)說(shuō)明。應(yīng)當(dāng)理解,此處描述的具體實(shí)施例僅僅用以解釋本申請(qǐng),并不用于限定本申請(qǐng)。那些步驟或單元,而是還可包含雖然并未明確列出的但對(duì)于這些過(guò)程、方法、產(chǎn)品或設(shè)備固有的其它步驟或單元,或者基于本發(fā)明構(gòu)思進(jìn)一步的優(yōu)化方案所增加的步驟或單元。[0065]當(dāng)前,人工智能模型(如大型語(yǔ)言模型LLM)在各種應(yīng)用中扮演著越來(lái)越重要的角色。為了實(shí)現(xiàn)連貫、個(gè)性化和有效的交互,這些模型通常需要訪問(wèn)大量的上下文信息,包括但不限于:[0066]用戶(hù)歷史對(duì)話記錄、用戶(hù)個(gè)人身份信息(PII)、用戶(hù)偏好設(shè)置、會(huì)話狀態(tài)與中間數(shù)據(jù)、從外部系統(tǒng)(數(shù)據(jù)庫(kù)、API)檢索的與用戶(hù)相關(guān)的實(shí)時(shí)信息。[0067]現(xiàn)有技術(shù)通常將這些上下文信息(或其摘要)直接打包在發(fā)送給AI模型的請(qǐng)求中。這種做法存在顯著的數(shù)據(jù)安全風(fēng)險(xiǎn):模型服務(wù)器)處理時(shí)仍可能以明文形式存在,增加了中間節(jié)點(diǎn)被攻擊時(shí)數(shù)據(jù)泄露的風(fēng)險(xiǎn)。[0069]處理風(fēng)險(xiǎn):AI模型(尤其是第三方提供的閉源模型)在處理請(qǐng)求時(shí)會(huì)接觸到完整的上下文數(shù)據(jù),其內(nèi)部的數(shù)據(jù)處理和存儲(chǔ)策略可能不受控,存在數(shù)據(jù)濫用或意外泄露的風(fēng)8[0070]存儲(chǔ)風(fēng)險(xiǎn):如果上下文信息被不當(dāng)存儲(chǔ)(例如,日志記錄、緩存),可能導(dǎo)致敏感數(shù)據(jù)持久化在不安全的位置。數(shù)據(jù)保護(hù)法規(guī)對(duì)數(shù)據(jù)最小化、目的限制和用戶(hù)同意的要求。[0072]訪問(wèn)控制粗糙:難以對(duì)上下文信息進(jìn)行細(xì)粒度的訪問(wèn)控制,往往將整個(gè)上下文塊暴露給處理流程中的多個(gè)組件。[0073]因此,亟需一種新的技術(shù)方案,能夠在保證AI交互效果的同時(shí),最大限度地減少敏感上下文數(shù)據(jù)在系統(tǒng)內(nèi)部(尤其是在傳輸和提交給AI模型時(shí))的暴露,從而提高AI應(yīng)用的數(shù)據(jù)安全性與合規(guī)性。[0074]本發(fā)明涉及人工智能(AI)、數(shù)據(jù)安全和計(jì)算機(jī)網(wǎng)絡(luò)通信領(lǐng)域,特別涉及一種在AI系統(tǒng)(尤其是對(duì)話式AI、大型語(yǔ)言模型應(yīng)用)交互過(guò)程中,用于安全管理和傳輸上下文信[0075]本發(fā)明旨在解決現(xiàn)有技術(shù)中AI交互上下文數(shù)據(jù)傳輸和處理過(guò)程中的安全風(fēng)險(xiǎn)問(wèn)題,提供一種能夠有效保護(hù)敏感信息、降低數(shù)據(jù)泄露風(fēng)險(xiǎn)、滿足合規(guī)性要求的系統(tǒng)和方法。為解決上述問(wèn)題,本發(fā)明提出一種基于安全上下文協(xié)議(SecureContextProtocol,SCP,此處的SCP即為增強(qiáng)安全性的MCP概念)的AI交互數(shù)據(jù)保護(hù)系統(tǒng)及方法。其核心思想是:引入一個(gè)可信的、獨(dú)立的安全上下文管理服務(wù)(SecureContextService,SCS),并定義一References/Tokens)來(lái)代替原始的敏感數(shù)據(jù)片段,由SCS負(fù)責(zé)敏感數(shù)據(jù)的安全存儲(chǔ)、檢索、按需脫敏/過(guò)濾以及訪問(wèn)控制。[0076]請(qǐng)參考圖1,其示出了本申請(qǐng)實(shí)施例提供的一種基于安全上下文協(xié)議的AI交互數(shù)據(jù)保護(hù)方法的流程圖,該方法可以包括以下步驟:[0077]步驟1:客戶(hù)端應(yīng)用向應(yīng)用網(wǎng)關(guān)發(fā)送用戶(hù)請(qǐng)求,并攜帶會(huì)話標(biāo)識(shí)符。[0078]客戶(hù)端應(yīng)用接收用戶(hù)輸入,如文本、語(yǔ)音或其他形式的交互請(qǐng)求??蛻?hù)端應(yīng)用將用戶(hù)的輸入封裝成一個(gè)請(qǐng)求消息,并附加一個(gè)會(huì)話標(biāo)識(shí)符(SessionID),該會(huì)話標(biāo)識(shí)符用于唯一標(biāo)識(shí)當(dāng)前的交互會(huì)話。請(qǐng)求消息通過(guò)網(wǎng)絡(luò)發(fā)送到應(yīng)用網(wǎng)關(guān),通常使用HTTPS或其他安全通信協(xié)議以確保數(shù)據(jù)在傳輸過(guò)程中的保密性和完整性。例如,客戶(hù)端應(yīng)用可以是一個(gè)移動(dòng)應(yīng)用、網(wǎng)頁(yè)應(yīng)用或智能設(shè)備上的交互界面。[0079]步驟2:網(wǎng)關(guān)接收請(qǐng)求后,根據(jù)請(qǐng)求類(lèi)型和目標(biāo)AI模型,向策略引擎查詢(xún)本次交互所需的上下文范圍及安全處理策略。[0080]應(yīng)用網(wǎng)關(guān)接收客戶(hù)端應(yīng)用發(fā)送的請(qǐng)求,并解析請(qǐng)求中的用戶(hù)輸入和會(huì)話標(biāo)識(shí)符。網(wǎng)關(guān)根據(jù)請(qǐng)求的類(lèi)型(如查詢(xún)、命令、對(duì)話等)和目標(biāo)AI模型(如特定的對(duì)話式AI模型或大型語(yǔ)言模型)確定需要查詢(xún)的上下文信息范圍。網(wǎng)關(guān)構(gòu)造一個(gè)查詢(xún)請(qǐng)求,包含會(huì)話標(biāo)識(shí)符、請(qǐng)求類(lèi)型和目標(biāo)AI模型的標(biāo)識(shí),將該查詢(xún)請(qǐng)求發(fā)送給策略引擎。策略引擎根據(jù)預(yù)設(shè)的策略規(guī)則,返回本次交互所需的上下文數(shù)據(jù)范圍和安全處理策略,如哪些數(shù)據(jù)需要脫敏、哪些數(shù)據(jù)需要生成引用/令牌等。[0081]步驟3:網(wǎng)關(guān)使用會(huì)話標(biāo)識(shí)符向安全上下文服務(wù)請(qǐng)求所需上下文數(shù)據(jù),并傳遞策略[0082]應(yīng)用網(wǎng)關(guān)根據(jù)策略引擎返回的上下文數(shù)據(jù)范圍和安全處理策略,構(gòu)造一個(gè)請(qǐng)求消9息,該請(qǐng)求消息包含會(huì)話標(biāo)識(shí)符和策略指令。網(wǎng)關(guān)將該請(qǐng)求消息發(fā)送給安全上下文服務(wù)(SCS),請(qǐng)求與會(huì)話標(biāo)識(shí)符相關(guān)的上下文數(shù)據(jù)。請(qǐng)求消息通過(guò)安全通信通道發(fā)送,以確保數(shù)據(jù)的安全性。SCS接收請(qǐng)求消息后,對(duì)接收到的請(qǐng)求進(jìn)行解析,提取其中的會(huì)話標(biāo)識(shí)符和策略指令。[0083]步驟4:SCS驗(yàn)證網(wǎng)關(guān)權(quán)限后,檢索完整上下文數(shù)據(jù),并依據(jù)策略指令進(jìn)行處理。[0084]安全上下文服務(wù)(SCS)對(duì)接收到的請(qǐng)求中的網(wǎng)關(guān)身份進(jìn)行驗(yàn)證,確認(rèn)網(wǎng)關(guān)具有請(qǐng)求上下文數(shù)據(jù)的權(quán)限。驗(yàn)證通過(guò)后,SCS根據(jù)會(huì)話標(biāo)識(shí)符從其存儲(chǔ)的上下文數(shù)據(jù)中檢索與該會(huì)話相關(guān)的完整上下文數(shù)據(jù),包括用戶(hù)歷史對(duì)話記錄、用戶(hù)個(gè)人身份信息(PII)、用戶(hù)偏好設(shè)置、會(huì)話狀態(tài)與中間數(shù)據(jù)以及從外部系統(tǒng)檢索的與用戶(hù)相關(guān)的實(shí)時(shí)信息。SCS依據(jù)策略指令對(duì)檢索到的上下文數(shù)據(jù)進(jìn)行分類(lèi)處理:對(duì)于允許直接傳遞的非敏感數(shù)據(jù),保留原樣;對(duì)于需要保護(hù)的敏感數(shù)據(jù),如PII、敏感對(duì)話等,不返回原始數(shù)據(jù),而是生成一個(gè)或多個(gè)安全引用/令牌,并將這些引用/令牌放入響應(yīng)的上下文字段中;對(duì)于策略要求完全過(guò)濾的數(shù)據(jù),直[0085]步驟5:網(wǎng)關(guān)依據(jù)SCP協(xié)議格式,將用戶(hù)當(dāng)前輸入與從SCS獲取的安全上下文數(shù)據(jù)塊[0086]應(yīng)用網(wǎng)關(guān)接收SCS返回的包含引用/令牌和非敏感/脫敏數(shù)據(jù)的“安全上下文”數(shù)據(jù)完整的請(qǐng)求消息。該請(qǐng)求消息的context字段結(jié)構(gòu)化地包含非敏感數(shù)據(jù)、脫敏數(shù)據(jù)以及指向SCS中敏感數(shù)據(jù)的引用/令牌。網(wǎng)關(guān)將整合后的請(qǐng)求消息通過(guò)安全通信通道發(fā)送至AI模型,協(xié)議格式。[0087]步驟6:AI模型接收請(qǐng)求后,基于收到的信息進(jìn)行處理。[0088]AI模型接收網(wǎng)關(guān)發(fā)送的請(qǐng)求消息,并解析其中的用戶(hù)輸入和“安全上下文”數(shù)據(jù)塊。AI模型根據(jù)解析后的信息進(jìn)行處理,生成相應(yīng)的響應(yīng)。由于請(qǐng)求中的上下文數(shù)據(jù)僅包含非敏感數(shù)據(jù)、脫敏數(shù)據(jù)和無(wú)法直接解析的引用/令牌,AI模型無(wú)法接觸到原始的敏感信息,從而確保了數(shù)據(jù)的安全性。AI模型的處理過(guò)程可以包括自然語(yǔ)言理解、對(duì)話管理、知識(shí)檢索等,具體取決于AI模型的設(shè)計(jì)和功能。[0089]步驟7:AI模型返回處理結(jié)果,網(wǎng)關(guān)接收響應(yīng)并根據(jù)需要更新會(huì)話的上下文;網(wǎng)關(guān)[0090]AI模型完成處理后,將處理結(jié)果作為響應(yīng)返回給網(wǎng)關(guān)。網(wǎng)關(guān)接收AI模型的響應(yīng),并根據(jù)響應(yīng)內(nèi)容判斷是否需要更新會(huì)話的上下文,如將新的用戶(hù)輸入和AI回復(fù)加入對(duì)話歷史等。若需要更新,網(wǎng)關(guān)構(gòu)造包含更新內(nèi)容的請(qǐng)求消息,該請(qǐng)求消息包含會(huì)話標(biāo)識(shí)符和需要更新的上下文數(shù)據(jù)。網(wǎng)關(guān)將構(gòu)造好的更新請(qǐng)求消息通過(guò)安全通信通道再次發(fā)送至SCS.SCS接收網(wǎng)關(guān)的更新請(qǐng)求,對(duì)接收到的請(qǐng)求中的網(wǎng)關(guān)身份進(jìn)行驗(yàn)證,確認(rèn)網(wǎng)關(guān)具有更新上下文數(shù)據(jù)的權(quán)限。驗(yàn)證通過(guò)后,SCS根據(jù)會(huì)話標(biāo)識(shí)符和更新請(qǐng)求中的上下文數(shù)據(jù),更新存儲(chǔ)的與會(huì)話標(biāo)識(shí)符相關(guān)的完整上下文數(shù)據(jù)。[0091]步驟8:網(wǎng)關(guān)將AI模型的最終響應(yīng)返回給客戶(hù)端應(yīng)用,完成整個(gè)交互過(guò)程。[0092]應(yīng)用網(wǎng)關(guān)將AI模型返回的處理結(jié)果封裝成一個(gè)響應(yīng)消息,并通過(guò)網(wǎng)絡(luò)將該響應(yīng)消息發(fā)送回客戶(hù)端應(yīng)用??蛻?hù)端應(yīng)用接收響應(yīng)消息,并將其展示給用戶(hù),完成整個(gè)交互過(guò)程。響應(yīng)消息通常采用與請(qǐng)求相同的協(xié)議格式,如JSON、XML等,以確??蛻?hù)端應(yīng)用能夠正確解析和處理響應(yīng)內(nèi)容。[0093]綜上,如圖2給出了,本申請(qǐng)實(shí)施例提供的交互流程示意圖,其具體流程如下(以一次交互為例):[0094]1、請(qǐng)求發(fā)起:客戶(hù)端應(yīng)用向應(yīng)用網(wǎng)關(guān)發(fā)送用戶(hù)請(qǐng)求(例如,新的用戶(hù)輸入),并攜帶會(huì)話標(biāo)識(shí)符(SessionID)。[0095]2、上下文需求分析:網(wǎng)關(guān)接收請(qǐng)求,根據(jù)請(qǐng)求類(lèi)型和目標(biāo)AI模型,向策略引擎查詢(xún)本次交互所需的上下文范圍以及相應(yīng)的安全處理策略(例如,需要最近5輪對(duì)話歷史,需要用戶(hù)昵稱(chēng)但需要屏蔽用戶(hù)真實(shí)姓名)。[0096]3、安全上下文獲?。壕W(wǎng)關(guān)使用會(huì)話ID向安全上下文服務(wù)(SCS)請(qǐng)求所需的上下文數(shù)據(jù),并傳遞從策略引擎獲取的策略指令。[0098]SCS驗(yàn)證網(wǎng)關(guān)的權(quán)限。根據(jù)會(huì)話ID檢索完整的上下文數(shù)據(jù)。[0099]依據(jù)策略指令,對(duì)上下文數(shù)據(jù)進(jìn)行處理:[0100]對(duì)于允許直接傳遞的非敏感數(shù)據(jù),保留原樣。[0101]對(duì)于需要保護(hù)的敏感數(shù)據(jù)(如PII、敏感對(duì)話),SCS不返回原始數(shù)據(jù),而是生成一個(gè)或多個(gè)安全引用/令牌,并將這些引用/令牌放入響應(yīng)的上下文字段中。[0102]對(duì)于策略要求完全過(guò)濾的數(shù)據(jù),直接移除。[0103]對(duì)于需要脫敏的數(shù)據(jù)(如屏蔽部分號(hào)碼),返回脫敏后的數(shù)據(jù)。[0104]SCS將處理后的、包含引用/令牌和非敏感/脫敏數(shù)據(jù)的“安全上下文”數(shù)據(jù)塊返回給網(wǎng)關(guān)。[0105]構(gòu)建AI請(qǐng)求:網(wǎng)關(guān)依據(jù)SCP協(xié)議格式,將用戶(hù)的當(dāng)前輸入與從SCS獲取的“安全上下文”數(shù)據(jù)塊(其中敏感部分已被引用/令牌替代)組裝成最終的請(qǐng)求,發(fā)送給AI模型。[0106]5、SCP協(xié)議特點(diǎn):其context字段結(jié)構(gòu)化地包含非敏感數(shù)據(jù)、脫敏數(shù)據(jù)以及指向SCS中敏感數(shù)據(jù)的引用/令牌。[0107]6、AI模型處理:AI模型接收到請(qǐng)求。由于請(qǐng)求中的上下文只包含非敏感數(shù)據(jù)、脫敏數(shù)據(jù)和無(wú)法直接解析的引用/令牌,AI模型本身無(wú)法接觸到原始的敏感信息。它基于收到的信息進(jìn)行處理。[0108]7、響應(yīng)與上下文更新:AI模型返回響應(yīng)。網(wǎng)關(guān)接收響應(yīng)后,可能需要更新會(huì)話的上下文(例如,將新的用戶(hù)輸入和AI回復(fù)加入對(duì)話歷史)。網(wǎng)關(guān)再次與SCS交互,請(qǐng)求更新上下文。SCS在驗(yàn)證權(quán)限后,安全地更新存儲(chǔ)的完整上下文。[0109]8、返回客戶(hù)端:網(wǎng)關(guān)將AI的最終響應(yīng)返回給客戶(hù)端應(yīng)用。[0110]請(qǐng)參考圖3,其示出了本申請(qǐng)實(shí)施例提供的AI交互數(shù)據(jù)保護(hù)系統(tǒng)架構(gòu)圖。該系統(tǒng)可以包括:[0111]系統(tǒng)主要包括以下組件:[0112]客戶(hù)端應(yīng)用(ClientApplication):用戶(hù)與AI系統(tǒng)交互的前端界面。[0113]應(yīng)用網(wǎng)關(guān)/編排器(Gateway/Orchestrator):接收客戶(hù)端請(qǐng)求,負(fù)責(zé)與安全上下文服務(wù)和AI模型交互,依據(jù)SCP協(xié)議組裝和解析消息。11[0114]如圖4給出了,SCP協(xié)議中上下文數(shù)據(jù)結(jié)構(gòu)示例圖,具體地,安全上下文服務(wù)[0115]核心可信組件:負(fù)責(zé)安全地存儲(chǔ)、管理和檢索用戶(hù)的完整上下文數(shù)據(jù)(對(duì)話歷史、[0116]數(shù)據(jù)存儲(chǔ):使用加密方式存儲(chǔ)上下文數(shù)據(jù),并實(shí)施嚴(yán)格的訪問(wèn)控制。[0117]引用/令牌生成與解析:能夠?yàn)樯舷挛闹械拿舾袛?shù)據(jù)片段(如PII、特定歷史記錄段)生成唯一的、安全的引用標(biāo)識(shí)符或臨時(shí)令牌。能在授權(quán)條件下根據(jù)引用/令牌解析回原始數(shù)據(jù)(或其脫敏/過(guò)濾后的版本)。[0118]策略執(zhí)行:根據(jù)策略引擎的指令,對(duì)將要提供的上下文數(shù)據(jù)進(jìn)行過(guò)濾、脫敏或僅提供必要的非敏感部分。[0119]生命周期管理:管理上下文數(shù)據(jù)的存儲(chǔ)期限和安全刪除。[0120]策略引擎(PolicyEngine):[0121]定義數(shù)據(jù)訪問(wèn)和處理策略(例如,哪些角色/服務(wù)可以訪問(wèn)哪些類(lèi)型的上下文數(shù)據(jù),訪問(wèn)時(shí)需要進(jìn)行何種脫敏處理,哪些數(shù)據(jù)禁止發(fā)送給特定AI模型)。[0122]向網(wǎng)關(guān)/編排器和SCS提供決策支持。[0123]AI模型(AIModel):執(zhí)行核心AI推理任務(wù)。可以是內(nèi)部部署的模型,也可以是第三方模型。[0125]客戶(hù)端應(yīng)用,用于向應(yīng)用網(wǎng)關(guān)發(fā)送用戶(hù)請(qǐng)求,并攜帶會(huì)話標(biāo)識(shí)符;[0126]網(wǎng)關(guān),用于接收請(qǐng)求后,根據(jù)請(qǐng)求類(lèi)型和目標(biāo)AI模型,向策略引擎查詢(xún)本次交互所需的上下文范圍及安全處理策略;使用會(huì)話標(biāo)識(shí)符向安全上下文服務(wù)請(qǐng)求所需上下文數(shù)據(jù),并傳遞策略指令;SCS驗(yàn)證網(wǎng)關(guān)權(quán)限后,檢索完整上下文數(shù)據(jù),并依據(jù)策略指令進(jìn)行處理;依據(jù)SCP協(xié)議格式,將用戶(hù)當(dāng)前輸入與從SCS獲取的安全上下文數(shù)據(jù)塊組裝成最終請(qǐng)求,發(fā)送給AI模型;網(wǎng)關(guān)接收AI模型模塊響應(yīng)并根據(jù)需要更新會(huì)話的上下文,再次與SCS交互,請(qǐng)求更新上下文;SCS在驗(yàn)證權(quán)限后,更新存儲(chǔ)的完整上下文;并將AI模型的最終響應(yīng)返回[0128]引用/令牌機(jī)制:可以使用UUID、加密哈希、或者基于JWT的有時(shí)效性的令牌作為安全引用。SCS內(nèi)部維護(hù)引用/令牌到實(shí)際數(shù)據(jù)的映射。例如采用JWT令牌包含元數(shù)據(jù)(有效[0129]SCS實(shí)現(xiàn):可以基于安全的數(shù)據(jù)庫(kù)(如加密存儲(chǔ)的NoSQL或關(guān)系型數(shù)據(jù)庫(kù))和緩存實(shí)現(xiàn)。需要強(qiáng)大的認(rèn)證授權(quán)機(jī)制(如0Auth2,mTLS)。[0130]策略引擎實(shí)現(xiàn):可以使用OPA(OpenPolicyAgent)或自定義規(guī)則引擎。[0131]協(xié)議載體:SCP定義的上下文結(jié)構(gòu)可以承載于多種協(xié)議之上,如JSON-RPC2.0、式(使用引用/令牌)。[0132]性能考慮:SCS的性能至關(guān)重要。需要優(yōu)化數(shù)據(jù)檢索、令牌生成/解析和策略執(zhí)行的效率。可以使用緩存機(jī)制減少延遲。[0133]上下文壓縮/摘要:本方案可以與上下文壓縮或摘要技術(shù)結(jié)合。SCS在返回“安全上下文”時(shí),可以先對(duì)非敏感部分或歷史記錄進(jìn)行壓縮/摘要,再進(jìn)行引用/令牌替換。然后網(wǎng)關(guān)將result部分(或其子集)放入發(fā)往AI模型的SCP請(qǐng)求的context字段中。[0134]在一個(gè)實(shí)施例中,提供了一種電子設(shè)備,該電子設(shè)備可以是計(jì)算機(jī),其內(nèi)部結(jié)構(gòu)圖可以如圖5所示。該電子設(shè)備包括通過(guò)系統(tǒng)總線連接的處理器、存設(shè)備的處理器用于提供計(jì)算和控制能力。該設(shè)備的存儲(chǔ)器包括非易失性存儲(chǔ)介質(zhì)、內(nèi)存儲(chǔ)器。該非易失性存儲(chǔ)介質(zhì)存儲(chǔ)有操作系統(tǒng)、計(jì)算機(jī)程序和數(shù)據(jù)庫(kù)。該內(nèi)存儲(chǔ)器為非易失性存儲(chǔ)介質(zhì)中的操作系統(tǒng)和計(jì)算機(jī)程序的運(yùn)行提供環(huán)境。該計(jì)算機(jī)設(shè)備的數(shù)據(jù)庫(kù)用于基于安全上下文協(xié)議的AI交互

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶(hù)所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶(hù)上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶(hù)上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶(hù)因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論