20241壹錢包大模型應(yīng)用現(xiàn)狀2大模型在數(shù)據(jù)管理領(lǐng)域的應(yīng)用3大模型在數(shù)據(jù)風(fēng)控領(lǐng)域的應(yīng)用4大模型技術(shù)架構(gòu)及平臺建設(shè)RAG+PingAnGPT中石油、商城、積分應(yīng)用于H5/企微場景高效運營，及時響應(yīng)提供基于知識庫的專業(yè)問答具備智能營銷能力風(fēng)控運營應(yīng)用于風(fēng)控場景可疑案件評定地域風(fēng)險交易風(fēng)險使用習(xí)慣風(fēng)險寵物應(yīng)用于小程序的社區(qū)頁提供寵物相關(guān)知識問答提供貓狗品種介紹提供寵物飲食指南數(shù)據(jù)管理應(yīng)用于大數(shù)據(jù)內(nèi)部的數(shù)據(jù)治理場景輔助數(shù)據(jù)分類分級輔助元數(shù)據(jù)檢索壹錢包大模型的應(yīng)用場景JR/T

0197-2020金融數(shù)據(jù)安全分級指南s1~s5數(shù)據(jù)安全級別人工標(biāo)識平安大模型+RAG技術(shù)輔助標(biāo)識數(shù)據(jù)資產(chǎn)管理平臺資產(chǎn)盤點、梳理、分類數(shù)據(jù)資產(chǎn)清單元數(shù)據(jù)接入信息檢索根據(jù)指南識別數(shù)據(jù)資產(chǎn)人工打標(biāo)數(shù)據(jù)分類分級業(yè)務(wù)價值落地PingAnGPT+

RAG技術(shù)在數(shù)據(jù)安全分級場景，輔助提升人工標(biāo)識作業(yè)效率目前大模型實現(xiàn)數(shù)據(jù)安全分級準(zhǔn)確率約94%，在持續(xù)優(yōu)化迭代中?？晒?jié)省90%人工打標(biāo)工作量。場景1：輔助安全&監(jiān)管對數(shù)據(jù)的分類分級要求，可實現(xiàn)節(jié)省90%人力任務(wù)：結(jié)合你與用戶的會話記錄和已知信息做回復(fù)。注意甄別你的回復(fù)是否屬實，必要時附上信息來源。如果用戶的問題涉及到多個分類分級，請針對不同情況進(jìn)行回復(fù),按照已知信息中最接近的問題進(jìn)行答復(fù)已知信息：{context}你的角色：大數(shù)據(jù)分類分級專家拒答范圍：拒絕回答與你業(yè)務(wù)無關(guān)的問題拒絕回答政治敏感、違法違規(guī)問題拒絕回答缺少上下文的問題輸出格式:JSON格式，包含以下key:"name":{question}"lvl1":一級分類名稱"lvl2":二級分類名稱

"lvl3":三級分類名稱

"lvl4":四級分類名稱

"security":最低安全級別限制：生成內(nèi)容嚴(yán)格按照返回格式，不要輸出其他內(nèi)容。用戶問題是：{question}分類分級知識知識檢索向量模型PingAnGPTembeddingPrompt

Engineering的一種通用結(jié)構(gòu)化框架：任務(wù)(Task):明確表達(dá)你的最終目標(biāo)上下文(Context):用戶背景、相關(guān)知識等信息示例(Excamples):提供具體的例子，提高模型輸出質(zhì)量角色(Person):指定大模型扮演的角色，限定知識范圍格式(Format):期望大模型輸出的格式語氣(Tone):正式、非正式、幽默等規(guī)則學(xué)習(xí)困難花費時間多語義理解難入門門檻高分類不準(zhǔn)確

規(guī)則理解不準(zhǔn)確字段注釋不準(zhǔn)確分類一致性較差工作效率低人工處理分類規(guī)則熟悉字段注釋查閱知識向量注入embedding向量模型問:金額的分類分級是什么？向量知識庫相似知識召回填充提示詞模板提示詞模板答：{"name":"金額","lvl1":"業(yè)務(wù)","lvl2":"賬戶信息","lvl3":

"NA","lvl4":"金額信息","security":

"S3"}解決用戶痛點符合監(jiān)管規(guī)范大模型&RAG&提示詞迭代實現(xiàn)數(shù)據(jù)分類分級資產(chǎn)管理平臺-分類分級AI助手大模型元數(shù)據(jù)檢索傳統(tǒng)元數(shù)據(jù)檢索更強(qiáng)大的語義理解用戶需要年齡信息，順便帶出了年月字段供用戶參考豐富的擴(kuò)展性用戶詢問財富等級字段，不僅提供回答后，拓展出信用卡等級風(fēng)險等級等字段自定義的智能交互能力確人是否是用戶需要的，盡可能滿足用戶需求任意輸入元數(shù)據(jù)中文描述，精確檢索到對應(yīng)的元數(shù)據(jù)，不需要用戶預(yù)先選擇好數(shù)據(jù)服務(wù)對象（數(shù)據(jù)模型表、報表、標(biāo)簽、指標(biāo).....）使用門檻高固定關(guān)鍵詞模糊匹配定位范圍廣、查找困難用戶受眾窄主要面向數(shù)據(jù)開發(fā)人員及元數(shù)據(jù)

owner功能較單一無法擴(kuò)展回答無多步交互場景2：大模型嘗試實現(xiàn)元數(shù)據(jù)檢索場景3：大模型打標(biāo)商品標(biāo)簽并遷移至用戶，提升用戶標(biāo)簽豐富度用戶行為用戶基礎(chǔ)標(biāo)簽高爾夫球商體育競猜活動用戶行為用戶基礎(chǔ)標(biāo)簽商品標(biāo)簽活動標(biāo)簽商品自有標(biāo)簽活動自有標(biāo)簽體育競猜活動標(biāo)簽：體育賽事互動娛樂競猜游戲獎勵機(jī)制體育競猜活動標(biāo)簽:有參加體育競猜活動的用戶、參與的頻度用戶購買商品標(biāo)簽:有購買過高爾夫球桿的用戶、有購買過體育類商品的用戶高爾夫球桿商品標(biāo)簽：體育用品運動時尚高品質(zhì)用戶遷移標(biāo)簽體育

運動時尚高品質(zhì)賽事互動娛樂競猜游戲獎勵機(jī)制采用大模型對商城全量商品進(jìn)行打標(biāo)，大模型根據(jù)商品名稱及描述給出桿多個標(biāo)簽，再根據(jù)用戶與商品的交互品（瀏覽、點擊、加購、交易等行為權(quán)重）把標(biāo)簽遷移到用戶上。再根據(jù)商品標(biāo)簽與用戶標(biāo)簽進(jìn)行向量匹配，增加一種商品推薦的方式。商城商品營銷活動各類權(quán)益PingAnGPT商品標(biāo)簽-發(fā)散活動標(biāo)簽-發(fā)散權(quán)益標(biāo)簽-發(fā)散PingAnGPT標(biāo)簽收斂精簡商城商品營銷活動各類權(quán)益商品標(biāo)簽-收斂活動標(biāo)簽-收斂權(quán)益標(biāo)簽-收斂流程用戶行為用戶遷移標(biāo)簽3大模型數(shù)據(jù)風(fēng)控領(lǐng)域的應(yīng)用場景1：風(fēng)控運營案件處理（

30min->1min）業(yè)務(wù)痛點處置繁瑣風(fēng)控賬戶運營需要結(jié)合客戶身份、設(shè)備、操作、交易、關(guān)系等多維度信息，查詢多個頁面的結(jié)果進(jìn)行判斷處理知識龐雜不同場景有不同的業(yè)務(wù)知

識，不同案件類型有不同的作案手段，知識總量大、細(xì)節(jié)多上手困難新員工需經(jīng)過漫長培訓(xùn)、在實踐中反復(fù)訓(xùn)練，經(jīng)過數(shù)個月實操才能達(dá)到較好狀態(tài)，整體上手難度大業(yè)務(wù)價值降低處置難度將業(yè)務(wù)知識與案件經(jīng)驗封裝入大模型的tools，降低知識傳遞的成本，減少上手難度提升處置效率提高數(shù)字化運營能力，精準(zhǔn)提取關(guān)鍵信息、總結(jié)循證，降低人工失誤率，人力效能最大化保障風(fēng)控指標(biāo)增強(qiáng)風(fēng)控系統(tǒng)深度分析能力，高效精準(zhǔn)識別風(fēng)險，減少資損，為業(yè)務(wù)的穩(wěn)定發(fā)展保駕護(hù)航信息匯聚綜合風(fēng)險客戶各類信息解決方案模型判斷Agent技術(shù)判斷用戶風(fēng)決策輸出生成風(fēng)險概況和處置建議身份信息身份信息工具構(gòu)建險代理工具客戶概況核實內(nèi)容交易信息操作信息任務(wù)切分記憶管理風(fēng)險情況處理思路余額信息反查信息分析反饋總結(jié)輸出參考依據(jù)處置建議OneAgent

VS

Workflow運營主導(dǎo)，自主編排流程多次調(diào)用，分步分析概括，簡化了prompt低代碼開發(fā),低成本嘗試整合簡單風(fēng)險，聚焦復(fù)雜問題PlanningToolsMemory

Action理想狀態(tài):

強(qiáng)大的L

L

M

+

數(shù)據(jù)聚合+

復(fù)雜Prompt

+

豐富的

Tools

->風(fēng)控運營專家實際使用:

對大模型能力要求高，

大量的token+思維鏈能力;對Prompt要求高結(jié)構(gòu)復(fù)雜;穩(wěn)定性較差，調(diào)度困難;對Tools描述需清晰;Agents場景2：電話照會劇本生成業(yè)務(wù)流程數(shù)據(jù)鏈路刪/改:將大模型生成結(jié)果標(biāo)記為“錯誤”，后續(xù)通過調(diào)整模型輸入/提示詞工程進(jìn)行優(yōu)化新增:待排查風(fēng)險點-照會劇本存入數(shù)據(jù)庫，供后續(xù)RAG召回未增刪改:將大模型生成結(jié)果標(biāo)記為“正確”，添加至回歸測試用例庫電話照會劇本待排查風(fēng)險點待核查信息照會思路注意事項案件基本信息《風(fēng)控運營指導(dǎo)規(guī)范》《風(fēng)險診斷報告》知識檢索相似劇本GPT核查結(jié)果&管控建議風(fēng)險核查結(jié)果案件風(fēng)險判定管控建議場景3：管控建議及案件小結(jié)生成核查結(jié)果&管控建議對比劇本和實際通話記錄確認(rèn)各風(fēng)險點的核查結(jié)果案件整體風(fēng)險評估生成管控建議參考全流程關(guān)鍵信息生成結(jié)構(gòu)化總結(jié)文本歸檔至業(yè)務(wù)知識庫達(dá)成數(shù)據(jù)鏈路閉環(huán)案件小結(jié)電話照會劇本交互文本(ASR)GPT風(fēng)險診斷報告電話照會劇本核查結(jié)果&管控建議案件小結(jié)案件基本信息待排查風(fēng)險點核查結(jié)果管控建議GPT4大模型技術(shù)架構(gòu)及平臺建設(shè)技術(shù)底座工程建設(shè)平臺建設(shè)LLMPingAnGPTChatGLMQwenMistral向量模型BERTBGEERNIEM3E技術(shù)框架LangChainMilvusPytorchFaiss核心算法上下文融合檢索增強(qiáng)多模態(tài)處理MemoryRAG工程文檔解析IUR多策略召回Rerank多知識庫來源標(biāo)記提示詞工程場景隔離回歸測試用例庫多模板配置版本控制詞槽管理模型管理A模型配置

提示詞管理召回策略配置自動化測試……標(biāo)注平臺C挖掘標(biāo)準(zhǔn)問擴(kuò)充相似問豐富知識庫迭代提示詞……線上服務(wù)D性能監(jiān)控服務(wù)探活超時熔斷白名單……LLM服務(wù)Agent工程決策引擎工具組件化記憶管理規(guī)劃引擎WorkflowAgent協(xié)同Agent管理B角色定義技能管理節(jié)點配置流程編排……已有功能

建設(shè)中整體平臺架構(gòu)16問:怎么XXX？embedding業(yè)務(wù)知識文檔文檔片段1文檔片段2文檔片段3FAQ

1FAQ

2FAQ

3……embedding

1embedding

2embedding

3embedding

4embedding

5embedding

6……向量模型PingAnGPT答：xxxASROCR切片算法知識檢索知識向量注入任務(wù)：你需要扮演一位經(jīng)驗豐富的XX顧問，引導(dǎo)用戶提出清晰完整的問題，并基于用戶問題給出答復(fù)。已知信息：{Knowledge}用戶問題是：{question}##限制：嚴(yán)格參考已知信息，不要胡編亂造只專注于XX業(yè)務(wù)相關(guān)內(nèi)容以MarkDown格式返回你的回答:提示詞模板向量模型RAG,Retrieval-Augmented

Generation,檢索增強(qiáng)生成知識構(gòu)造->知識檢索->增強(qiáng)生成IURRerankMilvusHiveToCache通過RAG技術(shù)實現(xiàn)基于知識庫的智能回復(fù)IUR,Incomplete

Utterance

Rewriting,不完整話語重寫embedding向量知識庫向量化問:我沒有壹錢包APP知識檢索沒有檢索到知識優(yōu)化前：embedding向量知識庫問:我沒有壹錢包APP知識檢索微信小程序“小安加油”-【我的】-【我的加油券】PingAnGPTIUR

向量化問:我沒有壹錢包APP，應(yīng)該怎樣使用積分兌換的加油券？<交互歷史>問:我用積分換的券怎樣用答:壹錢包app-【加油】-【我的】-【我的加油券】多輪對話場景可能面臨的問題:隱含指代詞、省略詞隱含上下文信息難以準(zhǔn)確檢索知識無法生成預(yù)期回復(fù)解決方案:利用大模型，結(jié)合交互歷史對當(dāng)前用戶輸入進(jìn)行重寫，將缺失的信息重新納入到新生成的用戶輸入中優(yōu)化后：解決多輪對話問題IUR(Incomplete

Utterance

Rewriting)WorkflowAgent,定義多個Agent協(xié)作，通過工作流+工具調(diào)用完成任務(wù)：規(guī)劃者：理解問題，判斷調(diào)用哪個工作流觀察者：觀察工具調(diào)用結(jié)果，生成數(shù)據(jù)分析結(jié)論總結(jié)者：總結(jié)現(xiàn)有數(shù)據(jù)，生成任務(wù)的最終回復(fù)XX報告問:XXX生成xx分析報告理解問題

調(diào)用工作流Function

call