第十章AI智能體行業(yè)案例

（待更新）10.1概述

10.2法律行業(yè)案例

10.3金融行業(yè)案例

10.4教育行業(yè)案例

10.5醫(yī)療行業(yè)案例

目錄10.1概述隨著大模型技術(shù)的發(fā)展，如何利用AI智能體更好地賦能垂直行業(yè)是工業(yè)界和學(xué)術(shù)界共同關(guān)注的問題，我們結(jié)合法律、金融和教育等行業(yè)背景，搭建多種形式的智能體，并重點(diǎn)討論在不同業(yè)務(wù)需求下的智能體設(shè)計(jì)決策。10.1概述

10.2法律行業(yè)案例

10.3金融行業(yè)案例

10.4教育行業(yè)案例

10.5醫(yī)療行業(yè)案例

目錄10.2法律行業(yè)案例近年來，企業(yè)、高校和政府紛紛推出了法律行業(yè)大模型，包括阿里的通義法睿、北京大學(xué)的ChatLaw和最高人民法院的法信法律基座大模型等。這些法律大模型涵蓋了法律咨詢、文書生成、法律檢索和合同審查等豐富的功能解決了傳統(tǒng)法律工作中存在的效率低下和信息分析不足的問題。10.2.1法律咨詢智能體在法律相關(guān)功能中，法律咨詢尤為重要，其核實(shí)價(jià)值主要體現(xiàn)在以下幾個(gè)方面。首先，許多人對法律知識的了解相對有限，而律師咨詢助手能夠有效解答常見法律問題，幫助公眾提升法律意識。其次，在線咨詢的便捷性使得用戶可以隨時(shí)隨地獲取法律建議，可以節(jié)省了寶貴的時(shí)間和精力。此外，與傳統(tǒng)的面對面咨詢相比，在線咨詢通常費(fèi)用更低，適合預(yù)算有限的用戶，具有較高的成本效益。然后，隱私保護(hù)也是一個(gè)關(guān)鍵因素，很多人對面對面咨詢可能存在顧慮，而在線咨詢提供了更高的隱私保障。本節(jié)將圍繞法律咨詢展開探討，通過搭建單智能體并配置知識庫，實(shí)現(xiàn)對特定法律問題的理解、法律條文的解釋、解決方案的提供以及行動建議等功能，其最終效果如下圖10.2.2關(guān)鍵設(shè)計(jì)盡管直接采用專用的法律行業(yè)大模型通常能夠?qū)崿F(xiàn)更高的性能和更精確的回答，但其成本遠(yuǎn)高于基于通用模型構(gòu)建的智能體方案。以通義法睿為例，其法律咨詢功能的API調(diào)用費(fèi)用為每次0.7元，而類似DeepSeek-V3等通用大模型的處理成本，即便考慮百萬token的輸入量，也僅在2元以內(nèi)。因此，從成本效益和部署靈活性等角度出發(fā)，基于通用模型構(gòu)建法律咨詢助手的智能體在實(shí)際應(yīng)用中具有很大的吸引力和推廣價(jià)值。與此同時(shí)，大模型在生成內(nèi)容時(shí)常會出現(xiàn)“幻覺問題”（即生成虛假的或不準(zhǔn)確的信息）這對法律領(lǐng)域的應(yīng)用提出了嚴(yán)峻的挑戰(zhàn)。為了在降低成本的同時(shí)提高回答的可信度和準(zhǔn)確性，我們采用（Retrieval-AugmentedGeneration）技術(shù)。具體而言，將首先將法律條文、判例和相關(guān)知識整理并添加到知識庫中。隨后，在用戶咨詢過程中，通過語義檢索技術(shù)定位與問題相關(guān)的法律信息，并將檢索到的內(nèi)容作為上下文補(bǔ)充，最終交由大模型處理生成高質(zhì)量的回復(fù)。這種方法不僅有效緩解了大模型幻覺問題的影響，還進(jìn)一步提升了法律咨詢助手的實(shí)用性和可控性，為其在實(shí)際場景中的廣泛應(yīng)用奠定了技術(shù)基礎(chǔ)。為了簡化設(shè)計(jì)，本節(jié)僅考慮2020年頒布的《中華人民共和國民法典》（以下簡稱“民法典”），并設(shè)計(jì)一個(gè)面向民法典的法律咨詢智能體。感興趣的讀者可以進(jìn)一步收集更全面的法律法規(guī)和裁判文書最高人民法院提供超過1.5億篇裁判文書，訪問地址為/，從而構(gòu)建功能更加強(qiáng)大的法律行業(yè)智能體。一般地，在構(gòu)建智能體時(shí)，通常需要明確限定其預(yù)期具備的功能或技能，以便更精準(zhǔn)地滿足用戶需求，從而生成更高質(zhì)量的回復(fù)。對于本節(jié)的法律咨詢智能體，其預(yù)期具備的技能包括1）解答民法典問題；和2）分析民法典案例。此外，面向特定行業(yè)的咨詢智能體一般還需要拒絕回答與主題無關(guān)的問題，以確?；貜?fù)內(nèi)容的專業(yè)性和相關(guān)性。10.2.3智能體實(shí)現(xiàn)單智能體的關(guān)鍵技術(shù)包括提示詞設(shè)計(jì)和知識庫設(shè)計(jì)。對于面向民法典的法律咨詢單智能體，核心提示詞包括，1）智能體的人設(shè)（角色），即“一個(gè)專業(yè)的民法典咨詢小助手”；2）智能體的技能，包括“解答民法典問題；分析民法典案例”；3）限制，包括要求拒絕回答無關(guān)問題并要求按格式回復(fù)。對于專業(yè)領(lǐng)域問答，一般還需要規(guī)定明確的回復(fù)格式，這可以通過少樣本提示完成。我們使用的民法典原文件是PDF格式，將在扣子中被轉(zhuǎn)換成文本格式（大模型無法直接處理Word和PDF等格式的文檔，需要轉(zhuǎn)換成純文本格式）在智能體配置的“知識”中選擇“文本”，添加已有的知識庫，在創(chuàng)建知識庫時(shí)，用戶可以上傳文檔，并設(shè)置文檔解析策略、過濾策略和分段策略等。對于簡單應(yīng)用，一般使用默認(rèn)選項(xiàng)即可。用戶還能看到原始文檔和分段后的對照信息，并能編輯、刪除、新增分段；這些分段文字將在服務(wù)器進(jìn)行嵌入等操作，用于后續(xù)的搜索。在扣子的人設(shè)與回復(fù)邏輯面板，填入以下示例提示詞，效果如下所示10.1概述

10.2法律行業(yè)案例

10.3金融行業(yè)案例

10.4教育行業(yè)案例

10.5醫(yī)療行業(yè)案例

目錄10.3金融行業(yè)案例金融行業(yè)因其與數(shù)據(jù)的高度相關(guān)性，成為最早應(yīng)用傳統(tǒng)人工智能技術(shù)的領(lǐng)域之一。近些年，以技術(shù)驅(qū)動為特征的金融科技，依托人工智能、大數(shù)據(jù)分析和區(qū)塊鏈等關(guān)鍵技術(shù)，極大地提升了金融行業(yè)的服務(wù)效率。作為一種新型生產(chǎn)方式，AI具有互補(bǔ)性、智能性、融合性、創(chuàng)造性等技術(shù)經(jīng)濟(jì)特征。金融行業(yè)中大模型廣泛應(yīng)用，包括摩根大通的AI投資顧問、招商銀行的智能客服系統(tǒng)以及平安科技的風(fēng)險(xiǎn)管理平臺等。這些金融大模型涵蓋了客戶服務(wù)、信用評分、市場預(yù)測和合規(guī)監(jiān)測等多種功能，有效解決了傳統(tǒng)金融服務(wù)中存在的響應(yīng)速度慢和數(shù)據(jù)分析不夠精準(zhǔn)的問題。通過智能化的技術(shù)手段，這些大模型不僅提升了服務(wù)效率，還增強(qiáng)了風(fēng)險(xiǎn)管理能力，為用戶提供了更加個(gè)性化和高效的金融體驗(yàn)。10.3.1征信報(bào)告生成器智能體風(fēng)險(xiǎn)管理在金融行業(yè)中非常重要，其主要體現(xiàn)在以下幾個(gè)方面。首先，許多用戶對企業(yè)信用的理解相對有限，而該智能體能夠有效解析征信報(bào)告中的各項(xiàng)指標(biāo)，幫助用戶全面了解某個(gè)企業(yè)的信用狀況。其次，自動化生成報(bào)告的便捷性使得用戶可以快速獲取所需信息，節(jié)省了大量的時(shí)間和精力。本節(jié)將圍繞征信報(bào)告生成展開探討，通過搭建智能體，實(shí)現(xiàn)對企業(yè)信用狀況信息的爬取與分析，其最終效果圖如下所示10.3.2關(guān)鍵設(shè)計(jì)在金融行業(yè)，專用的征信報(bào)告大模型如Experian和FICO的系統(tǒng)能提供極其精準(zhǔn)的信用分析和風(fēng)險(xiǎn)估，但其高昂的使用費(fèi)用常常讓用戶感到很大壓力。這些費(fèi)用在需要頻繁生成報(bào)告時(shí)，可能會迅速累積，帶來不小的經(jīng)濟(jì)負(fù)擔(dān)。相比之下，許多金融科技公司開始利用通用模型來降低成本。例如，ZestFinance利用開源的AI工具構(gòu)建了自己的信用評分系統(tǒng)，處理一份征信報(bào)告的成本顯著低于傳統(tǒng)模型。這樣，他們能夠每月為數(shù)千用戶提供信用報(bào)告，顯著降低了運(yùn)營成本，同時(shí)保持了良好的客戶滿意度。再比如，Kiva利用機(jī)器學(xué)習(xí)模型來評估借款人的信用worthiness，借助這些通用模型的靈活性，他們能夠迅速適應(yīng)不同市場的需求，提升客戶體驗(yàn)。因此，從成本效益和靈活性來看，基于通用模型的征信報(bào)告生成方案不僅能幫助金融機(jī)構(gòu)節(jié)省開支，還能在市場競爭中迅速響應(yīng)變化，提升客戶體驗(yàn)和服務(wù)效率。這種靈活性和經(jīng)濟(jì)性使得通用模型在征信領(lǐng)域的應(yīng)用越來越受到青睞。10.3.3智能體實(shí)現(xiàn)該智能體的關(guān)鍵技術(shù)是工作流的搭建，從人類的視角出發(fā)，思考我如何獲取一個(gè)公司的征信基本信息。我會直接打開常見的搜索引擎直接搜索該公司的全稱或者去國家企業(yè)信用信息公示系統(tǒng)（國家企業(yè)信用信息公示系統(tǒng)涵蓋了數(shù)百萬家企業(yè)的詳細(xì)信息，訪問地址為/index.html）進(jìn)行查詢，那么工作流也是按照這個(gè)流程工作，為了簡化設(shè)計(jì)這里只在網(wǎng)頁中搜索企業(yè)信息。用戶輸入企業(yè)名，調(diào)用bingWebSearch、search兩個(gè)"插件"（插件：可以通過API和外部數(shù)據(jù)與系統(tǒng)進(jìn)行交互，能夠增強(qiáng)模型能力），設(shè)置好這兩個(gè)節(jié)點(diǎn)10.3.3智能體實(shí)現(xiàn)在每個(gè)搜索節(jié)點(diǎn)執(zhí)行完之后，需將這幾個(gè)搜索節(jié)點(diǎn)的url合并起來，用來爬取其中的內(nèi)容。拿到了不同搜索節(jié)點(diǎn)獲取到的鏈接，接下來添加一個(gè)"LinkReaderPlugin"插件，來獲取網(wǎng)頁內(nèi)容（注意因?yàn)槲覀兪且淮蝹魅胍慌鷘rl鏈接插件，所以在參數(shù)設(shè)置中，選擇"批處理"。接下來可能會因?yàn)楦鞣N原因，網(wǎng)絡(luò)爬蟲無法對每條url都返回結(jié)果，這些無法爬取的url的結(jié)果在返回的時(shí)候是None（空），不太方便后面批量處理，因此我們需要對上面"LinkReaderPlugin"節(jié)點(diǎn)的輸出結(jié)果進(jìn)行過濾。接下來調(diào)用大模型節(jié)點(diǎn)（注意大模型節(jié)點(diǎn)也需要批處理），提示詞設(shè)計(jì)如下：10.1概述

10.2法律行業(yè)案例

10.3金融行業(yè)案例

10.4教育行業(yè)案例

10.5醫(yī)療行業(yè)案例

目錄10.4教育行業(yè)案例大型語言模型在生成文本方面展現(xiàn)了顯著的能力，使得區(qū)分人類創(chuàng)作與機(jī)器生成的文本變得愈發(fā)困難。這種變化引發(fā)了在學(xué)術(shù)誠信、虛假新聞和在線信息驗(yàn)證等領(lǐng)域的擔(dān)憂。因此，確定一段文本是由LLM輔助生成還是完全由人類撰寫變得至關(guān)重要。早在2023年，有28所英國大學(xué)宣布，明確禁止在論文和課程作業(yè)中使用ChatGPT，否則將被視為學(xué)術(shù)不端行為，將面臨開除的嚴(yán)重處分。在國內(nèi)，學(xué)生的畢業(yè)論文除了傳統(tǒng)的查重之外，也開始加入了AI查重功能。為了應(yīng)對這一挑戰(zhàn)，GPTZero等工具被相繼推出，用于檢測文本是否是由AI生成。10.4.1學(xué)術(shù)論文原創(chuàng)性評價(jià)盡管可以使用提示工程的方式檢測文本是否由AI生成，但其準(zhǔn)確率不佳。因此，我們將首先部署垂直領(lǐng)域的模型，專門用于計(jì)算文本由AI生成的概率，并開放API。然后，進(jìn)一步在扣子平臺開發(fā)插件用于調(diào)用該API，實(shí)現(xiàn)本地模型和遠(yuǎn)端智能體的協(xié)同工作，其最終效果圖如下所示10.4.2關(guān)鍵設(shè)計(jì)本節(jié)的智能體所依賴的模型是由復(fù)旦大學(xué)等團(tuán)隊(duì)研發(fā)的ImBD首先從/Jiaqi-Chen-00/ImBD分別下載其基座模型gpt-neo.2.7B（約10GB）和用于推理的微調(diào)適配器ImBD-inference（約15MB）。接下來，使用perf加載模型，并通過FastAPI搭建服務(wù)用于扣子平臺訪問。該API的訪問信息如下，其中參數(shù)task可選的是generate（默認(rèn)）、rewrite等，分別表示“生成”和“重寫”。此外，為了保證API的安全訪問，上述請求需要在請求頭添加密鑰。下面是一個(gè)完整的請求示例：上述請求的響應(yīng)也是一個(gè)JSON，其中字段probability（浮點(diǎn)數(shù)）表示輸入文本是由AI生成的概率。10.1概述

10.2法律行業(yè)案例

10.3金融行業(yè)案例

10.4教育行業(yè)案例

10.5醫(yī)療行業(yè)案例

目錄10.5醫(yī)療行業(yè)案例通用領(lǐng)域的大語言模型(LLM)，例如ChatGPT，在遵循指令和產(chǎn)生類似人類響應(yīng)方面取得了顯著的成功，這種成功間接促進(jìn)了多模態(tài)大模型的研究和發(fā)展，如通用領(lǐng)域的多模態(tài)大模型MiniGPT-4、mPLUG-Owl、Multimodal-GPT、LLaVA以及國產(chǎn)大模型豆包等。多模態(tài)（Multimodal）指的是在信息處理和交流中同時(shí)使用多種不同的模式或媒介，如文本、圖像、音頻和視頻等。其核心在于通過結(jié)合不同的表達(dá)方式，增強(qiáng)信息的傳遞效果和理解深度。多模態(tài)的意義體現(xiàn)在多個(gè)方面：首先，它能夠提供更豐富的信息，通過結(jié)合文字、圖片和視頻等方式，幫助人們更好地理解復(fù)雜概念；其次，不同的人對信息的接收方式各異，多模態(tài)能夠滿足不同學(xué)習(xí)風(fēng)格或交流偏好的需求，從而提高理解和記憶效果。此外，在人工智能和人機(jī)交互領(lǐng)域，多模態(tài)技術(shù)使計(jì)算機(jī)能夠更自然地理解和響應(yīng)人類的交流方式，例如智能助手可以同時(shí)處理語音命令和視覺輸入。多模態(tài)還能夠增強(qiáng)表達(dá)能力，在藝術(shù)和傳播中通過多樣化的表達(dá)方式提升創(chuàng)作的表現(xiàn)力和感染力。在數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)中，多模態(tài)數(shù)據(jù)融合有助于提高模型的性能，例如在情感分析中結(jié)合文本和語音數(shù)據(jù)可以更準(zhǔn)確地判斷情感狀態(tài)。多模態(tài)通過整合不同的信息形式，幫助我