人工智能大語(yǔ)言模型應(yīng)用教程模塊9知識(shí)庫(kù)與大模型集成應(yīng)用學(xué)習(xí)

目標(biāo)

了解大語(yǔ)言模型如何與知識(shí)庫(kù)相互整合的優(yōu)勢(shì)；

理解“大語(yǔ)言模型幻覺(jué)”概念及改進(jìn)方案；

理解文本向量化在RAG應(yīng)用中的作用；

會(huì)搭建知識(shí)庫(kù)與大模型集成應(yīng)用開(kāi)發(fā)環(huán)境；

會(huì)通過(guò)建立知識(shí)庫(kù)增強(qiáng)檢索解決大語(yǔ)言模型存在的“幻覺(jué)”等問(wèn)題；

會(huì)開(kāi)發(fā)檢索增強(qiáng)生成系統(tǒng)應(yīng)用程序；

培養(yǎng)嚴(yán)謹(jǐn)認(rèn)真的工作態(tài)度，養(yǎng)成規(guī)范操作的習(xí)慣；

養(yǎng)成規(guī)范編寫(xiě)代碼的習(xí)慣，培養(yǎng)代碼調(diào)試能力；

培養(yǎng)遵守法律意識(shí)，養(yǎng)成良好的職業(yè)素養(yǎng)。9.2知識(shí)庫(kù)與大模型集成應(yīng)用設(shè)計(jì)目標(biāo)開(kāi)發(fā)環(huán)境原理學(xué)習(xí)實(shí)驗(yàn)步驟9.39.49.19.1設(shè)計(jì)目標(biāo)大語(yǔ)言模型能力與語(yǔ)料數(shù)量、質(zhì)量直接相關(guān)，預(yù)訓(xùn)練和微調(diào)都難覆蓋所有知識(shí)，在專業(yè)領(lǐng)域易出現(xiàn)“幻覺(jué)”，限制其應(yīng)用。解決辦法有參數(shù)微調(diào)、外掛知識(shí)庫(kù)增強(qiáng)檢索，本章節(jié)重點(diǎn)學(xué)習(xí)外掛知識(shí)庫(kù)增強(qiáng)檢索。設(shè)計(jì)目標(biāo)9.2開(kāi)發(fā)環(huán)境開(kāi)發(fā)環(huán)境

硬件：服務(wù)器、推理卡（NVIDIA16G顯存以上）

軟件：Python、大語(yǔ)言模型ChatGLM3-6B9.3原理學(xué)習(xí)系統(tǒng)功能概要大語(yǔ)言模型的輸入更為豐富，不但有用戶提出的原始問(wèn)題，還有從知識(shí)庫(kù)里檢索出來(lái)的條目，這樣就對(duì)輸入條件比只有原始問(wèn)題要豐富得多，給大模型輸入的上下文較為完整，這樣可有效地減少“大語(yǔ)言模型幻覺(jué)”的問(wèn)題。01與對(duì)大語(yǔ)言模型微調(diào)相比，外掛知識(shí)庫(kù)的辦法可以節(jié)省時(shí)間和算力，知識(shí)的更新不需要對(duì)整個(gè)模型進(jìn)行重新訓(xùn)練。由于大語(yǔ)言模型有時(shí)效性，語(yǔ)料知識(shí)是某一個(gè)時(shí)間點(diǎn)前的，知識(shí)是靜態(tài)的，RAG可以以較低的成本及時(shí)補(bǔ)充新的知識(shí)，可以解決大語(yǔ)言模型的實(shí)時(shí)性不足的問(wèn)題，RAG讓語(yǔ)言模型不用重新訓(xùn)練就能夠獲取最新的信息。02系統(tǒng)功能概要知識(shí)庫(kù)原始資料采集LLM生成知識(shí)庫(kù)檢索知識(shí)文本分塊文本向量化向量數(shù)據(jù)庫(kù)系統(tǒng)架構(gòu)軟件運(yùn)行原理9.4實(shí)驗(yàn)步驟安裝部署本章中對(duì)大語(yǔ)言模型的要求是提供一個(gè)標(biāo)準(zhǔn)的OpenAI接口，供langchain組合流程調(diào)用，其安裝步驟可見(jiàn)第8章的8.4.1節(jié)所述1.大語(yǔ)言模型安裝2.依賴環(huán)境安裝安裝部署3.下載向量化模型文件應(yīng)用開(kāi)發(fā)在瀏覽器中訪問(wèn):7