騰訊大模型稅務(wù)行業(yè)解決方案介紹目錄

CONTENTS0102

03騰訊稅務(wù)大模型重點(diǎn)產(chǎn)品和解決方案騰訊稅務(wù)領(lǐng)域大模型建設(shè)的思考大模型技術(shù)和應(yīng)用演進(jìn)圖譜AGI技術(shù)革命性爆發(fā)，國內(nèi)外大模型蓬勃發(fā)展2023.04.11阿里-通義千問AGI大模型相關(guān)重要技術(shù)里程碑2023.05.062023.04.08華為-盤古科大訊飛-星火2023.03.20Microsoft圖例2023.04.032023.09.30騰訊-混元2023.04.10商湯SenseNova365CopilotHuggingGPT模型調(diào)用模型大模型技術(shù)進(jìn)展模型商業(yè)化應(yīng)用模型使用工具&自主化2023.022023.03.21Google-Bard2023.03.31TaskMatrix.AI模型調(diào)用API2023.04.12MetaLLaMA-13BAutoGPT模型分解執(zhí)行任務(wù)2025.3.62016.12OpenAI成立2018.06GPT-12019.02GPT-22020.05GPT-32022.112023.3.142023.03.23ManusGPT4ChatGPTGithubCopilot接入GPT42025.01.20DeepSeekR1201620172018201920202021

20222023.32022.10Jasper2017.122021.01DALL·E-12022.04DALL·E-22023.022023.04.072024.122016.05NVIDIA大規(guī)模AI架構(gòu)GDX-1Transformer架構(gòu)ChatGPTAutonomousAgent營銷文案控制機(jī)器人DeepSeeKV3模擬人生(斯坦福論文)2022.03Midjourney2022.08StableDiffusion文生圖2023.05.04BingChat開放API多模態(tài)生成2023.03RunwayGen2文生視頻文生圖2023.03.16百度文心一言/文心一格2023.03.21AdobeFirefly圖片-視頻生成DeepSeek“出圈”DeepSeek是“深度求索”開發(fā)的一系列人工智能模型。DeepSeek通過持續(xù)的技術(shù)創(chuàng)新和市場(chǎng)拓展，在自然語言處理和大型語言模型方面取得了顯著進(jìn)展，某省市場(chǎng)上獲得了廣泛認(rèn)可。其中：●

DeepSeek-V3是在14.8萬億高質(zhì)量token上完成預(yù)訓(xùn)練的一個(gè)強(qiáng)大的混合專家(MoE)語言模型，其在知識(shí)類任務(wù)（知識(shí)問答、內(nèi)容生成等）領(lǐng)域表現(xiàn)出色。擁有6710億參數(shù)（每token激活參數(shù)370億）。作為通用大語言模型，。

2048個(gè)

H800GPU（兩個(gè)月）●

DeepSeek-R1是基于DeepSeek-V3-Base訓(xùn)練生成的強(qiáng)化推理能力模型，通過無監(jiān)督的自主強(qiáng)化學(xué)習(xí)、以及MLA、GPRO等創(chuàng)新算法，在數(shù)學(xué)、代碼生成和邏輯推斷等復(fù)雜推理任務(wù)上表現(xiàn)優(yōu)異。開源打破大模型更低的研發(fā)成本*$5.6Mvs.OpenAI’s$100M+比肩頭部大模型60%+指標(biāo)優(yōu)于重挫美國科技公司股價(jià)，英偉Llama3.1Claude-3.5GPT-4o達(dá)市值下跌5900億人工智能的Sputnik時(shí)刻更高效資源利用被美國及其盟友列入各種限制使用~2,000GPUs,競(jìng)品使用10,000+GPUsDeepSeek開源+低成本將帶來大模型應(yīng)用的無限可能算力效率拐點(diǎn)顯現(xiàn)算法變革推動(dòng)AI普惠應(yīng)用強(qiáng)化學(xué)習(xí)技術(shù)突破R1推理能力其完全依賴強(qiáng)化學(xué)習(xí)（RL）的訓(xùn)練范式，以及由此衍生的自進(jìn)化機(jī)制和推理能力泛化特性。這一創(chuàng)新顛覆了傳統(tǒng)大模型依賴監(jiān)督微調(diào)（SFT）的路徑。?

采用MoE架構(gòu)+MLA技術(shù)，動(dòng)態(tài)激活參數(shù)，推理效率提升20-40倍，訓(xùn)練成本僅為GPT-4的1/10算力軍備競(jìng)賽的縮影從0到1工程創(chuàng)新20萬H100GPU訓(xùn)練，數(shù)學(xué)推理碾壓GPT-4o，但邊際效益遞減R2模型提前發(fā)布開源框架開源普惠商業(yè)重構(gòu)?

推理速度達(dá)320tokens/秒，能耗降25%，支持多模態(tài)與國產(chǎn)芯片適配?

商業(yè)地震：API成本僅為OpenAI的1/40?

最新發(fā)布發(fā)布FlashMLA（高效解碼）、DeepEP（MoE通信庫）、依賴高成本硬件，與DeepSeek的“低成本普惠”形成鮮明對(duì)比DeepGEMM（FP8計(jì)算庫），覆蓋訓(xùn)練、推理全鏈路優(yōu)化目錄

CONTENTS0102

03騰訊稅務(wù)大模型重點(diǎn)產(chǎn)品和解決方案騰訊稅務(wù)領(lǐng)域大模型建設(shè)的思考大模型技術(shù)和應(yīng)用演進(jìn)圖譜混元大模型&Deepseek雙輪驅(qū)動(dòng)支持Deepseek支持混元元寶ApApI代碼助手知識(shí)庫支持Deepseek&混元騰訊混元持續(xù)演進(jìn)，助力騰訊業(yè)務(wù)發(fā)展大模型底座需要結(jié)合應(yīng)用框架實(shí)現(xiàn)應(yīng)用快速落地?

DeepSeekR1在數(shù)學(xué)、代碼生成和邏輯推斷等復(fù)雜推理任務(wù)等領(lǐng)域表現(xiàn)出優(yōu)異的效果，但仍有一些局限性算法方面：當(dāng)前DeepSeek在各大公開測(cè)試集上評(píng)分較高，這是實(shí)驗(yàn)室數(shù)據(jù)。在多項(xiàng)公開評(píng)測(cè)中，非強(qiáng)推理場(chǎng)景會(huì)幻覺率更高，另外實(shí)際測(cè)試應(yīng)用中有指令遵循較弱、拒答率高等問題。使用HHEM和googlefacts對(duì)ds模型幻覺率的評(píng)測(cè)，ds模型幻覺率偏高商業(yè)化方面：DeepSeek模型剛發(fā)布，目前沒有大規(guī)模的商業(yè)化案例，服務(wù)不穩(wěn)定，實(shí)際應(yīng)用場(chǎng)景和效果還需要進(jìn)一步驗(yàn)證。模型類型：DeepSeek當(dāng)前僅有文生文大模型?

在商用的過程中，仍需結(jié)合一定的應(yīng)用框架（RAG、工作流、Agent等）和工程優(yōu)化，來保障大模型應(yīng)用政府級(jí)端到端效果。從0到1，構(gòu)建大模型應(yīng)用的流程算力建設(shè)模型部署行業(yè)模型打造模型安全硬件選型彈性架構(gòu)設(shè)計(jì)模型選型一鍵部署知識(shí)庫構(gòu)建

RAG系統(tǒng)設(shè)計(jì)智能問答

知識(shí)管理2.0提高效率優(yōu)化決策激發(fā)創(chuàng)新DeepSeek到來之后，我們發(fā)現(xiàn)：1.

凡是落地大模型應(yīng)用場(chǎng)景的組織，都是基于自身的明確需求，以小步快跑的方式快速迭代2.

由于大模型的迭代頻率以超乎想象的速度發(fā)生，組織擁抱大模型既不能步子邁得太大，也不能一點(diǎn)不動(dòng)3.

按照以上四步即可實(shí)現(xiàn)行業(yè)大模型應(yīng)用從0到1構(gòu)建，從1到100則需要根據(jù)業(yè)務(wù)場(chǎng)景的復(fù)雜程度，考慮模型的領(lǐng)域適配和算力優(yōu)化目錄

CONTENTS0102

03騰訊稅務(wù)大模型重點(diǎn)產(chǎn)品和解決方案騰訊稅務(wù)領(lǐng)域大模型建設(shè)的思考大模型技術(shù)和應(yīng)用演進(jìn)圖譜核心技術(shù)突破保障大模型應(yīng)用釋放效能大模型底座行業(yè)模型打造模型安全技術(shù)底座技術(shù)平臺(tái)-知識(shí)庫工具平臺(tái)-Ti內(nèi)容安全-天御建設(shè)高性能、高帶寬、低時(shí)延的技術(shù)底座是發(fā)展大模型的重要基礎(chǔ)應(yīng)用技術(shù)平臺(tái),提供RAG、工作流、Agent多種應(yīng)用開發(fā)方式，助力行業(yè)及開發(fā)者加速大模型應(yīng)用落地覆蓋大模型訓(xùn)練和精調(diào)工具鏈，覆蓋大模型開發(fā)全生命，支持一鍵部署和訓(xùn)練加速問題側(cè)、模型側(cè)、答案?jìng)?cè)三個(gè)層面進(jìn)行敏感信息過濾和規(guī)避，讓最終答案符合安全、規(guī)范的要求高性能算力集群RAG，構(gòu)建行業(yè)專屬知識(shí)庫???Fine-tuning，模型精調(diào)RL/SFT問題側(cè)防護(hù)，不能提問模型側(cè)防護(hù)，拒絕回答??????分布式文件存儲(chǔ)和緩存加速工作流，快速編排復(fù)雜業(yè)務(wù)流程多模態(tài)數(shù)據(jù)標(biāo)注，靈活配置答案?jìng)?cè)防護(hù)，少答或不答???高速通信網(wǎng)絡(luò)Agent，任務(wù)自主規(guī)劃和工具調(diào)用Angel-llm，訓(xùn)練/推理加速框架公有云or私有化-私有化方案是首選長期成本控制行業(yè)合規(guī)性限制定制化與保護(hù)網(wǎng)絡(luò)與業(yè)務(wù)連續(xù)性?高頻調(diào)用場(chǎng)景下，私有化部署的邊際成本可能低于公有云按次付費(fèi)模式（如客服系統(tǒng)每日處理百萬級(jí)回答）?敏感數(shù)據(jù)（如用戶隱私、等）需物理隔離，避免通過公有云或第三方服務(wù)外泄（如金融、醫(yī)療行業(yè)）??政府需將大模型深度適配業(yè)務(wù)流程??網(wǎng)絡(luò)隔離要求（如涉密機(jī)構(gòu)禁止連接互聯(lián)網(wǎng)）防止核心算法外流，保持技術(shù)壁壘（如芯片制造廠私有化部署的缺陷分類模型，防止技術(shù)）工業(yè)控制、實(shí)時(shí)決策等場(chǎng)景需極低延遲和確定性響應(yīng)（如工廠在邊緣服務(wù)器部署私有化視覺檢測(cè)模型）?需符合行業(yè)監(jiān)管政策（如GDPR、國內(nèi)《數(shù)據(jù)安全法》），或滿足政府機(jī)構(gòu)對(duì)數(shù)據(jù)本地化存儲(chǔ)的強(qiáng)制要求（如政府、國某著名企業(yè)）私有化部署通過數(shù)據(jù)物理隔離+業(yè)務(wù)深度集成+確定性性能的組合優(yōu)勢(shì)，在政府、金融、制造、醫(yī)療等強(qiáng)監(jiān)管或高價(jià)值場(chǎng)景中成為剛需公有云方案支持多種業(yè)務(wù)場(chǎng)景個(gè)稅申報(bào)等對(duì)公場(chǎng)景私有化部署公有云方案利用行業(yè)公開數(shù)據(jù)快速租用公有云業(yè)務(wù)場(chǎng)景數(shù)據(jù)私密性要求高資源需求成本比較建設(shè)時(shí)效私有化算力投入較高多種計(jì)費(fèi)模式，靈活多樣快速落地知識(shí)引擎&大模型聯(lián)動(dòng)流程知識(shí)引擎幫助LLM以較低成本突破知識(shí)在時(shí)間和空間上的限制?解決私域數(shù)據(jù)的空間限制?

敏感數(shù)據(jù)無需進(jìn)入模型訓(xùn)練?知識(shí)庫實(shí)時(shí)更新??比Tuning低幾個(gè)數(shù)量級(jí)的成本基于緩存方案大幅節(jié)約LLM計(jì)算成本騰訊云知識(shí)引擎能力介紹聚焦嚴(yán)謹(jǐn)場(chǎng)景，打造大語言模型應(yīng)用開發(fā)平臺(tái),提供LLM+RAG、工作流、Agent多種應(yīng)用開發(fā)方式，來助力行業(yè)開發(fā)者，加速大模型應(yīng)用落地。政務(wù)零售文旅汽車金融騰訊產(chǎn)品合作應(yīng)用場(chǎng)景一網(wǎng)通辦電子說明書虛擬導(dǎo)游代理人輔助...數(shù)智人企點(diǎn)客服語音助手騰訊學(xué)堂樂享②工作流模式指定工作流響應(yīng)用戶對(duì)話③Agent模式①標(biāo)準(zhǔn)模式①官方插件

②自定義插件應(yīng)用調(diào)用插件/復(fù)雜工作流響應(yīng)用戶對(duì)話插件內(nèi)置RAG最優(yōu)流程文檔解析/混元文生圖..原子能力文檔解析文檔拆分文檔解析-拆分-入庫-檢索多輪改寫重排序（rerank)向量化（embedding）混元大模型騰訊云行業(yè)大模型三方大模型turbostandardlarge精調(diào)知識(shí)大模型/多模態(tài)大模型金融/教育/醫(yī)學(xué)行業(yè)大模型大模型standard-256k智能客服員工服務(wù)專家助手文件助手強(qiáng)大RAG能力加持，搭建精準(zhǔn)的知識(shí)問答應(yīng)用復(fù)雜文檔解析、切分、檢索、推理、生成準(zhǔn)確率保持領(lǐng)先高準(zhǔn)確的綜合檢索能力上線基于LLM的embedding模型，多文檔信息召回率從85%提升到92%；混合檢索+Text2SQL能力，提升超大表格單表檢索及跨表檢索準(zhǔn)確率，SQL執(zhí)行準(zhǔn)確率80%+高準(zhǔn)確的復(fù)雜文檔解析、切分能力基于OCR大模型，打造的解析引擎，突破圖文混排版面分析、復(fù)雜表格識(shí)別等文檔解析技術(shù)瓶頸，支持超過20類文檔類型。?

業(yè)界首個(gè)支持200MB以上超大文檔vs.業(yè)內(nèi)普遍100MB內(nèi)?

豐富的文檔類型，超過26類vs.

業(yè)內(nèi)普遍10類以內(nèi)?

支持圖文混排（多列排版）版面分析、圖文表/公式/頁眉等元素識(shí)別Query“非智能且在售，并且一級(jí)分類是通過SQL檢索表格信息天棚燈的產(chǎn)品包含哪些”識(shí)別精度高、圖片元素不丟失充分考慮文、圖兩種模態(tài)的檢索優(yōu)化說明書樣例騰訊云RAG+DeepSeek：圖文并貌的產(chǎn)品操作說明“制動(dòng)系統(tǒng)怎么保養(yǎng)？”適合處理過程復(fù)雜且分支較多、對(duì)結(jié)果準(zhǔn)確性要求高的業(yè)務(wù)場(chǎng)景智能客服員工服務(wù)開發(fā)票、掛號(hào)、預(yù)約辦事、大廳服務(wù)...報(bào)銷、IT報(bào)修、預(yù)訂會(huì)議室...自動(dòng)化服務(wù)滿意度分析知識(shí)引擎“工作流”：支持用戶快速編排復(fù)雜應(yīng)用面向復(fù)雜業(yè)務(wù)流程場(chǎng)景，升級(jí)復(fù)雜應(yīng)用構(gòu)建能力提供10+畫布節(jié)點(diǎn)，編排復(fù)雜應(yīng)用，復(fù)雜流程的執(zhí)行準(zhǔn)確率和對(duì)話完成率效果領(lǐng)先。?

通過可視化拖拉拽的方式編排不同的原子能力，零代碼/低代碼構(gòu)建業(yè)務(wù)流程。1.信息收集節(jié)點(diǎn)3.基礎(chǔ)節(jié)點(diǎn)已支持DeepsSeek模型?

其中參數(shù)提取節(jié)點(diǎn)，支持多參數(shù)同時(shí)提取、基于對(duì)話歷史進(jìn)行多輪反問澄清等優(yōu)勢(shì)能力，對(duì)話效果更優(yōu)勢(shì)。2.信息處理節(jié)點(diǎn)均已支持DeepSeek模型?

大模型相關(guān)的節(jié)點(diǎn)均接入DeepSeekR1和V3模型，可支持自由選擇和切換。騰訊Ima0成本嘗鮮方案稅務(wù)行業(yè)知識(shí)庫快速落地案例核心需求：模型開發(fā)全生命場(chǎng)景選型模型構(gòu)建部署應(yīng)用性能評(píng)測(cè)效果評(píng)測(cè)脫敏合規(guī)模型評(píng)測(cè)數(shù)據(jù)評(píng)估應(yīng)用場(chǎng)景訓(xùn)練數(shù)據(jù)準(zhǔn)備知識(shí)挖掘+增強(qiáng)資源評(píng)估數(shù)據(jù)清洗+切塊模型注冊(cè)模型發(fā)布模型管理服務(wù)發(fā)布向量庫建設(shè)+維護(hù)推理框架加速推理服務(wù)部署訓(xùn)練平臺(tái)搭建環(huán)境搭建服務(wù)開通大模型-無監(jiān)督訓(xùn)練大模型-有監(jiān)督訓(xùn)練資源采購業(yè)務(wù)形態(tài)應(yīng)用聯(lián)調(diào)模型訓(xùn)練深度學(xué)習(xí)訓(xùn)練機(jī)器學(xué)習(xí)訓(xùn)練訓(xùn)練框架加速交付方案項(xiàng)目排期應(yīng)用發(fā)布TI-ONE覆蓋環(huán)節(jié)Ti-One提升模型開發(fā)效能騰訊云TI平臺(tái)騰訊云TI平臺(tái)（TencentCloudTIPlatform）是基于騰訊先進(jìn)AI能力和多年技術(shù)經(jīng)驗(yàn)，面向行業(yè)提供的全棧式人工智能開發(fā)服務(wù)平臺(tái)，致力于打通包含從數(shù)據(jù)獲取、數(shù)據(jù)處理、算法構(gòu)建、模型訓(xùn)練、模型優(yōu)化、模型評(píng)估、模型部署、到AI應(yīng)用開發(fā)的產(chǎn)業(yè)+AI落地全流程鏈路，幫助用戶快速創(chuàng)建和部署AI應(yīng)用，管理全AI解決方案，從而助力政企單位加速數(shù)字化轉(zhuǎn)型并促進(jìn)AI行業(yè)生態(tài)共建。應(yīng)用和解決方案開發(fā)者基于騰訊云TI平臺(tái)的開放能力，結(jié)合行業(yè)特點(diǎn)構(gòu)建應(yīng)用解決方案。充分發(fā)掘AI價(jià)值，助力各行各業(yè)數(shù)字化轉(zhuǎn)型泛政府產(chǎn)業(yè)AI應(yīng)用泛互聯(lián)網(wǎng)AI應(yīng)用金融產(chǎn)業(yè)AI應(yīng)用行業(yè)AI應(yīng)用機(jī)器學(xué)習(xí)平臺(tái)

TI-ONE騰訊云TI平臺(tái)

Tencent

Cloud

TIPlatform面向數(shù)據(jù)開發(fā)人員，提供從數(shù)據(jù)預(yù)處理、模型訓(xùn)練、自動(dòng)學(xué)習(xí)、模型評(píng)估到模型發(fā)布部署的全流程支持十大能力中心數(shù)據(jù)中心模型管理大模型精調(diào)訓(xùn)練工坊自動(dòng)學(xué)習(xí)應(yīng)用編排邊緣中心應(yīng)用中心能力平臺(tái)訓(xùn)練平臺(tái)

TI-ONE應(yīng)用服務(wù)平臺(tái)

TI-Matrix模型部署管理中心AI應(yīng)用服務(wù)平臺(tái)

TI-Matrix面向AI應(yīng)用開發(fā)者，快速接入模型、數(shù)據(jù)和智能設(shè)備。提供模型部署、應(yīng)用工作流編排、云邊端調(diào)度等功能，快速構(gòu)建智能應(yīng)用算法模型算法服務(wù)數(shù)據(jù)采集數(shù)據(jù)標(biāo)注IPC國標(biāo)平臺(tái)算法和模型開發(fā)者數(shù)據(jù)服務(wù)提供商智能設(shè)備提供商計(jì)算資源網(wǎng)絡(luò)資源存儲(chǔ)資源容器平臺(tái)基礎(chǔ)設(shè)施TI平臺(tái)的DeepSeek精調(diào)方案DeepSeek全系大語言模型支持SFTDeepSeek全系列注重靈活性、擴(kuò)展性的生產(chǎn)級(jí)大模型精調(diào)工具鏈核心收益R1、V3滿血版?

全流程訓(xùn)推工具鏈，注重實(shí)戰(zhàn)靈活性、擴(kuò)展性?

內(nèi)置Angel加速能力，切實(shí)提升訓(xùn)推效率?

訓(xùn)練過程白盒化、資源碎片監(jiān)控、訓(xùn)練資源調(diào)度靈活可配，切實(shí)提升資源利用率R1-Distill-Llama-70BR1-Distill-Qwen-32BR1-Distill-Qwen-14BR1-Distill-Llama-8B256卡H20全參SFT???

8小時(shí)?

全參+LoRA雙模式?

低至1卡A10R1-Distill-Qwen-7BR1-Distill-Qwen-1.5BTIONE精調(diào)場(chǎng)景_同花順:大模型云端一站式精調(diào)方案整體架構(gòu)項(xiàng)目背景應(yīng)用于同花順APP客服“i問財(cái)”，主要用來訓(xùn)練投顧、投研領(lǐng)域文本生成，對(duì)話大模型同應(yīng)用場(chǎng)景中臺(tái)應(yīng)用花順建設(shè)業(yè)務(wù)層智能搜索智能編排專業(yè)會(huì)話數(shù)據(jù)分析訓(xùn)練規(guī)模模型層平臺(tái)層證券行業(yè)大模型1.8萬億Token中英文語料

4000億Token金融語料40臺(tái)8卡H800TI-ONEAI訓(xùn)練平臺(tái)130億參數(shù)技術(shù)亮點(diǎn)騰訊建設(shè)TKEHCC高性能計(jì)算集群?

用戶可直接通過Ti-one將云服務(wù)器接入，享受訓(xùn)練平臺(tái)穩(wěn)定，高效的任務(wù)調(diào)度能力IaaS層COS星脈RDMA網(wǎng)絡(luò)VPC網(wǎng)絡(luò)TurboCFS?

支持20+主流開源模型基于TI