白碩恒生電子副總裁、首席科學(xué)家恒生電子副總裁、首席科學(xué)家。本科就讀于清華大學(xué)計(jì)算機(jī)系，碩士、博士研究生就讀于北京大學(xué)計(jì)算機(jī)系。曾任中科院計(jì)算所研究員、博士生導(dǎo)師、軟件室主任、軟件方向首席科學(xué)家。在任上海證券交易所總工程師十目錄I.AI及大模型原理II.近期態(tài)勢(shì)與思考III.金融場(chǎng)景分析AI及大模型原理AI基本流派沿革靠定義無(wú)法定義的，靠示例無(wú)法示例的，靠“讀書(shū)”★符號(hào)路線(xiàn)統(tǒng)計(jì)路線(xiàn)神經(jīng)路線(xiàn)大模型發(fā)展路線(xiàn)BertRoBERTa…上下文雙向，完形填空上下文雙向，完形填空語(yǔ)言模型是什么-文字接龍0.10.10輸入不完整的句子語(yǔ)言模型從煙囪到平臺(tái)合同處理合同處理研報(bào)處理對(duì)話(huà)合同處理合同處理研報(bào)處理對(duì)話(huà)搜索對(duì)話(huà)搜索處理可用可用預(yù)識(shí)別更準(zhǔn)，識(shí)別更準(zhǔn)，效果更好，成本更低AI右勾拳為什么是大“語(yǔ)言”模型？語(yǔ)言-知識(shí)-邏輯邏輯知識(shí)知識(shí)?較容易“大力出奇跡”恒生如何擁抱AI恒生AI落地十字方法論樁樁Gartner技術(shù)趨勢(shì)-chatAPI恒生觀(guān)點(diǎn)：恒生觀(guān)點(diǎn)：活數(shù)據(jù)-通過(guò)fuctioncall連接API更靠譜美國(guó)總體上領(lǐng)先于中國(guó)1但中國(guó)的差距越來(lái)越小(頭部)閉源領(lǐng)先于開(kāi)源2但開(kāi)源也顯現(xiàn)“后發(fā)、眾智”優(yōu)勢(shì)通用領(lǐng)域先于垂域3但垂域私部署仍有存在意義在整體算力成本不變的情況下，很多在整體算力成本不變的情況下，很多模型所支持上下文長(zhǎng)度已超過(guò)3在預(yù)訓(xùn)練得到的快推理能力基礎(chǔ)之上，增加了通過(guò)整合強(qiáng)化學(xué)習(xí)得到的慢推2輸入/輸出不限于文本、圖像、語(yǔ)音、點(diǎn)云等多種模態(tài)，且已達(dá)到較高準(zhǔn)確率O3又有大幅提升不要對(duì)“裸?！逼谕^(guò)高把業(yè)務(wù)數(shù)據(jù)和系統(tǒng)接上去才是正解把業(yè)務(wù)數(shù)據(jù)和系統(tǒng)接上去才是正解“裸?！睙o(wú)法支撐真實(shí)的金融業(yè)務(wù)“裸?！睙o(wú)法支撐真實(shí)的金融業(yè)務(wù)訓(xùn)進(jìn)去知識(shí)就陳舊了訓(xùn)進(jìn)去知識(shí)就陳舊了訓(xùn)進(jìn)去就有了幻覺(jué)改錯(cuò)需要重新訓(xùn)練需要龐大的訓(xùn)練算力有可能破壞原有的模型只跟大模型打交道永遠(yuǎn)可以接最新的知識(shí)永遠(yuǎn)可以是確定性的改錯(cuò)只需定點(diǎn)修復(fù)只需合理的推理算力保持原有模型能力穩(wěn)定需要大模型與活數(shù)據(jù)交互應(yīng)用價(jià)值三階梯：提升效率、價(jià)值創(chuàng)造、深度決策提升效率價(jià)值創(chuàng)造深度決策?AI解決方案顯著減少手動(dòng)和DeepSeek洞察更好效果、更低成本，更深思考檢索：投顧產(chǎn)品檢索、法規(guī)檢索、知識(shí)庫(kù)檢索、投行檢索等場(chǎng)景，提升3%-5%審核&抽?。汉贤畔⒊槿?、投行底稿審核、信披報(bào)告審核、營(yíng)銷(xiāo)物料，提升來(lái)了去了開(kāi)了基于DEEPSEEK-QWEN2-32B最佳性?xún)r(jià)比模型高（100-200萬(wàn)）模型：DeepSeek-R1-671B華為昇騰英偉達(dá)低（40-50萬(wàn)）模型：DeepSeek-R1-Distill-Qwen-32B/14B英偉達(dá)“一體機(jī)”方案}}支出分布：銀行、券商投入靠前，側(cè)重于應(yīng)用層2024年前三季度：公開(kāi)披露的大模型中標(biāo)項(xiàng)目金額20.75億元，金融業(yè)大模型中標(biāo)項(xiàng)項(xiàng)目數(shù)量項(xiàng)目金額（萬(wàn)元）3,862.003,488.6120,083.60銀行證券保險(xiǎn)16.50%12.60%56.30%14.60%17.40%6.60%56.80%19.20%國(guó)內(nèi)金融行業(yè)側(cè)重于應(yīng)用層場(chǎng)景探索：2024年1-11月，應(yīng)用類(lèi)項(xiàng)目金額占比45.9%，算力類(lèi)項(xiàng)目金額占比35.9%，基礎(chǔ)大模型類(lèi)項(xiàng)目金額占比17.3%，其余0.9%為數(shù)據(jù)類(lèi)項(xiàng)目。反映出金融機(jī)構(gòu)的投入主要側(cè)重于應(yīng)1應(yīng)用算力大模型項(xiàng)目數(shù)量占比16%21%62%項(xiàng)目金額占比0.90%0.90%17.30%45.90%35.90%注：數(shù)據(jù)來(lái)源于智能超參數(shù)，數(shù)據(jù)期間為2024年1-11月；其他包括交易所、消費(fèi)金融公司、金融科技公司、監(jiān)管機(jī)構(gòu)等。注：上表數(shù)據(jù)來(lái)源于智能超參數(shù)，數(shù)據(jù)期間為2024年1-11月。以?xún)?nèi)部賦能為主，直接面向客戶(hù)的服務(wù)仍審金融機(jī)構(gòu)的需求場(chǎng)景以?xún)?nèi)部賦能為主逐步向業(yè)務(wù)賦能等高價(jià)值領(lǐng)域延伸直接面向客戶(hù)的服務(wù)仍審慎推進(jìn)落地需求場(chǎng)景依次為投研服務(wù)、運(yùn)營(yíng)管理、投顧&客服銀行：從觀(guān)望轉(zhuǎn)向重點(diǎn)投入，從國(guó)有行、股份行延伸至頭部城農(nóng)商行，深入前/中/后臺(tái)業(yè)務(wù)證券：頭部試水效果初顯，向中小券商下沉，從內(nèi)部運(yùn)營(yíng)向投顧、投研、投行、基金：部分機(jī)構(gòu)正在投研、風(fēng)控合規(guī)、營(yíng)銷(xiāo)、合規(guī)等領(lǐng)域進(jìn)行局部探索，中小機(jī)保險(xiǎn)資管：頭部謹(jǐn)慎務(wù)實(shí)，優(yōu)先選擇投研、合規(guī)、運(yùn)營(yíng)等場(chǎng)景推進(jìn)信托：少數(shù)公司開(kāi)始嘗試，落地場(chǎng)景少，場(chǎng)景主要是運(yùn)營(yíng)、運(yùn)維、知識(shí)庫(kù)、文本信息化與智能化，從來(lái)路回去客服客服運(yùn)營(yíng)資配資配投投研投投行場(chǎng)景的分類(lèi)選擇業(yè)務(wù)場(chǎng)景顛覆概率業(yè)務(wù)特色客戶(hù)服務(wù)場(chǎng)景?2.售前、售中、售后等咨詢(xún)類(lèi)知識(shí)服務(wù)，隨著業(yè)務(wù)、外部信息變化，需要針對(duì)給出建議和標(biāo)準(zhǔn)化業(yè)務(wù)辦理?用戶(hù)端，通過(guò)問(wèn)答提升用戶(hù)體驗(yàn)，最終帶來(lái)業(yè)務(wù)粘性交易處理場(chǎng)景★☆☆☆☆?輸入輸出結(jié)構(gòu)化數(shù)據(jù)、?實(shí)時(shí)、監(jiān)管、高并發(fā)、錯(cuò)誤零容忍?風(fēng)控規(guī)則賴(lài)在文本，設(shè)置復(fù)雜?提升效率，降低合規(guī)風(fēng)險(xiǎn)：除了在前置文本數(shù)據(jù)（法規(guī)、研報(bào)等）處理，交易本身短期很難和大模型結(jié)合。流程處理場(chǎng)景22★★★★☆?業(yè)務(wù)變化快，菜單多?輸入由大量非機(jī)構(gòu)化證件、文檔組成?操作留痕、業(yè)務(wù)審批審核；多系統(tǒng)協(xié)同對(duì)?基礎(chǔ)數(shù)據(jù)標(biāo)準(zhǔn)化、業(yè)務(wù)規(guī)模不大；?用戶(hù)端，通過(guò)問(wèn)答提升用戶(hù)體驗(yàn)，降低業(yè)務(wù)學(xué)習(xí)成本?減少辦理業(yè)務(wù)過(guò)程中，高頻初級(jí)知識(shí)密集工作。降本增效明顯數(shù)據(jù)處理場(chǎng)景★☆☆☆?監(jiān)管驅(qū)動(dòng)、結(jié)構(gòu)化批量化操作；?數(shù)據(jù)量大，計(jì)算規(guī)則復(fù)雜、數(shù)據(jù)源多、數(shù)?在線(xiàn)報(bào)表展示，減少定制化成本知識(shí)密集型場(chǎng)景（投研、投行、信披營(yíng)銷(xiāo)33★★☆☆?輸入輸出結(jié)構(gòu)化數(shù)據(jù)?知識(shí)密集性工作，主要包括搜、讀、算、?海量文本處理，替代人工篩選信息?高頻文本審核，降低合規(guī)風(fēng)險(xiǎn)場(chǎng)景一：賬戶(hù)/托管運(yùn)營(yíng)助手業(yè)務(wù)運(yùn)營(yíng)痛點(diǎn)對(duì)準(zhǔn)確性要求非常高復(fù)雜業(yè)務(wù)辦理需要多系統(tǒng)、建設(shè)價(jià)值：“以智能運(yùn)營(yíng)轉(zhuǎn)型為核心”快速排錯(cuò)處理快速排錯(cuò)處理解決業(yè)務(wù)類(lèi)知識(shí)答疑，并能結(jié)合到開(kāi)戶(hù)、權(quán)限等解決業(yè)務(wù)類(lèi)知識(shí)答疑，并能結(jié)合到開(kāi)戶(hù)、權(quán)限等復(fù)雜業(yè)務(wù)場(chǎng)景里，幫助員工自動(dòng)化辦理業(yè)務(wù)?！顰I智能助手★★場(chǎng)景二投行/信披報(bào)告/營(yíng)銷(xiāo)物料等）審核助手基于人工智能技術(shù)，為運(yùn)營(yíng)系統(tǒng)進(jìn)行AI基于人工智能技術(shù)，為運(yùn)營(yíng)系統(tǒng)進(jìn)行AI賦能能力進(jìn)化參數(shù)提取準(zhǔn)確率超90%新增專(zhuān)業(yè)機(jī)構(gòu)服務(wù)平臺(tái)參投監(jiān)規(guī)則智能解析投資規(guī)則語(yǔ)義識(shí)別超90%投監(jiān)規(guī)則配置效率提升80%支持溯源審核信披報(bào)告智能解析信披報(bào)告智能解析業(yè)務(wù)功能-智能文檔審核一、錯(cuò)別字和標(biāo)點(diǎn)符號(hào)審核（四大類(lèi)）1.數(shù)值不合規(guī)：以“元”、“萬(wàn)”或“股”為單位的金額是否保留了兩位小2.機(jī)構(gòu)名稱(chēng)合規(guī)性校驗(yàn)：審計(jì)機(jī)構(gòu)/發(fā)行人律師/控制人等后面需要跟公司名稱(chēng)，而非其3.領(lǐng)土完整性：出現(xiàn)香港澳門(mén)等地區(qū)，需要為5.會(huì)議名稱(chēng)合規(guī)性：如十一屆三中全會(huì)不能使用阿拉伯6.數(shù)值單位合規(guī)性：發(fā)行總股本應(yīng)以“股”為單位，每股面值/注冊(cè)資本等應(yīng)7.整數(shù)合規(guī)性：如藥片、書(shū)本等應(yīng)該都是整數(shù)數(shù)值，出現(xiàn)“XXXX.2片藥”8.個(gè)人薪酬合規(guī)性：?jiǎn)T工個(gè)人或管理人員年度個(gè)人薪酬不應(yīng)超過(guò)一億元4.涉政/涉黃/涉暴等敏感詞：國(guó)家領(lǐng)導(dǎo)人、反共反政府等行間距。一級(jí)標(biāo)題應(yīng)為黑體三號(hào)，二級(jí)標(biāo)題應(yīng)為黑體四號(hào)，三級(jí)標(biāo)3.表格合規(guī)性校驗(yàn)：首行key值字段的字體粗細(xì)、字體類(lèi)型、字體大小要一致場(chǎng)景三：智能投顧/客服助手助手場(chǎng)景助手場(chǎng)景銀行理財(cái)、保險(xiǎn)等）產(chǎn)品的問(wèn)答服務(wù)，快速提煉產(chǎn)品核心亮點(diǎn)），能力接入能力接入APIAPI知識(shí)庫(kù)知識(shí)庫(kù)PromptPrompt思維鏈★小模型根據(jù)檢視結(jié)論即時(shí)智能基于全局資產(chǎn)視圖賬簿在安全可控的前提下，打通客戶(hù)數(shù)據(jù)，構(gòu)建“智能賬簿”，并基于客戶(hù)賬簿數(shù)據(jù)為投顧人員提供助手服務(wù)打通后臺(tái)能力中心進(jìn)一步深化“大模型+”的能力，接入客戶(hù)分析、產(chǎn)品研究、行業(yè)研究、資產(chǎn)配置等財(cái)富管理核心平臺(tái)，讓大模型助手輕松處理各類(lèi)業(yè)務(wù)場(chǎng)景完善大模型插件能力結(jié)合具體的業(yè)務(wù)場(chǎng)景，完成文檔檢索和問(wèn)答、文檔信息提取和結(jié)構(gòu)化等插件，從業(yè)務(wù)視角出發(fā)，提供基礎(chǔ)插件能力服務(wù)新增四大“智能助手服務(wù)”在“知識(shí)問(wèn)答”、“客訴服務(wù)”、“行情“產(chǎn)品助手”、“配置助手”、“保險(xiǎn)規(guī)劃”場(chǎng)景四：智能投研——搜讀算寫(xiě)、語(yǔ)控萬(wàn)數(shù)WarrenQWarrenQ估值模型Lite工作UGC從碎片到流程制度化估值模型Lite工作UGC從碎片到流程制度化在線(xiàn)閱讀器★★大模型數(shù)據(jù)平臺(tái)服務(wù)大模型數(shù)據(jù)平臺(tái)服務(wù)WechatWechat基礎(chǔ)模型選型基礎(chǔ)模型選型場(chǎng)景五：合規(guī)助手-產(chǎn)品文件解析和設(shè)置合規(guī)系統(tǒng)O32風(fēng)控CMC風(fēng)控衡泰風(fēng)控CMC風(fēng)控衡泰風(fēng)控智能提取智能提取合規(guī)規(guī)則生成知識(shí)庫(kù)落地實(shí)踐全過(guò)程：選場(chǎng)景、定模型、購(gòu)算力、理數(shù)據(jù)否是否是數(shù)據(jù)準(zhǔn)備避坑指南距都不大，哪個(gè)便宜用哪個(gè)，領(lǐng)導(dǎo)喜歡哪例好，但是國(guó)內(nèi)模型效果不好，建議找價(jià)值體現(xiàn)：提升XX效率，縮短XX多少倍，減少XX時(shí)間，提升XX轉(zhuǎn)化率大模型項(xiàng)目十大坑06大模型效果不好，就想訓(xùn)練模型，其實(shí)調(diào)整06大模型效果不好，就想訓(xùn)練模型，其實(shí)調(diào)整prompt可能更有用07只招算法工程師就夠了，沒(méi)有產(chǎn)品經(jīng)理、業(yè)務(wù)專(zhuān)家、數(shù)據(jù)人員07只招算法工程師就夠了，沒(méi)有產(chǎn)品經(jīng)理、業(yè)務(wù)專(zhuān)家、數(shù)據(jù)人員02沒(méi)有人工梳理數(shù)據(jù)的AI產(chǎn)品/項(xiàng)目都是耍流氓08“準(zhǔn)”遠(yuǎn)比“通”重要的多08“準(zhǔn)”遠(yuǎn)比“通”重要的多03一鍵評(píng)測(cè)工具很關(guān)鍵，可以極大縮短項(xiàng)目周期09做好邊界測(cè)試，有些問(wèn)題一定要對(duì)，比如開(kāi)戶(hù)不能答成銷(xiāo)戶(hù)04視09做好邊界測(cè)試，有些問(wèn)題一定要對(duì)，比如開(kāi)戶(hù)不能答成銷(xiāo)戶(hù)04視AI項(xiàng)目為傳統(tǒng)IT項(xiàng)目05算力提前買(mǎi)，不然想買(mǎi)買(mǎi)不到05算力提前買(mǎi)，不然想買(mǎi)買(mǎi)不到最大的區(qū)別是數(shù)據(jù)，準(zhǔn)遠(yuǎn)比通重要的多基礎(chǔ)大模型發(fā)展仍在持續(xù)更多模態(tài)、更深思考大語(yǔ)言模型突破更多模態(tài)、更深思考大語(yǔ)言模型突破自動(dòng)生成監(jiān)督信號(hào)，利用CLIP2022.04自動(dòng)生成監(jiān)督信號(hào)，利用CLIP2022.04復(fù)雜任務(wù)推理2023.03視覺(jué)+語(yǔ)言Gemini2023.12原生多模態(tài)2024.02文本生成視頻OpenAIo12024.09OpenAIo32024.12靈活推理2018.06預(yù)訓(xùn)練+微調(diào)Transformer2023.03不依賴(lài)先驗(yàn)知識(shí)，通過(guò)自監(jiān)督學(xué)習(xí)獲得對(duì)直觀(guān)物理世界的理解能力能夠合成遵循物理規(guī)律的圖片、視頻世界模型不依賴(lài)先驗(yàn)知識(shí)，通過(guò)自監(jiān)督學(xué)習(xí)獲得對(duì)直觀(guān)物理世界的理解能力能夠合成遵循物理規(guī)律的圖片、視頻世界模型多模態(tài)模型推理模型生成式模型2019.02零樣本學(xué)習(xí)2018.10理解上下文OpenAIo1、2023.12開(kāi)源、推理整合思維鏈和強(qiáng)化學(xué)習(xí)，提升推理能力2022.112022.11理解意圖2020.05的理解、生成能力的理解、生成能力流式實(shí)時(shí)多模態(tài)OpenAI定義的OpenAI定義的AGI路線(xiàn)圖2023.072023.072023.07開(kāi)源、低成本DeepSeekV3開(kāi)源、低成本2024.12低成本推理2023.03文本能力最強(qiáng)2023.03文本能力最強(qiáng)2024.04千億級(jí)參數(shù)開(kāi)源2025.02超越R12025.01企業(yè)級(jí)、消費(fèi)級(jí)及端側(cè)大模型應(yīng)用進(jìn)入綜合成本可接受的普企業(yè)級(jí)、消費(fèi)級(jí)及端側(cè)大模型應(yīng)用進(jìn)入綜合成本可接受的普平權(quán)n訓(xùn)練成本：DeepSeekV3訓(xùn)練成本僅為557.6萬(wàn)美元，約相當(dāng)于Llama3系列模型的7%（不包含架構(gòu)、研發(fā)、數(shù)據(jù)等前期成本）。n推理成本：降至OpenAI同類(lèi)模型的n本地化部署算力成本：下降50%；基礎(chǔ)模型開(kāi)源，不收費(fèi)。n公有云接入API成本：相較于OpenAIn推理能力：DeepSeek-R1在推理任務(wù)上實(shí)現(xiàn)與OpenAIo1相當(dāng)?shù)男阅埽?/p>