大模型趨勢(shì)下的企業(yè)數(shù)據(jù)體系思考何昌華——數(shù)巔科技CEO數(shù)巔科技：讓數(shù)據(jù)智能像水電一樣簡(jiǎn)單讓大模型與企業(yè)數(shù)據(jù)充分協(xié)同解鎖數(shù)據(jù)潛力，釋放企業(yè)數(shù)據(jù)價(jià)值何昌華2017-國(guó)家級(jí)人才計(jì)劃螞蟻集團(tuán)2017-計(jì)算存儲(chǔ)首席架構(gòu)師2015Google搜索引擎架構(gòu)核心技術(shù)負(fù)責(zé)人2005-斯坦福大學(xué)博士SaaSAPISaaSAPI開源大模型大語(yǔ)言模型(LLMs)互動(dòng)問答信息抽取更新文件視頻監(jiān)控每日交易數(shù)據(jù)行為日志存檔文件規(guī)章制度歷史日志過往交易非結(jié)構(gòu)化數(shù)據(jù)結(jié)構(gòu)化數(shù)據(jù)大模型在企業(yè)落地對(duì)數(shù)據(jù)體系的關(guān)鍵需求Contextual→EmbeddinodeetoDatabaseAPls/APls/PluginsPlaygroundFew-shot編排框架編排框架AppAppHostingValidationLEGENDLEGENDContextualdataprovidedbyappdeveloperstoconditionLLMoutLLMAPlsandHosting·多模態(tài)數(shù)據(jù)需要多種加載、轉(zhuǎn)換方法·需要管理及沉淀優(yōu)質(zhì)資產(chǎn)自動(dòng)化工具(包括常用模型)·自動(dòng)編排執(zhí)行任務(wù)需要各種插件工具和模型算法自動(dòng)化驅(qū)動(dòng)自動(dòng)鏈路中數(shù)據(jù)頻繁交互帶來計(jì)算量倍增alszEnterprise業(yè)務(wù)數(shù)據(jù)資產(chǎn)業(yè)務(wù)數(shù)據(jù)資產(chǎn)數(shù)據(jù)虛擬化引擎物理引擎如何解決：智能數(shù)據(jù)虛擬化技術(shù)工具高效全局智能優(yōu)化數(shù)據(jù)虛擬化引擎全面實(shí)現(xiàn)三大需求全局智能優(yōu)化數(shù)據(jù)虛擬化引擎隨取隨用隨取隨用數(shù)據(jù)資產(chǎn)收益分析統(tǒng)一的智能化任務(wù)編排數(shù)據(jù)資產(chǎn)收益分析統(tǒng)一的智能化任務(wù)編排統(tǒng)一的自動(dòng)化數(shù)據(jù)管理靠的數(shù)據(jù)訪問實(shí)現(xiàn)需求一：統(tǒng)一數(shù)據(jù)資產(chǎn)更多數(shù)據(jù)治理方案請(qǐng)關(guān)注7月22日數(shù)據(jù)虛擬化層外部數(shù)據(jù)接入圖存儲(chǔ)格式列存儲(chǔ)格式外部數(shù)據(jù)接入業(yè)務(wù)虛擬寬表邏輯建模貼源虛擬表業(yè)務(wù)虛擬表貼源虛擬表Table1資產(chǎn)治理Table1資產(chǎn)治理TableTable3Table2Table2Col2Col3ColC_Col4__虛擬中間表kafkaELTALAKE限虛擬中間表實(shí)現(xiàn)需求二：數(shù)據(jù)驅(qū)動(dòng)的自動(dòng)化工具請(qǐng)幫我圈選一個(gè)高效做信用卡營(yíng)銷的人群易金額分層、年齡、職業(yè)、是否有房貸4個(gè)特征?特征寬表缺少并優(yōu)化執(zhí)行輸入特征實(shí)現(xiàn)需求三：高效計(jì)算能力分全技術(shù)棧智能優(yōu)化，性能整體可提升10倍以上智能加速智能物化+SQL優(yōu)化邏輯模型、指標(biāo)先進(jìn)計(jì)算存儲(chǔ)底盤邏輯模型先進(jìn)計(jì)算存儲(chǔ)底盤流批一體虛擬層內(nèi)置多格式高速存儲(chǔ)虛擬層性能10倍于主流KV性能10倍于主流KV存儲(chǔ)物化視圖公共路徑A計(jì)算性能優(yōu)化1Join性能做到極致，2倍于主流引擎。2兼容BSP、MPP、Streaming等業(yè)界通用引擎。自動(dòng)化工具自我迭代的企業(yè)大模型應(yīng)用框架自動(dòng)化工具用戶任務(wù)描述任務(wù)隊(duì)列迭代結(jié)果輸出用戶評(píng)估數(shù)據(jù)虛擬化引擎統(tǒng)一數(shù)據(jù)資產(chǎn)虛擬化引擎統(tǒng)一數(shù)據(jù)資產(chǎn)微調(diào)樣本數(shù)巔科技，讓大模型