02

開(kāi)放應(yīng)用架構(gòu)，

建設(shè)全新可精細(xì)化運(yùn)營(yíng)的百煉1.百煉RAG應(yīng)用落地挑戰(zhàn)與實(shí)踐2.多語(yǔ)言多模態(tài)RAG技術(shù)研發(fā)與應(yīng)用3.百煉可持續(xù)運(yùn)營(yíng)：

大模型應(yīng)用優(yōu)化技術(shù)實(shí)踐4.AI運(yùn)營(yíng)實(shí)踐分享—PE及RAG的實(shí)施方法論03

著眼未來(lái)，

共建多元化的大模型生態(tài)1.模型+應(yīng)用雙輪驅(qū)動(dòng)：

全面開(kāi)放的大模型生態(tài)04

大模型落地千行百業(yè)，

最佳實(shí)踐案例分享1.Jarvis

X

百煉，

打造大模型智慧出行客服2.德勤攜手阿里云百煉，

助力行業(yè)數(shù)智化提升3.產(chǎn)品博士

-基于阿里云百煉的首個(gè)阿里云內(nèi)部案例01

多端融合，

打造最優(yōu)落地效果的多模態(tài)百煉1.全新升級(jí)：

打造最優(yōu)效果的多模態(tài)百煉2.終端大模型的探索及機(jī)會(huì)CONTENT目錄主題一多端融合，

打造最優(yōu)落地效果的多模態(tài)百煉打造最優(yōu)效果的多模態(tài)百煉江瀟阿里云智能集團(tuán)飛天實(shí)驗(yàn)室資深產(chǎn)品專(zhuān)家2024/09/19CONTENT目錄02

建設(shè)大模型生產(chǎn)力和產(chǎn)品力03

打造最優(yōu)效果的RAG01

持續(xù)為AI創(chuàng)新加速04

打造最安全的百煉Part

1持續(xù)為AI創(chuàng)新加速與開(kāi)發(fā)者共同成長(zhǎng)，

為AI新范式創(chuàng)新加速2023年10月31日2024年5月9日百煉1.0百煉2.0新百煉理念理念阿里云百煉-產(chǎn)品定位基于通義大模型，

面向企業(yè)和開(kāi)發(fā)者客戶，打造一站式大模型服務(wù)和大模型應(yīng)用構(gòu)建平臺(tái)百煉

MaaS應(yīng)用

生態(tài)Qwen-PlusQwen-VLQwen-MaxQwen-Turbo聽(tīng)悟析言GBI妙筆三方應(yīng)用阿里云AI計(jì)算服務(wù)PaaS/IaaS通義萬(wàn)相系列通義開(kāi)源系列百模重器

·千錘百煉通義領(lǐng)域大模型多模態(tài)大模型通義千問(wèn)系列自定義應(yīng)用三方大模型模型生態(tài)通義曉蜜大模型

生產(chǎn)力大模型服務(wù)及應(yīng)用已逐步進(jìn)入“深水區(qū)

”客戶對(duì)效果需求帶來(lái)對(duì)大模型平臺(tái)能力，從要求生產(chǎn)力到產(chǎn)品力的轉(zhuǎn)變最佳企業(yè)級(jí)效果多模態(tài)開(kāi)發(fā)適配工具效果安全工具工具模型擁有

（多模態(tài)）模型效果模型服務(wù)大模型產(chǎn)品力Part

2建設(shè)大模型生產(chǎn)力和產(chǎn)品力效果運(yùn)營(yíng)中心Agent應(yīng)用開(kāi)發(fā)工具全鏈路模型開(kāi)發(fā)工具大模型服務(wù)基礎(chǔ)大模型效果追蹤工具Prompt工程模型體驗(yàn)/調(diào)試模型推理服務(wù)通義千問(wèn)系列模型調(diào)優(yōu)LoRA/SFT模型訓(xùn)練服務(wù)通義萬(wàn)相系列模型評(píng)測(cè)數(shù)據(jù)管理模型部署

模型安全服務(wù)模型預(yù)訓(xùn)練通義多模態(tài)大模型語(yǔ)音

、視覺(jué)

、HumanAI

GC等阿里云百煉產(chǎn)品升級(jí)架構(gòu)圖模型廣場(chǎng)國(guó)際化應(yīng)用廣場(chǎng)多端生態(tài)VPC

、金融云

、政務(wù)云等大模型輸出API/SDK/智能體效果分析工具流程/Agent編排效果干預(yù)工具插件中心多維看板搜索增強(qiáng)通義領(lǐng)域大模型法睿

、客服等三方大模型文本生成Qwen-TurboQwen-PlusQwen-Max視覺(jué)理解QwenVL-MaxQwenVL-Plus語(yǔ)音識(shí)別SensevoiceParaformer-v2圖片生成Wanx-v1FLUXOutfitAnyone視頻生成AnimateAnyoneEMOCosyVoice大模型生產(chǎn)力：

擴(kuò)大多模態(tài)模型擁有多模態(tài)模型供給開(kāi)源+閉源，

多模態(tài)模型一站式開(kāi)箱即用多模態(tài)模型在線體驗(yàn)語(yǔ)音合成應(yīng)用工具Agent智能體：基于視覺(jué)理解模型一鍵創(chuàng)建多模態(tài)交互智能體智能編排：基于文本

、視覺(jué)

、語(yǔ)音快速搭建多模態(tài)融合處理工作流及參數(shù)傳遞模型工具微調(diào)評(píng)測(cè)：支持圖片

、視覺(jué)模型微調(diào)服務(wù)，

全面覆蓋QwenVLQwenVL/Wanx/FLUX/SD模型大模型產(chǎn)品力：

多模態(tài)適配工具鏈能力應(yīng)用搭建+效果優(yōu)化，

模型工具鏈全面兼容多模態(tài)模型基于QwenVL-MAX模型，

搭建多模態(tài)搜索工作流QwenVL視覺(jué)理解模型圖文SFT微調(diào)數(shù)據(jù)在線編輯可干預(yù)大模型產(chǎn)品力：

效果工具的實(shí)現(xiàn)思路可分析可追蹤圍繞大模型應(yīng)用的全節(jié)點(diǎn)執(zhí)行過(guò)程覆蓋LLM

、API

、Retrieve

、Embedding

、Rerank

、Plug-in

等鏈路大模型產(chǎn)品力：

效果工具實(shí)現(xiàn)Logtrace全鏈路追蹤監(jiān)測(cè)LogTrace全鏈路監(jiān)測(cè)

-

應(yīng)用執(zhí)行節(jié)點(diǎn)級(jí)監(jiān)測(cè)完整執(zhí)行鏈路的Latency延遲

、輸入

、輸出

、Tokens消耗子節(jié)點(diǎn)級(jí)監(jiān)測(cè)

-節(jié)點(diǎn)執(zhí)行詳情大模型產(chǎn)品力：

效果工具實(shí)現(xiàn)提示詞工程效果綜合提升Prompt作為大模型與應(yīng)用效果的鏈接器，優(yōu)化方式更趨智能化提示詞工程提示詞

擴(kuò)寫(xiě)基于反饋

優(yōu)化ICL樣例

擴(kuò)充大模型產(chǎn)品力：

應(yīng)用工具實(shí)現(xiàn)編排效果提升工作流編排智能體編排Multi-Agent+Workflow

智能決策的混合應(yīng)用編排高度自定義的SOP流程執(zhí)行，

顯著降低編碼成本Part

3打造最優(yōu)效果的RAG搜索精度差系統(tǒng)集成難度模型生成幻覺(jué)維護(hù)成本高端到端生成滿意度差企業(yè)知識(shí)管理復(fù)雜大模型產(chǎn)品力：

應(yīng)用工具實(shí)現(xiàn)RAG的效果打磨痛點(diǎn)可管理企業(yè)數(shù)據(jù)百煉RAG目標(biāo)領(lǐng)域應(yīng)用效果企業(yè)管理可調(diào)優(yōu)可運(yùn)營(yíng)可觀測(cè)可干預(yù)多源/異構(gòu)

數(shù)據(jù)可管理?多種數(shù)據(jù)對(duì)接方式云上數(shù)據(jù)庫(kù)

、本地?cái)?shù)據(jù)庫(kù)

、網(wǎng)頁(yè)數(shù)據(jù)解析等?

多模態(tài)數(shù)據(jù)文檔

、圖片

、數(shù)據(jù)庫(kù)表

、視頻

、語(yǔ)音?互聯(lián)網(wǎng)搜索大模型產(chǎn)品力：

應(yīng)用工具落地RAG的最佳范式效果可調(diào)優(yōu)

、可干預(yù)?搜索精度提升Metadata增強(qiáng)

、模板化文檔chunk切分?模型生成幻覺(jué)降低搜索前置/后置過(guò)濾

、意圖識(shí)別后恢復(fù)召回等?提升端到端生成滿意度RAG應(yīng)用的自動(dòng)化評(píng)估大模型產(chǎn)品力：

應(yīng)用工具落地RAG的最佳范式Part

4打造最安全的百煉所有數(shù)據(jù)

100%

歸屬用戶日志存儲(chǔ)SLS

ActionTrail知識(shí)庫(kù)向量數(shù)據(jù)AnalyticDB訓(xùn)練數(shù)據(jù)

、多模態(tài)數(shù)據(jù)OSS數(shù)據(jù)處理中間數(shù)據(jù)Elasticsearch內(nèi)容安全

KMS加密

SDDP防護(hù)百煉賬號(hào)大模型產(chǎn)品力：

安全工具的解決方案通義系列其他模型RAM內(nèi)置綠網(wǎng)

內(nèi)部審計(jì)模型加密用戶賬號(hào)數(shù)據(jù)可控模型獨(dú)享鏈路可信操作可審百煉平臺(tái)只計(jì)算不留存數(shù)據(jù)百煉應(yīng)用RAG

Agent模型訓(xùn)練部署V

PCAPI用戶賬號(hào)用戶

里調(diào)用百煉推理和應(yīng)用模型微調(diào)模型部署百煉平臺(tái)網(wǎng)關(guān)Prompt全程加密基礎(chǔ)模型專(zhuān)網(wǎng)通道專(zhuān)網(wǎng)通道大模型產(chǎn)品力：

安全資質(zhì)及多端可信部署國(guó)際首個(gè)人工智能管理體系標(biāo)準(zhǔn)ISO/IEC42001認(rèn)證金融云VPC政務(wù)云一站式大模型服務(wù)平臺(tái)，

企業(yè)擁抱AI

時(shí)代首選謝謝Thank

You終端大模型的探索及機(jī)會(huì)胡露露阿里云智能集團(tuán)飛天實(shí)驗(yàn)室科學(xué)家2024/09/19從行業(yè)需求看終端模型能力通過(guò)AI

Core內(nèi)置操作系統(tǒng)內(nèi)核，

幫助品牌商，建立自己的大模型生態(tài)，開(kāi)放APP調(diào)用，

為APP在手機(jī)，

PC，

平板等消費(fèi)電子場(chǎng)景提供更豐富的端側(cè)應(yīng)用能力。文本總結(jié)提煉長(zhǎng)文本中的信息，

并以固定格式輸出短信/通話提取提取短信，

通話關(guān)鍵信息，

并發(fā)布到便簽圖像理解識(shí)別圖像上的文字，

二維碼等信息并結(jié)構(gòu)化圖搜信息通過(guò)攝像頭直接識(shí)別物品輸入法改寫(xiě)對(duì)輸入的文本進(jìn)行文風(fēng)改寫(xiě)幫我寫(xiě)一段龍年祝福的話龍騰瑞氣賀新春，福星高照吉祥年，愿你龍年事業(yè)飛躍

。章福安康，萬(wàn)事如意！不同風(fēng)格選擇禮貌抖音網(wǎng)易原神千問(wèn)萬(wàn)相Audio

VL百度微信1-K個(gè)tokensN個(gè)正確tokens圖搜商品相冊(cè)圖片直接搜索淘寶相似商品內(nèi)容翻譯內(nèi)容創(chuàng)造客戶

AI端云預(yù)測(cè)混合推理生態(tài)應(yīng)用同口碑短信

通話端小模型相冊(cè)

健康Core通用大模型商務(wù)調(diào)皮不可思議inconceivable瀏覽器模型分類(lèi)開(kāi)源時(shí)間應(yīng)用場(chǎng)景Qwen2-0.5BIoT/冰箱2023.12端側(cè)推理Qwen2-1.5B手機(jī)/IoT2023.12端側(cè)推理Qwen2-3B手機(jī)/規(guī)劃中Qwen2-7BPC/臺(tái)式電腦2023.9.25端側(cè)推理圖像模型通義萬(wàn)相-0.3B生圖的基礎(chǔ)模型并具備背景圖切換

、商品圖設(shè)計(jì)

、數(shù)字模特等場(chǎng)景能力Qwen-VL-2B讓模型能夠“看見(jiàn)

”動(dòng)態(tài)分辨率及OCR數(shù)據(jù)增強(qiáng)代碼模型CodeQwen讓模型能夠代碼編寫(xiě)通義家族推出的開(kāi)源代碼生成模型SenseVoice-small讓模型能夠“

聽(tīng)見(jiàn)

”語(yǔ)音理解模型支持語(yǔ)音識(shí)別

、語(yǔ)種識(shí)別

、語(yǔ)音情感識(shí)別

、聲學(xué)事件檢測(cè)

、逆文本正則化等能力Qwen2-Audio讓模型能夠“對(duì)話

”具備多語(yǔ)言的聲音理解

、語(yǔ)音編輯

、音樂(lè)鑒賞

、情感分析等能力文本模型阿里云支持廣泛端側(cè)大模型CosyVoice-300M讓模型能夠“說(shuō)話

”全新推出的生成式語(yǔ)音大模型，提供舒適自然的語(yǔ)音合成能力語(yǔ)音模型由于端側(cè)模型部署相較于傳統(tǒng)大模型部署在部署平臺(tái)

、使用場(chǎng)景的不同，會(huì)有更多的模型調(diào)優(yōu)

、工程優(yōu)化的訴求與挑戰(zhàn)Prefill速度

、decode速度

、模型加載速度

、模型Function

call

準(zhǔn)確率

、模型對(duì)話效果

、模型總結(jié)效果功耗（

<3W

）內(nèi)存占用（2G-4G

）CPU/GPU/NPU占用率（

<1c

）模型場(chǎng)景優(yōu)化（

SFT能力

、互聯(lián)網(wǎng)檢索

、圖像理解

、圖像生成

、三方應(yīng)用打通）模型落地的挑戰(zhàn)模型更新

、模型升級(jí)（升級(jí)包<100M

）敏感內(nèi)容過(guò)濾安全

&

維護(hù)擴(kuò)展資源性能Alibaba

Cloud通義萬(wàn)相端側(cè)大模型全技術(shù)鏈路Optimization

PluginsInferenceFrameworkModel

Weights通義干問(wèn)KV

Cache

ManagerTransformer

Laye

0

Engine

Layer

N

DeploymentToolkit云端任務(wù)分發(fā)云端任務(wù)回復(fù)Qwen2-0.5B&

Qwen2-1.5BQwen2-7B性能對(duì)比列表評(píng)測(cè)對(duì)比數(shù)據(jù)來(lái)自通義官方博客，供參考：

https://qwenlm.github.io/zh/blog/qwen2/以百煉為基礎(chǔ)-全面支持主流端側(cè)芯片平臺(tái)Qwen2

系列支持Qualcomm

、MTK

、Inter

、AMD等多種AI-SOC芯片原生調(diào)用?Counterpoint預(yù)測(cè)

，2024年生成式AI智能手機(jī)出貨量將達(dá)到1億部，到2027年出貨達(dá)到5.22億部

，2023-2027年CAGR為83%，屆時(shí)AI手機(jī)的滲透率將達(dá)到40%?Canalys最新預(yù)測(cè)數(shù)據(jù)顯示

，2024年，全球AI

PC出貨量將達(dá)到4800萬(wàn)臺(tái)，

占個(gè)人電腦（

PC）

總出貨量的18%；預(yù)計(jì)到2025年，AI

PC出貨量將超過(guò)1億臺(tái)，

占PC總出貨量的40%。文件摘要文件內(nèi)容摘要，

幫助消費(fèi)者快速閱讀通話提取提取通話關(guān)鍵信息，幫助消費(fèi)者總結(jié)摘要通義大模型+MTK系列芯片創(chuàng)新摘要提取通義底座模型+

LoRA能力，

實(shí)現(xiàn)快速功能加載提取短信關(guān)鍵信息，幫助消費(fèi)者記憶短信提取某品牌AI手機(jī)——

ASR

客戶應(yīng)用

TTS

執(zhí)行器

上千種意圖準(zhǔn)確率96%

終端控制

端云結(jié)合的意圖理解模型端側(cè)小模型

百煉WorkflowQwen-LLMQwen-VLQwen-Audio其他客戶端設(shè)備API服務(wù)執(zhí)行節(jié)點(diǎn)

NLU1.5B語(yǔ)音輸入

+

意圖理解

+

Planning

推理

+

FunctionCall“駕車(chē)導(dǎo)航去機(jī)場(chǎng)，給我找下機(jī)場(chǎng)附近好吃的并加到途經(jīng)點(diǎn)，

我想吃燒烤

”LLM語(yǔ)義識(shí)別/意圖理解APP調(diào)用第一家燒烤店可以嗎？

LLM

推理Planning大模型語(yǔ)義識(shí)別意圖理解后返回結(jié)構(gòu)化數(shù)據(jù)結(jié)合歷史喜好記錄和高德導(dǎo)航實(shí)現(xiàn)更舒適的出行體驗(yàn)APP調(diào)用LLM多輪對(duì)話/記憶讀取口味喜好Memory歷史喜好記錄端側(cè)大模型拒答模型內(nèi)置拒答能力

。符合AI

GC備案要求

。并實(shí)時(shí)跟進(jìn)政策需求變化

。隱私保護(hù)本地客戶數(shù)據(jù)加密

?？蛇x云端非對(duì)稱(chēng)數(shù)據(jù)加密

。模型數(shù)據(jù)與客戶數(shù)據(jù)獨(dú)立保存

。內(nèi)容安全（需云端激活）支持本地，

云端雙保護(hù)

。1.本地模式：預(yù)置60萬(wàn)風(fēng)險(xiǎn)詞庫(kù)，

6個(gè)算法比對(duì)模型

。支持中英雙語(yǔ)支持中文同音詞，相似詞

。可選云端更新詞庫(kù)功能。2.云端模式：

云端風(fēng)控模型，

電商級(jí)別內(nèi)容安全保護(hù)。安全運(yùn)行客定微調(diào)模型文件加密防破解

。關(guān)鍵算子抽離防盜取

。本地和增強(qiáng)多種可選安全方案，

幫助客戶高效率實(shí)現(xiàn)安全的大模型使用環(huán)境內(nèi)容安全

模型評(píng)測(cè)芯片適配百煉支持端云結(jié)合創(chuàng)新云端workflow模型微調(diào)百煉意圖理解設(shè)備信令謝謝Thank

You主題二開(kāi)放應(yīng)用架構(gòu)，

建設(shè)全新可精細(xì)化運(yùn)營(yíng)的百煉百煉RAG應(yīng)用落地實(shí)踐與挑戰(zhàn)丁瑞雪通義實(shí)驗(yàn)室科學(xué)家2024/09/19CONTENT目錄01

RAG背景與挑戰(zhàn)03

差異化需求滿足04

系統(tǒng)評(píng)估與優(yōu)化02

復(fù)雜文檔理解Part

1RAG背景與挑戰(zhàn)知識(shí)受限私域知識(shí)：我入職3年，

今年有多少天年假？空調(diào)買(mǎi)了三年壞了，

還在保修期嗎？長(zhǎng)尾知識(shí)：fishier

rc4

2019的板腰長(zhǎng)度是多少？ATOMIC

REDSTER

CS

SKI

BOOT硬度是多少？幻覺(jué)問(wèn)題時(shí)效性知識(shí)：今天天氣怎么樣？2024云棲大會(huì)舉辦時(shí)間RAG出現(xiàn)背景長(zhǎng)尾問(wèn)題復(fù)雜的數(shù)據(jù)PPT

、PDF

、word

、網(wǎng)頁(yè)

、markdown等多種復(fù)雜文件類(lèi)型效果保障如何確保在客戶的數(shù)據(jù)上達(dá)到效果要求，

如何迭代優(yōu)化多樣化需求多知識(shí)庫(kù)編排

、回答范圍限定

、多種query類(lèi)型支持等RAG落地應(yīng)用挑戰(zhàn)Part

2復(fù)雜文檔理解權(quán)益性質(zhì)股東姓名/名稱(chēng)實(shí)益擁有人於受控法團(tuán)之權(quán)益權(quán)益合計(jì)佔(zhàn)本公司已發(fā)行股份之百分比(股份）(股份)(股份）(%)按性別劃分的雇傭情況女性20%男性80%按級(jí)別劃分的雇傭情況13%9%78%不同于word

、PDF等順序理解文檔，

PPT文檔通常具有二維的空間理解順序

。閱讀順序的正確理解對(duì)文檔內(nèi)容理解起到重要作用復(fù)雜的表頭關(guān)系

、無(wú)線表格分割

、表格合并

、表格跨頁(yè)等表格繪制方式均會(huì)對(duì)表格解析造成困難傳統(tǒng)的依賴(lài)OCR的解析方式難以將餅圖

、折線圖

、柱狀圖等多模態(tài)數(shù)據(jù)信息準(zhǔn)確地傳達(dá)出來(lái)01.

PPT閱讀順序理解03.

多模態(tài)數(shù)據(jù)理解復(fù)雜的數(shù)據(jù)02.

復(fù)雜表格理解文本多模態(tài)復(fù)雜文檔解決方案混合OCR

、規(guī)則解析

、離線VL

、在線VL

、layout

pompt等多種理解方式解決復(fù)雜文檔理解問(wèn)題多路解析結(jié)果融合離線解析路由PPT

表格layout

prompt規(guī)則解析OCR在線VL離線VLPart

3差異化需求滿足多種query類(lèi)型支持query類(lèi)型：不同類(lèi)型的提問(wèn)，

對(duì)于所需信息密度

、信息類(lèi)型不一樣?

知識(shí)點(diǎn)問(wèn)答?

總結(jié)摘要?

長(zhǎng)文檔推理?

翻譯?

文本創(chuàng)作多知識(shí)庫(kù)編排知識(shí)庫(kù)類(lèi)型：?

互聯(lián)網(wǎng)知識(shí)庫(kù)?

多類(lèi)型業(yè)務(wù)知識(shí)庫(kù)?

FAQ知識(shí)庫(kù)知識(shí)庫(kù)編排需求：?

本地/互聯(lián)網(wǎng)知識(shí)優(yōu)先級(jí)配置?

FAQ庫(kù)短路機(jī)制?

多權(quán)重業(yè)務(wù)庫(kù)路由混排回答范圍限定知識(shí)范圍：?

大模型自有知識(shí)?

知識(shí)庫(kù)內(nèi)容?

互聯(lián)網(wǎng)知識(shí)依賴(lài)prompt無(wú)法支持知識(shí)范圍限定?

模型幻覺(jué)?

垂域知識(shí)缺乏?

基模訓(xùn)練策略多樣化需求例子搜中差異化需求解決方案搜前搜后知識(shí)庫(kù)路由Query改寫(xiě)意圖分析FAQ干預(yù)prompt組裝配置知識(shí)庫(kù)編排配置prompt壓縮層級(jí)片段組裝相關(guān)性檢測(cè)回答范圍配置搜索融合意圖配置業(yè)務(wù)庫(kù)2業(yè)務(wù)庫(kù)4業(yè)務(wù)庫(kù)1FAQ庫(kù)業(yè)務(wù)庫(kù)3Part

4系統(tǒng)評(píng)估與優(yōu)化Bad

case怎么修復(fù)鏈路排查分析

、問(wèn)題路由定位沒(méi)有標(biāo)注數(shù)據(jù)怎么辦自動(dòng)評(píng)估數(shù)據(jù)生產(chǎn)什么配置是最優(yōu)的評(píng)估驅(qū)動(dòng)的模塊選擇開(kāi)箱即用之后

…(a)

Previous

MethodsSimple

QueryPlain

Text

Chunking

Retrieval

Reranking

GenerationEvaluationGolden

Chunks

Reference

AnswerCoFE-RAG：

RAG系統(tǒng)全鏈路自動(dòng)評(píng)估框架

&BenchmarkChunking

Retrieval

Reranking

GenerationEvaluationMulti-granular

KeywordsReferenceAnswer(b)

CoFE-RAGComplex

QueryDocuments謝謝Thank

You多語(yǔ)言多模態(tài)RAG技術(shù)研發(fā)與應(yīng)用龍

定

坤通義實(shí)驗(yàn)室科學(xué)家2024/09/19PE業(yè)

自

目知識(shí)庫(kù)Query改寫(xiě)查詢(xún)檢索意圖Query路由查詢(xún)召回

家通義LLM輸出結(jié)果Naive

RAGReRank丨

長(zhǎng)期記憶丨

安全策略業(yè)

自

目知識(shí)庫(kù)RAG系統(tǒng)介紹家通義LLMFinetuneAdvance

RAG文本向量多模態(tài)向量稀疏向量索引用戶Query用戶QueryRAGALL輸出結(jié)果查詢(xún)召回向量索引PEPE多輪改寫(xiě)多模態(tài)召回排序多語(yǔ)言Query路由Memory圖片理解Code理解結(jié)構(gòu)化搜索Long

Context表格問(wèn)答Query拆解文本知識(shí)問(wèn)答多模態(tài)融合跨語(yǔ)言理解業(yè)務(wù)特性定制…通義千問(wèn)

Qwen-LLM

Qwen-VL離線數(shù)據(jù)在線處理RAG需求和功能的演進(jìn)文檔解析和理解場(chǎng)景定制多語(yǔ)言多模態(tài)多輪對(duì)話自定義切片大模型表格公式理解全電子格式混合解析Meta信息多語(yǔ)言特征抽取超長(zhǎng)文檔多模態(tài)文檔解析多模態(tài)特征抽取文本向量多模態(tài)向量PDF解析OCR文本識(shí)別離線索引自定義切片智能切片模板切片表格理解KV信息抽取?多模態(tài)?文檔理解文件格式眾多圖片/pdf/office/html多頁(yè)長(zhǎng)文檔1-unlimited公式識(shí)別ChartDerenderingLayout分析閱讀順序理解TextSpottingChemicalStructureRecognition截圖解析多模態(tài)文檔理解版面層級(jí)結(jié)構(gòu)多樣論文/圖書(shū)/財(cái)報(bào)/說(shuō)明書(shū)多模態(tài)版面元素文本/表格/圖片混合解析電子版

、大小模型混合解析文檔結(jié)構(gòu)識(shí)別長(zhǎng)文檔解析統(tǒng)一多模態(tài)文檔識(shí)別多模態(tài)文檔理解>10種文檔格式轉(zhuǎn)換md10000頁(yè)文檔解析>98%文字識(shí)別準(zhǔn)確率>90%版面層級(jí)準(zhǔn)確率>90%表結(jié)構(gòu)準(zhǔn)確率>95%公式準(zhǔn)確率

文檔理解能力技術(shù)和框架改進(jìn):混合電子版本解析，流式解析技術(shù)發(fā)展:

專(zhuān)屬模型識(shí)別->通用模型識(shí)別文檔版面分析,文檔層級(jí)解析產(chǎn)品能力命多模態(tài)多語(yǔ)言Embedding/ReRank模型LLM雙塔模型單塔模型ReRank

模型Embedding模型對(duì)比學(xué)習(xí)損失對(duì)比學(xué)習(xí)損失LLMLLM性能

&

泛化性連續(xù)

&

離散表示彈性維度表示多模態(tài)表征長(zhǎng)文本多語(yǔ)言

&

跨語(yǔ)言高效率執(zhí)行相關(guān)性區(qū)分度…統(tǒng)一多模態(tài)排序大模型應(yīng)用DocumentRelevance

ScoreQueryVECTORQueryDocumentVECTOR推理能力多樣性可定義的相關(guān)性底座模型Qwen

LLM訓(xùn)練策略多階段訓(xùn)練高質(zhì)量負(fù)樣本混合模態(tài)均勻采樣基于Qwen大模型的Embedding/ReRank能力構(gòu)建大模型相關(guān)性數(shù)據(jù)合成GTE-Qwen-Embedding系列模型MTEB評(píng)測(cè)數(shù)據(jù)中文英文法語(yǔ)波蘭語(yǔ) baseline

GTE模型通過(guò)大模型過(guò)濾Positive和NegativeCode/多語(yǔ)言/多模態(tài)大模型合成數(shù)據(jù)基礎(chǔ)相關(guān)性數(shù)據(jù)大模型應(yīng)用數(shù)據(jù)通過(guò)檢索+重排過(guò)濾采樣PassageQuery

改寫(xiě)生成

Hard

Negative806040200生成Query生成角色生成場(chǎng)景Qwen

VL-80%向量存儲(chǔ)+20%召回效率

Image

Encoder

這臺(tái)汽車(chē)的售價(jià)?MMLMCLIP統(tǒng)一多模態(tài)召回VS

CLIP召回性能VS

分治策略這臺(tái)汽車(chē)的售價(jià)?統(tǒng)一多模態(tài)表征模型MMLMLLM+85%純圖片召回+21%文圖召回Image

EncoderProjection更統(tǒng)一的表征模型:單圖/單文本/圖+文充分利用多模態(tài)模型的底座能力召回+排序統(tǒng)一架構(gòu)Text

EncoderLlamaIndex

官方SDK模型API服務(wù)全鏈路RAG應(yīng)用開(kāi)源模型生態(tài)開(kāi)源生態(tài)接入百煉大模型平臺(tái)RAG算法?

GTE-Embedding?

GTE-ReRank?IDP文檔識(shí)別百煉2.0?Howto

book

air

tickets??出差在外賣(mài)定的外賣(mài)無(wú)發(fā)票可以報(bào)銷(xiāo)嗎?Puis-je

réserver

un

lieu

deconférence

par

l'intermédiaired'unesociété

tierce

?Q:兒童座椅放置的卡扣在哪個(gè)位置Q:怎么放倒第三排座椅Q:查詢(xún)AAC代號(hào)為98C的指令并使用V24.23版本的查詢(xún)規(guī)范多模態(tài)產(chǎn)品智能輔助旅游和商品推廣多語(yǔ)言智能問(wèn)答多語(yǔ)言多模態(tài)RAG應(yīng)用Q:這個(gè)鞋是什么型號(hào)?Q:根據(jù)商品知識(shí)寫(xiě)一段推廣展示文案Q:

請(qǐng)問(wèn)這是哪個(gè)城市的哪個(gè)景點(diǎn)？謝謝Thank

You百煉可持續(xù)運(yùn)營(yíng)—大模型應(yīng)用優(yōu)化技術(shù)實(shí)踐趙中州阿里云智能集團(tuán)飛天實(shí)驗(yàn)室科學(xué)家2024/09/19中等較低低應(yīng)用基礎(chǔ)模型智能體工作流

/多智能體?

適合添加新領(lǐng)域知識(shí)，易受災(zāi)難性遺忘的影響?

計(jì)算成本一般低于初始預(yù)訓(xùn)練?

用于改進(jìn)模型行為，使其更加符合預(yù)期目標(biāo)或標(biāo)準(zhǔn)?在SFT基礎(chǔ)上增強(qiáng)性能，可減少偏差

、提升一致性?目的是增強(qiáng)指令遵循

、人類(lèi)對(duì)齊

、任務(wù)執(zhí)行等能力?

全微調(diào)：

可控性最強(qiáng)，可能面臨災(zāi)難性遺忘問(wèn)題?

PEFT：作為正則化手段訓(xùn)練，計(jì)算成本較低?使用動(dòng)態(tài)提示上下文，通過(guò)用戶問(wèn)題檢索并注入到LLM提示

中，適合需要結(jié)合動(dòng)態(tài)/實(shí)時(shí)知識(shí)的場(chǎng)景，復(fù)雜性和性能依賴(lài)于檢索引擎的實(shí)現(xiàn)?

在提示中放置原型示例

、推理軌跡

、角色等信息?推理成本和延遲可能隨著更多的token輸入而增加極高高大模型應(yīng)用優(yōu)化思路與選型優(yōu)化方法

適用場(chǎng)景依賴(lài)成本仍需大量數(shù)據(jù)和計(jì)算資源針對(duì)目標(biāo)的高質(zhì)量評(píng)估器或高質(zhì)量對(duì)齊數(shù)據(jù)高質(zhì)量Prompt（

Demo和Instruction

）高質(zhì)量訓(xùn)練數(shù)據(jù)（代表性&多樣性）較少的訓(xùn)練資源高質(zhì)量知識(shí)庫(kù)繼續(xù)預(yù)訓(xùn)練/CPT微調(diào)SFT/PEFT對(duì)齊訓(xùn)練/DPO檢索增強(qiáng)生成/RAG上下文學(xué)習(xí)/ICL【任務(wù)描述】產(chǎn)品營(yíng)銷(xiāo)廣告一版包含故事懸念，

信息缺口，

沖

突展示，

預(yù)期反轉(zhuǎn)，

直接利益，

內(nèi)幕揭秘…等類(lèi)

型，

請(qǐng)分析下列內(nèi)容判斷其具體類(lèi)型：【參考樣例】產(chǎn)品營(yíng)銷(xiāo)廣告一版包含故事懸念，

信息缺口，

沖

突展示，

預(yù)期反轉(zhuǎn)，

直接利益，

內(nèi)幕揭秘…等類(lèi)

型，

請(qǐng)分析下列內(nèi)容判斷其具體類(lèi)型：【分析內(nèi)容】

貴與便宜的區(qū)別，誰(shuí)說(shuō)不是呢！

貴與便宜的差別，九塊

九毛八，好珍惜哦，快來(lái)買(mǎi)吧

?！灸Ｐ徒Y(jié)果】直接利益【分析內(nèi)容】親身體驗(yàn)一下日常茶園管理（除草）@抖音小助手

誰(shuí)說(shuō)農(nóng)民不苦？誰(shuí)說(shuō)夢(mèng)里不累

，酸甜苦辣的滋味...【模型結(jié)果】情境共鳴【分析內(nèi)容】減肥圈里的小秘密，其實(shí)吃對(duì)了，零食也能助燃脂！一小

包堅(jiān)果（約30g

）僅150大卡，小塊黑巧才50大卡…這些業(yè)內(nèi)人不輕易說(shuō)的小技巧，你學(xué)會(huì)了嗎？【模型結(jié)果】

內(nèi)幕揭秘【測(cè)試結(jié)果】ChinaJoy別眨眼~快和鵬哥一起來(lái)逛CJ吧！

累

了困了喝東鵬特飲

，

東鵬補(bǔ)水啦快速補(bǔ)充電解

質(zhì)，

快來(lái)東鵬展臺(tái)補(bǔ)充能量吧

?！灸Ｐ徒Y(jié)果】

情境共鳴【正確答案】

文化連接【錯(cuò)誤分析思考】雖然正確識(shí)別了廣告中包含的文化背景（

ChinaJoy）和用戶互動(dòng)元素，但在最終分類(lèi)時(shí)，忽略了文化元素是作為整個(gè)廣告背景框架存在的，其主要目的是通過(guò)與ChinaJoy這一文化盛事的連接，

吸引對(duì)該文化感興趣的受眾

。而“情境共鳴

”更多強(qiáng)調(diào)的是構(gòu)建與觀眾日常生活相關(guān)的場(chǎng)景，

引發(fā)情感上的共鳴，這里并未直接構(gòu)建如日常疲勞

、需要能量補(bǔ)充等普遍情境

，而是利用了ChinaJoy這一特殊文化活動(dòng)作為吸引點(diǎn)，所以應(yīng)該為“文化連接

”?！灸Ｐ蚉rompt】你是一個(gè)專(zhuān)家，

擅長(zhǎng)下面的能力：1.文本理解與分析能力

：能夠準(zhǔn)確理解文章標(biāo)題和正文或摘要中的關(guān)鍵信息，識(shí)別其中涉及的汽車(chē)相關(guān)

…##【任務(wù)描述】請(qǐng)判斷下面汽車(chē)相關(guān)的文章屬于下面哪一種類(lèi)別：“產(chǎn)品解析

”，“車(chē)商賣(mài)車(chē)

”，“經(jīng)典懷

舊

”，“質(zhì)量投訴

”，“銷(xiāo)量表現(xiàn)

”，“其他

”。最終的結(jié)果請(qǐng)按照{(diào){“type

”:“

<類(lèi)別結(jié)果

>

”}}的json格式進(jìn)行輸出##【任務(wù)步驟】完成該任務(wù)需要遵循以下步驟：1.

**閱讀文章標(biāo)題和正文**

：首先仔細(xì)閱讀提供的文章標(biāo)題和正文內(nèi)容，這是理解文章主題和

目的的關(guān)鍵

…##【注意事項(xiàng)】完成該任務(wù)需要注意以下幾點(diǎn)：1.

**標(biāo)題與正文內(nèi)容結(jié)合分析**：文章的標(biāo)題往往能提供關(guān)鍵信息，但要結(jié)合正文內(nèi)容綜合判斷...##【參考樣例】###

樣例一…###

樣例二…##【待分析內(nèi)容】…請(qǐng)根據(jù)【任務(wù)描述】針對(duì)【待分析內(nèi)容】進(jìn)行分析，并且參考【參考樣例】

、給定的【任務(wù)步

驟】和【注意事項(xiàng)】

。請(qǐng)先一步一步詳細(xì)的給出推理過(guò)程，然后給出結(jié)果

。ICL優(yōu)化實(shí)踐：

基于Meta-Prompt的提示詞優(yōu)化實(shí)踐支持Instruction和Demo的快速擴(kuò)展與反饋迭代【任務(wù)分析】

提示詞擴(kuò)展針對(duì)該提示詞，

可通過(guò)下列維度提升清晰度

、全面性和實(shí)用性：1.明確定義各類(lèi)型特征：

…

2.

引入評(píng)估框架：

…2.增加操作性指導(dǎo)：

…

3.補(bǔ)充案例分析：

…樣例1：xxx…

…樣例2：xxx…

…樣例3：xxx

樣例N：xxx明確文化元素與情境的區(qū)別，

當(dāng)廣告主要利用特定文化背景

、節(jié)日或活動(dòng)吸引目標(biāo)群體，

增強(qiáng)內(nèi)容的相關(guān)性和吸引力時(shí)，

用于構(gòu)建與特定社群的身份認(rèn)同和興趣共鳴時(shí)，

優(yōu)先考慮“文化連接

”Meta-Prompt

Framework【改進(jìn)建議】

提示詞迭代樣例擴(kuò)展針對(duì)復(fù)雜任務(wù)可自動(dòng)拆解步驟提供細(xì)粒度的控制與更好的推理可控性AutoTask

Decomposition專(zhuān)有知識(shí)融合能針對(duì)不同任務(wù)類(lèi)型補(bǔ)充專(zhuān)業(yè)知識(shí)結(jié)合領(lǐng)域特定增強(qiáng)提示詞一次性?xún)?yōu)化率關(guān)注類(lèi)內(nèi)與類(lèi)間差異性關(guān)注遺漏

、多余

、混淆信息關(guān)注常見(jiàn)文體與創(chuàng)作維度關(guān)注回復(fù)相關(guān)性

、情感化

、事實(shí)性等維度Task

Oriented優(yōu)化改進(jìn)提示詞結(jié)構(gòu)化生成提供ICIO/CRISPE/RASCEF等

優(yōu)化方法，

并支持已有提示詞解析上文信息

任務(wù)描述考慮到當(dāng)前的全球供應(yīng)鏈危機(jī)

，請(qǐng)?zhí)峁┮粋€(gè)詳細(xì)的清單，列出對(duì)小型企業(yè)影響最大的五個(gè)因素，并解釋每個(gè)因素的具體影響

。每個(gè)因素請(qǐng)用短句

進(jìn)行描述

，并用編號(hào)列表來(lái)組織

。請(qǐng)保持描述簡(jiǎn)潔，每個(gè)因素不超過(guò)兩句話

，并避免使用行業(yè)術(shù)

語(yǔ)

。例如：

1

.物流延遲一由于海關(guān)清關(guān)時(shí)間增加，小型企業(yè)面臨貨物配送延誤的問(wèn)題樣例參考格式說(shuō)明復(fù)雜Prompt最佳實(shí)踐指導(dǎo)Meta-Prompt演進(jìn)1

–

結(jié)合任務(wù)特點(diǎn)的提示詞快速優(yōu)化復(fù)雜任務(wù)拆解支持步驟三步驟二步驟一輸出格式指示限制條件樣例輸出結(jié)合上下文判斷涉及的商品判斷是售前

、售中或售后類(lèi)問(wèn)題針對(duì)售后問(wèn)題提取具體反饋角色設(shè)定任務(wù)描述注意事項(xiàng)操作步驟分類(lèi)對(duì)話抽取寫(xiě)作結(jié)合不同元素采用多種壓縮方法保障基礎(chǔ)效果減少推理時(shí)延與Token消耗請(qǐng)分析廣告類(lèi)別，

標(biāo)簽包括xx

、xx

…具體要求：-基于對(duì)廣告內(nèi)容的深入分析，

對(duì)比任務(wù)描述中各類(lèi)別鉤子

的定義，

進(jìn)行嚴(yán)謹(jǐn)?shù)念?lèi)別判斷

。-確保所選類(lèi)別準(zhǔn)確反映廣告最顯著

、最具吸引力的內(nèi)容鉤

子特征，無(wú)任何概念混淆或類(lèi)別交叉

。-在面對(duì)復(fù)雜或混合型廣告時(shí)，

能夠果斷選取最具主導(dǎo)性的

鉤子類(lèi)型作為最終輸出，

展現(xiàn)出清晰的決策能力

。相關(guān)示例：-輸入：

低減脂人不知道的秘密~冰的熱量低，

而且老冰棍

35大卡，

冰加藍(lán)莓64大卡...，

減肥饞了該吃什么，

大家get到了嗎？

-

輸出：

內(nèi)幕解密核心指令分析與保留語(yǔ)義梯度高效優(yōu)化結(jié)合語(yǔ)義反饋

、指標(biāo)反饋與mini-batch優(yōu)化提升優(yōu)化效率，

提升優(yōu)化穩(wěn)定性x

epoch當(dāng)前提示詞錯(cuò)誤分析…

Prompt

{j}修改建議（

gradient

）…優(yōu)化更新（

optimizer

）基于語(yǔ)義梯度的優(yōu)化流程全局均衡采樣采樣魯棒性高超大數(shù)據(jù)集處理效率高反饋集??

?

?。?????

??

?

?正樣本

負(fù)樣本結(jié)合當(dāng)前Good/Bad

Case自動(dòng)選擇Meta-Prompt演進(jìn)2

–基于結(jié)果反饋的提示詞自動(dòng)迭代層次化提示詞壓縮。。。<B

h

>atc

__{j}抽樣推理質(zhì)量判斷。。（loss

）。。。。。。。。

Time

step1CandidatesTime

step2CandidatesTime

step3Candidates難樣本生成

增強(qiáng)Boundary

CaseEvolutionSynthetic

DataGenerationOutput

--Post-Refine

LLM

Feedback多樣性樣本

生成增強(qiáng)Tree-basedSearchAB-

-

"

ABDDE[]AB-

-

-

-

-

-

-

…

"

"CEDEInputXX城市屬于XXOutputInput：成都屬于哪個(gè)省份output:成都是四川的Input：

重慶是哪個(gè)省的城市Output：

重慶是直轄市input:

南寧是云南的城市嗎？Output：

南寧是廣東省的城市Meta-Prompt演進(jìn)3

–樣本生成能力持續(xù)增強(qiáng)提供相似/差異化/易錯(cuò)案例的自動(dòng)擴(kuò)展能力，減少人工維護(hù)成本input:長(zhǎng)沙屬于哪個(gè)省output:長(zhǎng)沙是湖南的1.

問(wèn)答格式遵循2.答案是對(duì)的1.

問(wèn)答格式有變化2.答案是對(duì)的1.提問(wèn)答格式有變化2.答案是錯(cuò)誤的相似案例差異化案例錯(cuò)誤案例Input：

西寧是新疆的省會(huì)？Output：

西寧是甘肅省的省會(huì)Input：武漢屬于哪個(gè)省份Output：武漢是湖北的Input：武漢是湖南省的嗎Output：武漢位于湖北省Boundary

EvolutionInput-

-

-

-

-

-

"

AEABC-

一

"

-

一

"`、DECD`

CCEABCCCAADDBBE、產(chǎn)品營(yíng)銷(xiāo)廣告依據(jù)內(nèi)容鉤子可以分為以下幾個(gè)類(lèi)別：1.故事懸念

2.信息缺口

3.沖突...訴我屬于哪種類(lèi)型【核心技能】-內(nèi)容理解與分析：精確解讀短視頻廣告的內(nèi)容，包括敘事結(jié)構(gòu)

、關(guān)鍵信息

、

沖突元素

、結(jié)局設(shè)計(jì)

…-精準(zhǔn)歸納與表達(dá)：識(shí)別核心鉤子類(lèi)型,運(yùn)用精煉的語(yǔ)言進(jìn)行高度概括

…-…【注意事項(xiàng)】-

深入挖掘廣告中的文化符號(hào)

、傳統(tǒng)特色及品牌歷史等信息-

…-

關(guān)注廣告中是否獨(dú)家揭露秘密，

引起觀眾好奇心【參考樣例】-輸入：減肥圈里的小秘密，其實(shí)吃對(duì)了，零食也能助燃脂！一小包堅(jiān)果（約30g

）僅150大卡，小塊黑巧才50大卡…這些業(yè)內(nèi)人不輕易說(shuō)的小技巧，你學(xué)會(huì)了嗎？-

輸出：

內(nèi)幕揭秘…Query-specific

PromptMeta-Prompt演進(jìn)4

-從靜態(tài)到動(dòng)態(tài)提示詞基于離線指令與樣例自動(dòng)挖掘注意點(diǎn)與易錯(cuò)樣例，增強(qiáng)實(shí)時(shí)推理效果【分析內(nèi)容】

低減脂人不知道的秘密

告訴你一些簡(jiǎn)直人都不知道的秘密

，

冰的熱量低，

而且老冰棍35大卡，

冰

加藍(lán)莓64大卡

.

.

.

，

減肥饞了該吃什

么，

大家get到了嗎？自動(dòng)挖掘樣例與提示結(jié)合Query動(dòng)態(tài)組裝樣例與提示動(dòng)態(tài)推理（在線）指令提煉（離線）樣例增強(qiáng)（離線）Query

——

內(nèi)幕揭秘

錯(cuò)例庫(kù)相似樣例合成差異化樣例合成易錯(cuò)樣例合成\.類(lèi)別分布平衡動(dòng)態(tài)樣例庫(kù)樣例擴(kuò)展樣例清洗精細(xì)化迭代最佳指令樣例集合InstructionInput

Content<>基于推理反思基于多樣性生成Meta-prompt

Formatting

實(shí)時(shí)檢索Top-K樣例動(dòng)態(tài)Tips負(fù)例正例是否擴(kuò)充多次迭代n

--------------n

--------------訓(xùn)練集是否對(duì)比維度DSPyTEXTGRADMeta-Prompt優(yōu)化性能（耗時(shí)）Instruction優(yōu)化分鐘級(jí)別小時(shí)級(jí)別分鐘級(jí)別Instruction自動(dòng)優(yōu)化基于樣例特點(diǎn)優(yōu)化基于結(jié)果反饋迭代優(yōu)化無(wú)樣例/訓(xùn)練數(shù)據(jù)優(yōu)化Instruction優(yōu)化穩(wěn)定性原始任務(wù)描述保留程度低中高ICL自動(dòng)優(yōu)化ICL樣例篩選ICL樣例合成Meta-Prompt92.082.080.184.7（復(fù)雜指令）原始PromptDSPyTEXTGRADMeta-Prompt分類(lèi)（

ACC）69.235.341.972.0抽?。‵1

）66.930.657.568.6寫(xiě)作（

Score

）70.568.169.974.3RAG（

Score

）71.5

44.0

54.575.3

原始PromptDSPyTEXTGRADObject

Counting（

ACC

）77.884.991.9Word

Sorting（

ACC

）76.779.879.8GSM8K（

ACC

）72.981.181.1Average(ACC)75.881.984.3框架能力對(duì)比Meta-Prompt同主流開(kāi)源框架對(duì)比業(yè)務(wù)數(shù)據(jù)集效果對(duì)比

(Qwen2-72b)公開(kāi)數(shù)據(jù)集效果對(duì)比

(GPT3.5-Turbo)相比較DSPy/TextGrad等框架在性能與效果上均有明顯優(yōu)勢(shì)數(shù)據(jù)引用出處：Yuksek

gonul,

Mert

et

al.“TextGrad:Automatic"Differentiation"viaText.

”

ArXiv

abs/2406.07496

(2024):

n.

pag.Keypoint抽取重復(fù)檢測(cè)內(nèi)容維度

任務(wù)維度指令演化種子樣本種子樣本格式種子樣本KeypointValues構(gòu)建&采樣樣本集合指令擴(kuò)充JSON豐富度檢測(cè)內(nèi)容維度

任務(wù)維度KeypointValue

Generation任務(wù)類(lèi)型多粒度

內(nèi)容分類(lèi)金融實(shí)體抽取個(gè)性化

營(yíng)銷(xiāo)創(chuàng)作Qwen-Max60%62%71%Qwen-Max+APE78%72%73%Qwen-Turbo+SFT

(LoRA)70%54%73%Qwen-Turbo+Meta-SFT

(LoRA)85%73.5%75%SFT優(yōu)化實(shí)踐：

基于Meta-SFT的自動(dòng)化數(shù)據(jù)合成與微調(diào)極大降低數(shù)據(jù)需求，

支持對(duì)輸出和延時(shí)有更高要求的場(chǎng)景適配特點(diǎn)3：

更快的推理速度將任務(wù)知識(shí)從大模型壓縮到小模型，推理速度提升約80%特點(diǎn)1：

數(shù)據(jù)構(gòu)建成本低僅需少量標(biāo)注數(shù)據(jù)

，實(shí)現(xiàn)高質(zhì)量數(shù)據(jù)擴(kuò)充和模型自動(dòng)微調(diào)特點(diǎn)2：

更遵循回復(fù)要求針對(duì)輸出格式

、回復(fù)風(fēng)格等個(gè)性化指令遵循更穩(wěn)定Prompt

Expansion

Post-Scoring偏見(jiàn)檢測(cè)任務(wù)描述質(zhì)量檢測(cè)銷(xiāo)售領(lǐng)域短文角色汽車(chē)營(yíng)銷(xiāo)主題語(yǔ)言形態(tài)中文…………自動(dòng)評(píng)估實(shí)踐：

基于Meta-Evaluator的自動(dòng)評(píng)估增強(qiáng)無(wú)需手工設(shè)置評(píng)估器，

結(jié)合任務(wù)自動(dòng)生成評(píng)估維度與說(shuō)明任務(wù)描述(User/Module

Specific)產(chǎn)品營(yíng)銷(xiāo)廣告依據(jù)內(nèi)容鉤子可以分為以下幾個(gè)類(lèi)別，請(qǐng)根據(jù)輸入內(nèi)容給出具體標(biāo)簽…任務(wù)評(píng)估

維度參考任務(wù)評(píng)估

最佳實(shí)踐解釋補(bǔ)充維度n

：xx分...綜合評(píng)價(jià)

：xx分打分原因

：xxx評(píng)估項(xiàng)適配評(píng)估器

Themis

丫模型A模型B…

…打分維度抽取的召回率-正確答案中的主體被抽取結(jié)果覆蓋到的占比，計(jì)算方式為召回率的定義：

…

。-抽取的精準(zhǔn)率-模型最終抽取結(jié)果中的主體命中正確答案的占比，

計(jì)算方式為

精準(zhǔn)率的定義：

…打分標(biāo)準(zhǔn)請(qǐng)按照1-10分的規(guī)則對(duì)模型生成的答案進(jìn)行打分1分：

最終抽取結(jié)果中主體完全不準(zhǔn)確1-3分：

…3-5分：

…8-10分：

最終抽取結(jié)果中主體非常準(zhǔn)確

…打分一致性0.8738打分一致性0.8710注意事項(xiàng)準(zhǔn)確區(qū)分實(shí)用教學(xué)與單純強(qiáng)調(diào)產(chǎn)品優(yōu)惠的不同

。前者更關(guān)注廣告中詳細(xì)的產(chǎn)品使用方法

、功效介紹及應(yīng)用場(chǎng)景展示等教學(xué)元素

。打分一致性0.7892打分一致性0.8247ExplanationExplanationCriteriaCriteriaCriteriaCriteriaAspectsAspectsAspectsTips…應(yīng)用發(fā)布輕量訓(xùn)練動(dòng)態(tài)Prompt對(duì)話RAG分析

抽取寫(xiě)作總結(jié)WorkflowAgent/Multi-Agent樣例合成&訓(xùn)練（可選）參考樣例生成訓(xùn)練樣本生成問(wèn)答Prompt阿里云百煉：

提供應(yīng)用全鏈路可運(yùn)營(yíng)支撐用戶動(dòng)線應(yīng)用需求可運(yùn)營(yíng)能力支持效果觀測(cè)A/B對(duì)比TracingAI輔助評(píng)測(cè)批量推理模板初始化提示詞擴(kuò)寫(xiě)評(píng)測(cè)器適配評(píng)測(cè)集擴(kuò)充結(jié)果采樣錯(cuò)誤分析

可觀測(cè)

可迭代

易接入提示詞構(gòu)建/擴(kuò)展評(píng)測(cè)集構(gòu)建（可選）應(yīng)用支持任務(wù)支持效果驗(yàn)證反饋迭代謝謝Thank

YouAI運(yùn)營(yíng)實(shí)踐分享—PE及RAG的實(shí)施方法論吳倩阿里云智能集團(tuán)飛天實(shí)驗(yàn)室高級(jí)運(yùn)營(yíng)專(zhuān)家2024/09/19測(cè)評(píng)標(biāo)準(zhǔn)模型結(jié)果的好壞，

需要有明確的標(biāo)準(zhǔn)，

用來(lái)衡量模型實(shí)施的當(dāng)前效果和目標(biāo)結(jié)果的差距場(chǎng)景效果的衡量標(biāo)尺建設(shè)配套提效工具，

從數(shù)據(jù)構(gòu)建到評(píng)測(cè)，

再到優(yōu)化，

輔助運(yùn)營(yíng)同學(xué)更高效的使用大模型實(shí)施效率的提升模型效果評(píng)估依賴(lài)一份完整，

全面，

客觀的測(cè)試數(shù)據(jù)，

幫助模型實(shí)驗(yàn)過(guò)程中不斷修正和完善效果測(cè)評(píng)的Benchmark結(jié)合模型特性及場(chǎng)景需求，

沉淀行業(yè)場(chǎng)景下的實(shí)施sop和方法

，模型應(yīng)用的效果可以得到保障實(shí)施質(zhì)量的關(guān)鍵AI應(yīng)用的實(shí)施組件運(yùn)營(yíng)方法論運(yùn)營(yíng)工具測(cè)評(píng)數(shù)據(jù)Part

1提示詞工程設(shè)計(jì)方法論Methodology

of

promptword

engineering

designPE策略業(yè)務(wù)分析格式

、規(guī)則

、個(gè)性化定義等收集必要要素

編寫(xiě)prompt量化優(yōu)化的表現(xiàn)結(jié)構(gòu)化框架

、填充分析結(jié)果整體方案輸入生成應(yīng)用業(yè)務(wù)數(shù)據(jù)LLM生成解析投入使用數(shù)據(jù)清晰可用，

直接基于任務(wù)prompt，

生成結(jié)果，

即可投入使用數(shù)據(jù)處理多agent協(xié)作完成結(jié)果轉(zhuǎn)換加工使用對(duì)輸入數(shù)據(jù)清洗至更適用模型使用，

通過(guò)多agent方案得到結(jié)果，

對(duì)結(jié)果再做后處理及應(yīng)用為交付中的主要環(huán)節(jié)，

包含四大步驟：?建立評(píng)估體系：定義指標(biāo)體系

、收集測(cè)試數(shù)據(jù)，

以檢驗(yàn)表現(xiàn)?數(shù)據(jù)歸類(lèi)分析：分析輸入數(shù)據(jù)提煉關(guān)鍵要素，轉(zhuǎn)化為指令?

Prompt框架搭建：參考已有案例模版&寫(xiě)法策略搭建初版?

Prompt實(shí)驗(yàn)優(yōu)化：

by

case優(yōu)化迭代promptPE

怎

么

做

-影

響

LL

M

生

成內(nèi)

容

和

表

現(xiàn)結(jié)

果

需

求

-下

游

系

統(tǒng)

的

對(duì)

接

及

用

起

來(lái)LLM生成結(jié)果后，取目標(biāo)字段對(duì)接業(yè)務(wù)系統(tǒng)

，或解析后應(yīng)用于業(yè)務(wù)場(chǎng)景

，實(shí)現(xiàn)最終業(yè)務(wù)需求需

求

聚

焦-

明

確

LL

M

要

做

什

么PE實(shí)施PE

應(yīng)用深入理解需求

、實(shí)現(xiàn)目的和期望效果等，

以明確LLM生成的內(nèi)容和指標(biāo)結(jié)果PE實(shí)施概覽應(yīng)用實(shí)驗(yàn)測(cè)試數(shù)據(jù)量遞進(jìn)策略

反饋優(yōu)化prompt實(shí)驗(yàn)動(dòng)作

指標(biāo)觀察Badcase特征抽取簡(jiǎn)單場(chǎng)景復(fù)雜場(chǎng)景需求模型輸入的重要性

提示詞用得好不好，

輸入內(nèi)容也很重要提示詞的不可復(fù)制性場(chǎng)景不同模型，

同場(chǎng)景不同業(yè)務(wù)，

不一定適用提示詞的詳實(shí)度不是寫(xiě)的豐富效果才好，

重要的是模型能把需求理解到位先解決高頻業(yè)務(wù)，

再逐步覆蓋長(zhǎng)尾業(yè)務(wù)，

逐步提升整體效果O

優(yōu)先級(jí)的區(qū)分定義清晰的先解決，

再來(lái)分析和重新定義不清晰的需求

從1到N的攀升從bad

case出發(fā)，

錯(cuò)誤類(lèi)型較多的著手，

抽象和迭代到prompt中PE實(shí)施的框架原則和優(yōu)先級(jí)

0到1從哪開(kāi)始結(jié)構(gòu)化表達(dá)->善用分隔符，

讓大模型更好地理解提示詞內(nèi)容關(guān)鍵信息強(qiáng)調(diào)->邏輯復(fù)雜類(lèi)任務(wù)，

在prompt中反復(fù)強(qiáng)調(diào)，

增加其在大模型記憶中的權(quán)重補(bǔ)充專(zhuān)有知識(shí)->非通識(shí)場(chǎng)景，

建議在prompt中補(bǔ)充相關(guān)垂類(lèi)知識(shí)，

增加模型學(xué)識(shí)Few-shot應(yīng)用->prompt中添加示例幫助大模型從少量示例中學(xué)習(xí)和概括信息關(guān)鍵需求后置處理:指令遵循效果較差的需求，

放在prompt靠后的位置指定任務(wù)按步驟執(zhí)行：

建議大模型按指令步驟完成，

在prompt中明確這些步驟，

不要一氣呵成增加檢查步驟：

部分指令未被完整遵循，

可在prompt尾部要求大模型在輸出前逐步檢查，

并按步說(shuō)明檢查項(xiàng)先依據(jù)后結(jié)論：

對(duì)分析判斷型任務(wù)，

要求大模型先輸出結(jié)論的判斷依據(jù)，

再給出推理的結(jié)論指令怎么下達(dá)基于提示詞的基本原則-清晰且具體

、給大模型思考時(shí)間等原則下，

以下是項(xiàng)目中積累的部分最佳實(shí)踐

。模型在想什么為模型更好的理解任務(wù)需求，

建議先行了解大模型的推理過(guò)程或輸出依據(jù)講“大模型話

”持續(xù)迭代期，

對(duì)結(jié)果不滿時(shí)，

引導(dǎo)大模型進(jìn)行自我反思，

回顧其推理過(guò)程或輸出依據(jù)，

了解錯(cuò)誤背后的原因，

以指導(dǎo)prompt的優(yōu)化

。初期，

基于需求要求大模型生成某任務(wù)所需的prompt，

以得到大模型可理解的prompt初始框架

。PE常用策略模型尺寸選擇案例分享在對(duì)話場(chǎng)景中，借助LLM幫助企業(yè)完成業(yè)務(wù)分析

、銷(xiāo)售線索分析

、市場(chǎng)統(tǒng)計(jì)和內(nèi)部員工培訓(xùn)等工作。對(duì)較難被準(zhǔn)確遵循的復(fù)雜規(guī)則可拆分為多條規(guī)則，

有助于提升效果，

如：?原prompt規(guī)則描述：“對(duì)于推銷(xiāo)結(jié)果的判定，如果提及了【支付

、辦手續(xù)

、簽字

、合同】則是“成交

”，如果提及了【再看

、考慮

、不要

、再聯(lián)系

、不需要

、放棄

、先不】則是“未成交

”，其他情況識(shí)為“無(wú)法識(shí)別是否成交

””?

拆分后：“-規(guī)則1：成交，對(duì)話提及支付行為，如：支付寶

、微信

、轉(zhuǎn)賬支付等視為合規(guī)-規(guī)則2：未成交，客戶表達(dá)態(tài)度，如：考慮

、暫時(shí)

、不需要

、不升級(jí)

、不考慮等猶豫或否定詞視為合規(guī)推銷(xiāo)結(jié)果：從【成交

、未成交

、未知】

中三選一，參考規(guī)則1

、規(guī)則2的結(jié)論，得出結(jié)果

?！叭魧徍隧?xiàng)被遵循效果不穩(wěn)定，

可在尾部增加【檢查步驟】結(jié)合大模型錯(cuò)誤響應(yīng)原因，

prompt中要求大模型在輸出前進(jìn)行邏輯檢查

。如易發(fā)生過(guò)度推理質(zhì)

檢規(guī)則時(shí)

，可要求大模型執(zhí)行以下動(dòng)作："##在最終提交質(zhì)檢結(jié)果前，按步驟逐一進(jìn)行邏輯檢查，確保所有規(guī)則的應(yīng)用合理，無(wú)明顯錯(cuò)誤

或遺漏###第一步：規(guī)則遵循檢查，檢查命中的結(jié)果是否遵循質(zhì)檢規(guī)則的字面含義，若自行添加或過(guò)度解讀規(guī)則條件

，不能得出命中結(jié)果；"..更推薦：

先出依據(jù)，

再出規(guī)則命中結(jié)論約束輸出內(nèi)容&格式時(shí)，建議要求大模型先輸出規(guī)則命中依據(jù)（如命中句子），再輸出命中結(jié)果，相較準(zhǔn)確率表現(xiàn)更佳，如要求大模型按以下格式返回下：{"scores":

[{"rule":"...","sentence":"命中的對(duì)話原文","match":"表示對(duì)話是否符合rule，給出

true或false結(jié)果","suggestion":"沒(méi)有命中的原因或話術(shù)改進(jìn)建議"}...prompt中明確質(zhì)檢的規(guī)則，

規(guī)則的定義描述，

直接影響LLM的生成表現(xiàn)：#

質(zhì)檢規(guī)則-“rule

”:

”質(zhì)檢規(guī)則1","describe":"對(duì)規(guī)則的描述"。-“rule

”:

”質(zhì)檢規(guī)則2","describe":"對(duì)規(guī)則的描述"

?！话銓?duì)話包含多角色

-客戶&坐席，

需明確待質(zhì)檢對(duì)象，

可在思考步驟中體現(xiàn)如：…2.從對(duì)話數(shù)據(jù)中自動(dòng)識(shí)別xx的角色與話術(shù)，xx會(huì)介紹

…（該角色的話術(shù)內(nèi)容總結(jié)）

。3.結(jié)合上下文對(duì)xx角色的每一句話術(shù)進(jìn)行合規(guī)性檢查，對(duì)照質(zhì)檢規(guī)則逐一審核

。…熱線場(chǎng)景有存在asr轉(zhuǎn)寫(xiě)錯(cuò)誤情況，

如若影響質(zhì)檢分析，

在prompt如下

說(shuō)明：“有些詞可能翻譯描述錯(cuò)誤，

你需要基于語(yǔ)境理解原本意思，

不要直接

因錯(cuò)別字判定不合規(guī)

。

”P(pán)rompt框架構(gòu)成以markdown表達(dá)結(jié)構(gòu)化形成prompt框架，含

<#角色

、#技能

、#思考鏈路

、#質(zhì)檢規(guī)則

、#輸出格式>等部分典型case質(zhì)檢類(lèi)型：

坐席服務(wù)質(zhì)量檢查

坐席服務(wù)項(xiàng)目確認(rèn)◆

◆…

坐席服務(wù)結(jié)果判斷

客戶極端情緒判斷◆◆業(yè)務(wù)場(chǎng)景：熱線客服

在線客服PE實(shí)施上線運(yùn)營(yíng)指標(biāo)對(duì)齊規(guī)則梳理實(shí)施路徑現(xiàn)場(chǎng)客戶接待數(shù)據(jù)收集效果驗(yàn)證網(wǎng)銷(xiāo)電銷(xiāo)…Part

2RAG的實(shí)施方法論Methodologyforthe

implementation

of

ragRAG應(yīng)用的實(shí)施組件梳理服務(wù)場(chǎng)景了解用戶需求確認(rèn)業(yè)務(wù)目標(biāo)制定評(píng)測(cè)標(biāo)準(zhǔn)知識(shí)采集知識(shí)分類(lèi)知識(shí)清洗知識(shí)運(yùn)營(yíng)日志分析知識(shí)迭代鏈路策略交付陣型人員準(zhǔn)備協(xié)作機(jī)制方案選型開(kāi)發(fā)聯(lián)調(diào)驗(yàn)證測(cè)試人力準(zhǔn)備運(yùn)營(yíng)方案知識(shí)治理方案方案設(shè)計(jì)業(yè)務(wù)策略知識(shí)清洗非機(jī)構(gòu)化知識(shí)文件名稱(chēng)規(guī)范化知識(shí)去重知識(shí)聚合&拆分內(nèi)容歸一化層級(jí)梳理復(fù)雜內(nèi)容簡(jiǎn)化半結(jié)構(gòu)化知識(shí)相似知識(shí)點(diǎn)拆分知識(shí)答案合并結(jié)構(gòu)化知識(shí)內(nèi)容歸一化…

…知識(shí)分類(lèi)區(qū)分業(yè)務(wù)類(lèi)目例：

IT

、人力

、行政例：

售前

、售中

、售后結(jié)構(gòu)化知識(shí)多文檔規(guī)范數(shù)字化運(yùn)營(yíng)部門(mén)單文檔規(guī)范名稱(chēng)規(guī)范標(biāo)題規(guī)范格式規(guī)范內(nèi)容規(guī)范業(yè)務(wù)部門(mén)補(bǔ)充缺失知識(shí)更新時(shí)效性知識(shí)持續(xù)進(jìn)行清洗刪除無(wú)效

、過(guò)期知識(shí)多模態(tài)HTML文檔表格…

…多渠道多來(lái)源知識(shí)采集知識(shí)運(yùn)營(yíng)制定規(guī)范知識(shí)治理覆蓋全面知識(shí)內(nèi)聚數(shù)據(jù)脫敏效果反饋相互獨(dú)立權(quán)限掌控規(guī)范統(tǒng)一質(zhì)量跟蹤…

…數(shù)據(jù)庫(kù)對(duì)接客戶官網(wǎng)直接獲取內(nèi)部文件庫(kù)網(wǎng)站信息獲取客服知識(shí)庫(kù)API對(duì)接區(qū)分知識(shí)類(lèi)型非結(jié)構(gòu)化知識(shí)半結(jié)構(gòu)化知識(shí)…

…謝謝Thank

You主題三著眼未來(lái)，

共建多元化的大模型生態(tài)模型+應(yīng)用雙輪驅(qū)動(dòng)：

全面開(kāi)放的大模型生態(tài)徐志遠(yuǎn)阿里云智能集團(tuán)飛天實(shí)驗(yàn)室高級(jí)產(chǎn)品專(zhuān)家2024/09/19Part

1百花齊放的模型生態(tài)模型+應(yīng)用雙輪驅(qū)動(dòng)，加速模型業(yè)務(wù)落地模型+應(yīng)用雙輪驅(qū)動(dòng)，

開(kāi)放不止一面全面開(kāi)放的模型生態(tài)和應(yīng)用生態(tài)，

資源共享，數(shù)據(jù)驅(qū)動(dòng)，

連接企業(yè)客戶與生態(tài)供給1

三方插件2

三方應(yīng)用3

咨詢(xún)服務(wù)4

集成開(kāi)發(fā)通義自研

1商業(yè)閉源

2通用開(kāi)源

3領(lǐng)域合作

4模型服務(wù)供給數(shù)據(jù)反饋優(yōu)化應(yīng)用模型以平臺(tái)為中心，

聚合四大核心生態(tài)伙伴，

共創(chuàng)共贏模型

、應(yīng)用

、插件

、服務(wù)，

圍繞真實(shí)業(yè)務(wù)價(jià)值提供豐富供給，

百煉搭臺(tái)，伙伴唱戲服務(wù)生態(tài)咨詢(xún)型

、集成型合作伙伴，聯(lián)合伙伴行業(yè)know

how優(yōu)勢(shì)共建聯(lián)合解決方案，

收益共享，

為企業(yè)的定制化大模型落地應(yīng)用提供專(zhuān)業(yè)服務(wù)應(yīng)用生態(tài)基于通義基礎(chǔ)模型

、百煉平臺(tái)開(kāi)發(fā)的AI原生應(yīng)用產(chǎn)品支持SaaS/PaaS接入方式，上架百煉應(yīng)用市場(chǎng)，

豐富大模型AI應(yīng)用產(chǎn)品能力，

幫助企業(yè)低門(mén)檻接入使用插件生態(tài)數(shù)據(jù)查詢(xún)服務(wù)相關(guān)API，支持百煉應(yīng)用創(chuàng)建插件調(diào)用，

為開(kāi)發(fā)者提供豐富的數(shù)據(jù)服務(wù)Agent開(kāi)發(fā)更便捷模型生態(tài)基于阿里云算力資源訓(xùn)練的基礎(chǔ)大模型服務(wù)，上架百煉三方模型服務(wù)，提供多元化模型服務(wù)生態(tài)阿里云百煉百川智能Bai

chuan2-Turbo

、Bai

chuan2開(kāi)源系列模型月之暗面Moonshot-8k

、32k

、128k系列模型零一萬(wàn)物Yi-Large

、Yi-Medium

、Yi-Large-Rag系列模型Mini

MaxRekaFLUXab

ab-6.5t

、ab

ab-6.5s系列模型Reka

Core東南亞大語(yǔ)言

、多模態(tài)系列模型FLUX-Dev

、FLUX-Sch

nell開(kāi)源系列模型Stable

DiffusionDeepSeek開(kāi)放合作，

生態(tài)共贏Stable

DiffusionXL開(kāi)源系列模型DeepSeek-v2開(kāi)源系列模型更多模型，正在接入中..模型生態(tài)：

眾多業(yè)內(nèi)領(lǐng)先的模型合作方已上線百煉多領(lǐng)域

、多模態(tài)

、開(kāi)源+閉源模型合作方，

為企業(yè)和開(kāi)發(fā)者提供一站式模型服務(wù)雙平臺(tái)模型服務(wù)國(guó)內(nèi)站+新加坡站雙Region平臺(tái)自主安全策略業(yè)內(nèi)領(lǐng)先的自主安全策略國(guó)際化合規(guī)策略新加坡

、東南亞當(dāng)?shù)睾弦?guī)策略模型生態(tài)：

國(guó)際+國(guó)內(nèi)雙平臺(tái)，

大模型出海的優(yōu)選通道阿里云百煉（國(guó)內(nèi)版）

+Model

Studio（國(guó)際版）

雙平臺(tái)，

為模型生態(tài)伙伴提供一站式出海合作模型生態(tài)：

百煉全工具鏈開(kāi)放，

加速模型業(yè)務(wù)落地全工具鏈開(kāi)放兼容三方模型，

平臺(tái)協(xié)助效果優(yōu)化，

與自研模型同等對(duì)待智能體Agent調(diào)度與決策模型V微調(diào)SFT+DPO+CT數(shù)據(jù)處理自動(dòng)化數(shù)據(jù)加工與處理工作流模型服務(wù)工作流編排模型評(píng)測(cè)自動(dòng)化模型AI評(píng)測(cè)應(yīng)用觀測(cè)全鏈路應(yīng)用調(diào)用觀RAG知識(shí)檢索增強(qiáng)模型部署模型在線推理服務(wù)模型觀測(cè)模型推理性能觀測(cè)數(shù)據(jù)中心+應(yīng)用中心+模型中心，三大核心工作鏈全面開(kāi)放三方模型接入，

降顯著降低模型交付成本，

幫助企業(yè)和開(kāi)發(fā)者快速落地模型效果，

業(yè)內(nèi)領(lǐng)先的安全策略和數(shù)據(jù)策略，

解決模型調(diào)用的后顧之憂20+工具鏈全面開(kāi)放模型體驗(yàn)多模態(tài)模型在線體驗(yàn)數(shù)據(jù)增強(qiáng)自動(dòng)化訓(xùn)練數(shù)據(jù)增強(qiáng)全鏈路大模型工具鏈Part

2業(yè)務(wù)為先的應(yīng)用生態(tài)應(yīng)用生態(tài)+插件生態(tài)，端到端的服務(wù)體系，

共享平臺(tái)客戶紅利應(yīng)用生態(tài)：

千行百業(yè)的商業(yè)化AI原生大模型應(yīng)用無(wú)需開(kāi)發(fā)，

多種場(chǎng)景開(kāi)箱即用的原生大模型應(yīng)用，基于百煉大模型平臺(tái)+伙伴的場(chǎng)景know-how云市場(chǎng)三方應(yīng)用聯(lián)合阿里云云市場(chǎng)引入伙伴合作伙伴共建-百煉模型和工具+伙伴know-how百煉一方應(yīng)用自建-阿里云&通義實(shí)驗(yàn)室析言GBI通過(guò)自然語(yǔ)言交互實(shí)現(xiàn)NL2

SQL、數(shù)據(jù)問(wèn)答、分析

、洞察等多維度的大模型智能分析應(yīng)用通義法睿面向律師

、企業(yè)法務(wù)等的法律智能助手，

支持合同審查

、法律咨詢(xún)

、法律檢索等萬(wàn)相營(yíng)造阿里媽媽推出的智能創(chuàng)意平臺(tái)，

廣告推廣

、運(yùn)營(yíng)

、設(shè)計(jì)師可依據(jù)貨品素材進(jìn)行AI創(chuàng)意生成ChatExcel借助阿里百煉的MAAS平臺(tái)，

幫助元空AI靈活適配海量數(shù)據(jù)分析洞察i

Slide

智能PPT生成iSlide

AI

生成PPT聯(lián)合阿里百煉擊破打工人天命，解鎖辦公新武器More更多應(yīng)用請(qǐng)?jiān)L問(wèn)百煉應(yīng)用廣場(chǎng)知微智鑒基于微博多年的風(fēng)控經(jīng)驗(yàn)和先進(jìn)的AI技術(shù)搭建

，能迅速

、準(zhǔn)確地識(shí)別出文本和圖片中的潛在的風(fēng)險(xiǎn)內(nèi)容全妙應(yīng)用面向傳媒

、營(yíng)銷(xiāo)

、辦公等多行業(yè)及場(chǎng)景的多模態(tài)內(nèi)容創(chuàng)作工具集通義萬(wàn)相企業(yè)版賦能企業(yè)智能設(shè)計(jì)，

支持圖片生成與編輯

、Lora模