華為云盤古大模型華為云盤古大模型AI工業(yè)化開發(fā)新模式計(jì)算無邊界，智心領(lǐng)未來作坊式的AI開發(fā)無法滿足行業(yè)高效高質(zhì)量數(shù)字化轉(zhuǎn)型需求“2025年，企業(yè)對AI的采用率86%（當(dāng)前4%）”“2025年，企業(yè)對AI的采用率86%（當(dāng)前4%）”EIAI實(shí)踐:600+項(xiàng)目,30%進(jìn)入生產(chǎn)系統(tǒng)，但是AI進(jìn)入千行百業(yè)面臨諸多挑戰(zhàn)投入人力多,周期長，性能很難做到極致?EI提供基于行業(yè)的場景化解決方案，同時(shí)配套簡化AI應(yīng)用開發(fā)、落地的資產(chǎn)或工具。?提供平臺(tái)+生態(tài)類產(chǎn)品1.開放-引入大量生態(tài)伙伴2.AIGallery–開放訂閱，吸引伙伴合作關(guān)鍵資產(chǎn)（大模型）+工具（流水線)+簡化AIAPP華為盤古大模型推動(dòng)人工智能開發(fā)從“作坊式”到“工廠式”升級推理模型1-n場景1推理模型1-n場景1色b工作流泛化復(fù)制場景2泛化復(fù)制場景2型1-n工作流型1-n行業(yè)預(yù)訓(xùn)練大模型場景3推理模行業(yè)預(yù)訓(xùn)練大模型工作流 型1-n工作流預(yù)訓(xùn)練微調(diào)&部署預(yù)訓(xùn)練微調(diào)&部署微調(diào)部署：更高，更強(qiáng)，更便捷?更高精度：微調(diào)部署：更高，更強(qiáng)，更便捷?更高精度：20+電力視覺檢測任務(wù)，相比傳統(tǒng)小模型平均精度提升5%~10%?更強(qiáng)泛化能力：適用80%以上分類、檢測、分割、異常檢測等AI任務(wù)?更便捷微調(diào)策略：少量1%-5%參數(shù)微調(diào),達(dá)到算法專家水準(zhǔn)預(yù)訓(xùn)練大模型：百億參數(shù)，十億數(shù)據(jù)參數(shù)數(shù)量傳統(tǒng)小模型vs.大模型第一梯隊(duì)模型參數(shù)量：Google150億，微軟30億小樣本學(xué)習(xí)能力傳統(tǒng)小模型vs.大模型優(yōu)秀的泛化能力充分挖掘數(shù)據(jù)內(nèi)在聯(lián)系，達(dá)到更高的泛化性能，對不同場景魯棒性更強(qiáng)高效樣本篩選能力海量無標(biāo)注樣本篩選，節(jié)省80%以上人力標(biāo)注代價(jià)小樣本/零樣本能力自動(dòng)化數(shù)據(jù)增強(qiáng)，數(shù)據(jù)挖掘算法，實(shí)現(xiàn)零訓(xùn)練樣本下缺陷樣本識(shí)別，較傳統(tǒng)方法發(fā)現(xiàn)率提升2~3倍低門檻AI開發(fā)提供自動(dòng)化工作流，自動(dòng)數(shù)據(jù)處理，自動(dòng)化調(diào)參，自動(dòng)化生成模型，減少對AI開發(fā)工程師專業(yè)依賴工具鏈核心目標(biāo)?落地：提供將盤古預(yù)訓(xùn)練模型落地到定制化場景的能力?資產(chǎn)管理：對盤古團(tuán)隊(duì)各種模型（結(jié)構(gòu)、行業(yè)）進(jìn)行資產(chǎn)管理，并根據(jù)用戶需求自動(dòng)選型?積累：利用用戶的使用記錄，優(yōu)化選型策略和調(diào)優(yōu)策略主要涉及的技術(shù)點(diǎn)和功能?超網(wǎng)訓(xùn)練+模型抽?。捍竽Ｐ统槿M足用戶需求小模型的能力?模型蒸餾：大模型蒸餾超網(wǎng)訓(xùn)練?自動(dòng)學(xué)習(xí)：盤古團(tuán)隊(duì)為每款模型積累了大量調(diào)優(yōu)策略?知識(shí)積累：調(diào)優(yōu)策略池根據(jù)用戶使用，不斷優(yōu)化Ranking程，降低訓(xùn)練成本50%以上消除邊際效應(yīng)創(chuàng)新架構(gòu)邏輯推理能力全棧AI開發(fā)流水線CloudEdgeComputing應(yīng)用使能芯片使能IP和芯片框架獨(dú)有先進(jìn)的分層架構(gòu)|輔助客服|案件復(fù)議|服裝生成|輔助客服|案件復(fù)議|服裝生成|窯爐優(yōu)化|節(jié)電預(yù)測|空氣監(jiān)測|工業(yè)質(zhì)檢|倉庫監(jiān)控煤礦交通制造煤礦交通制造視覺大模型NLP大模型5金融廣發(fā)證券異常財(cái)務(wù)檢測精準(zhǔn)提升20%零售米琪蛋糕無人門店金融廣發(fā)證券異常財(cái)務(wù)檢測精準(zhǔn)提升20%零售米琪蛋糕無人門店結(jié)賬成功率增加8%工業(yè)鐵路故障檢測故障誤報(bào)率減少24.7%醫(yī)療塵肺檢測病例識(shí)別準(zhǔn)確率提升22%環(huán)境青海三江源野生動(dòng)物保護(hù)無需定制識(shí)別100+類別動(dòng)物物流浦發(fā)銀行浦慧云倉單個(gè)模型處理科學(xué)計(jì)算實(shí)時(shí)預(yù)測海浪高度預(yù)測速度提升提升10000倍能源大金空調(diào)空氣質(zhì)量檢測準(zhǔn)確率提升15%業(yè)界挑戰(zhàn)賽冠軍40+申請專利?WebVision分類競賽冠軍最佳論文1創(chuàng)新團(tuán)隊(duì)1實(shí)現(xiàn)工業(yè)化AI開發(fā)新模式盤古視覺大模型：鐵路XXX故障識(shí)別基于盤古行業(yè)預(yù)訓(xùn)練模型的智能故障識(shí)別?部分圖片拍攝質(zhì)量差?故障類型多：上百種故障?樣本分布不均衡：部分故障類型稀缺（<10）?未知故障預(yù)測，要求高召回平均召回率25%異常檢測漏報(bào)80%現(xiàn)場實(shí)測情況：鄭州北車輛段5T檢測車間集中作業(yè)分析的14條線路，在2021年9月19日至2021年10月20日期間，由5T檢測車間動(dòng)態(tài)檢車員預(yù)報(bào)并經(jīng)組長確認(rèn)為提報(bào)故障的數(shù)據(jù)樣本（故障圖片）共計(jì)32007張。1模型工作流+算法工作流低成本+高效模型工作流+算法工作流低成本+高效+可靠<盤古預(yù)訓(xùn)練超網(wǎng)樣本輸入?全新類別?極少量樣本部件輸出?滿足超高的召回、精度要求?滿足模型耗時(shí)、大小要求盤古大模型：煤礦場景實(shí)際場景中的問題抽象出問題共性，實(shí)際場景中的問題綜采場景綜采場景人員安全場景人員安全場景掘進(jìn)工作流數(shù)據(jù)標(biāo)注模型訓(xùn)練模型評估結(jié)果反饋模型部署主運(yùn)工作流數(shù)據(jù)標(biāo)注模型訓(xùn)練模型評估結(jié)果反饋模型部署掘進(jìn)工作流數(shù)據(jù)標(biāo)注模型訓(xùn)練模型評估結(jié)果反饋模型部署主運(yùn)工作流數(shù)據(jù)標(biāo)注模型訓(xùn)練模型評估結(jié)果反饋模型部署綜采工作流數(shù)據(jù)標(biāo)注模型訓(xùn)練…人員安全工作流數(shù)據(jù)標(biāo)注模型訓(xùn)練…基于工作流，場景化AI模型開發(fā)（L2）周期短，流程規(guī)范，單模型開發(fā)周由月級規(guī)范性強(qiáng)，統(tǒng)一的數(shù)據(jù)管理，統(tǒng)一的參數(shù)配置交互性強(qiáng)，可視化的開發(fā)過AI專家：不同場景基于需求對基礎(chǔ)AI能力進(jìn)行算法選擇、模型參數(shù)調(diào)優(yōu)等，開發(fā)出場景化的AI工作流（支持柔性制造的流水線）聲音、震動(dòng)對比學(xué)習(xí)模型蒸餾聲音、震動(dòng)對比學(xué)習(xí)模型蒸餾現(xiàn)狀：正常樣本濾除率已達(dá)到99.6%提升負(fù)樣本篩選效率200倍以上 零樣本精細(xì)分類行業(yè)Know-基于行業(yè)數(shù)據(jù)預(yù)訓(xùn)練的行業(yè)大模型（L1）創(chuàng)新預(yù)訓(xùn)練算法創(chuàng)新預(yù)訓(xùn)練算法對比式&生成式漸進(jìn)優(yōu)化創(chuàng)新模型結(jié)構(gòu)海量行業(yè)數(shù)據(jù)創(chuàng)新模型結(jié)構(gòu)海量行業(yè)數(shù)據(jù)?行業(yè)數(shù)據(jù)預(yù)訓(xùn)練作為底座，提供兼顧行業(yè)kn?異常檢測、異常建模、目標(biāo)檢測、行業(yè)know-how方案冗余設(shè)計(jì)，提供性能最佳的綜合解決方案非正常即異樣本量樣本量總量1080000-4109）/1080000=99.62%盤古大模型：良好的泛化性及高效性，提升算法通用性，實(shí)現(xiàn)AI快速應(yīng)用新場景高效適配：大模型的算法準(zhǔn)確率提升15%左右大模型全方位超過業(yè)界小模型，準(zhǔn)確率普遍提升15%左右準(zhǔn)確率綜合評定通用性強(qiáng)：相似場景下，少量數(shù)據(jù)即可達(dá)到更高的準(zhǔn)確率?在某礦上訓(xùn)練得到的皮帶模型加入少量山東能源數(shù)據(jù)進(jìn)行微調(diào)訓(xùn)練，相比業(yè)界小模型性能顯著提升新增數(shù)量準(zhǔn)確率綜合評定原場景/新場景/新場景大模型的海量參數(shù)以及多種下游微調(diào)解決方案，支撐少樣本數(shù)據(jù)的高效訓(xùn)練，以及對于同類場景下強(qiáng)適應(yīng)性依托AITISA產(chǎn)業(yè)聯(lián)盟，聯(lián)合4伙伴成立大模型產(chǎn)業(yè)推進(jìn)組大模型華為、鵬城實(shí)驗(yàn)室、中國科技大學(xué)、上海交通大學(xué)、廈門大學(xué)首期大模型專題技術(shù)沙龍盤古大模型產(chǎn)業(yè)發(fā)展聯(lián)合專項(xiàng)工作組專題會(huì)議研討大模型技術(shù)沙龍?zhí)嵘a(chǎn)業(yè)影響力大模型白皮書創(chuàng)新研究專題沙龍高校老師羅馬廣場大模型行業(yè)場景借助聯(lián)盟