1、Workflow架構(gòu)在bilibili視頻生產(chǎn)中的實(shí)踐目錄背景介紹，提出問(wèn)題簡(jiǎn)單介紹Workflow架構(gòu)Workflow在我們稿件系統(tǒng)中的實(shí)踐技術(shù)選型總結(jié)關(guān)于bilibili成立于2009年彈幕二次元長(zhǎng)視頻年輕人UP主生產(chǎn)業(yè)務(wù)鳥瞰圖重構(gòu)前的稿件系統(tǒng)狀態(tài)描述混亂上下游使用API串聯(lián)調(diào)用耗時(shí)任務(wù)使用cron系統(tǒng)管理報(bào)警，監(jiān)控缺乏故障恢復(fù)困難多業(yè)務(wù)重復(fù)工作，編碼易出錯(cuò)，難升級(jí)復(fù)雜的產(chǎn)品需求內(nèi)部層面消息響應(yīng)審核的結(jié)果超時(shí)的任務(wù)需要報(bào)警用戶層面稿件處理速度失敗通知查詢需求工程層面實(shí)現(xiàn)業(yè)務(wù)邏輯調(diào)整流程順序配置每個(gè)流程的重試和等待時(shí)間查詢?nèi)蝿?wù)運(yùn)維層面應(yīng)對(duì)故障故障恢復(fù)報(bào)警，審計(jì)最大的痛點(diǎn)重 構(gòu) 前 的 系 統(tǒng)

2、 ： 20%的稿件，因系統(tǒng)原因，流失1. 視頻處理業(yè)務(wù)如何可追溯，可視化？分析業(yè)務(wù)處理耗時(shí)，故障報(bào)警多個(gè)業(yè)務(wù)流程如何減少重復(fù)代碼思路？目錄背景介紹，提出問(wèn)題簡(jiǎn)單介紹Workflow架構(gòu)Workflow在我們稿件系統(tǒng)中的實(shí)踐技術(shù)選型總結(jié)生活中的Workflow工程中的WorkflowWorkflow架構(gòu)的復(fù)雜性1常見(jiàn)的無(wú)狀態(tài)系統(tǒng)多模塊服務(wù)間調(diào)用關(guān)系異步任務(wù)保證執(zhí)行高并發(fā)Workflow架構(gòu)的復(fù)雜性2Workflow系統(tǒng)難點(diǎn)無(wú)狀態(tài)系統(tǒng)的難點(diǎn) +監(jiān)控流程編排故障恢復(fù)任務(wù)跟蹤目錄背景介紹，提出問(wèn)題簡(jiǎn)單介紹Workflow架構(gòu)Workflow在我們稿件系統(tǒng)中的實(shí)踐技術(shù)選型總結(jié)問(wèn)題0：Workflow架構(gòu)

3、的核心流程標(biāo)識(shí)上下文問(wèn)題1：狀態(tài)描述混亂 = 狀態(tài)描述統(tǒng)一State：狀態(tài)Executor：執(zhí)行者Profile：編排腳本問(wèn)題2：串行API調(diào)用 = 驅(qū)動(dòng)器中心調(diào)度問(wèn)題3：耗時(shí)任務(wù) = 統(tǒng)一執(zhí)行框架FOP部分FOP功能DASH轉(zhuǎn)碼動(dòng)態(tài)轉(zhuǎn)封裝視頻檢測(cè)音頻轉(zhuǎn)碼生成縮略圖封面截圖DRM加密獲取視頻元信息. .直接在文件存儲(chǔ)的地方計(jì)算減少網(wǎng)絡(luò)，磁盤IO緩存運(yùn)算結(jié)果，避免重復(fù)計(jì)算FOP的更多好處減少程序員重復(fù)工作量執(zhí)行框架被多業(yè)務(wù)打磨，更加健壯問(wèn)題4：監(jiān)控報(bào)警缺乏 = 提供清晰的運(yùn)行狀態(tài)監(jiān)控，報(bào)警1.監(jiān)控每個(gè)流程的任務(wù)數(shù)量趨勢(shì)和平均消耗時(shí)間2.配置閾值，報(bào)警問(wèn)題5：故障恢復(fù)困難任務(wù)可以設(shè)置重試，重試間隔

4、，重試總次數(shù)在故障排除后，任務(wù)可以手工RESET問(wèn)題6：多條業(yè)務(wù)線多條業(yè)務(wù)線只需要編寫自己的Profile編排文件減少重復(fù)工作量工程師只需要關(guān)注業(yè)務(wù)代碼即可Profile配置，清晰Profile部分Executor列表UGC檢測(cè) = 截取封面圖 = 審核 = 提交 = 截取預(yù)覽圖 = 審核 = 轉(zhuǎn) 碼 = 寫入數(shù)據(jù)庫(kù) = 分發(fā) = 備份PGC提交 = 截取預(yù)覽圖 = 轉(zhuǎn)碼 = 分發(fā) = 備份DRM提交 = 截取預(yù)覽圖 = 轉(zhuǎn)碼 = 分發(fā) = 加密音頻音頻轉(zhuǎn)碼廣告視頻截取封面圖 = 轉(zhuǎn)碼批量轉(zhuǎn)碼準(zhǔn)備 = 轉(zhuǎn)碼 = 新版 = DASH = 發(fā)布解決性能問(wèn)題：Driver - 驅(qū)動(dòng)器任務(wù)池中的任務(wù)過(guò)

5、多，通過(guò)輪詢的方式消耗過(guò)大增加事件觸發(fā)機(jī)制，提高任務(wù)流轉(zhuǎn)速度Sharding到多臺(tái)主機(jī)實(shí)現(xiàn)負(fù)載均衡通過(guò)爭(zhēng)搶鎖實(shí)現(xiàn)高可用目錄背景介紹，提出問(wèn)題簡(jiǎn)單介紹Workflow架構(gòu)Workflow在我們稿件系統(tǒng)中的實(shí)踐技術(shù)選型總結(jié)組件選型 - OpenRestyLua OpenRestyGoNodejsPHPSwoolePython Flask/Celery高性能 Api弱任務(wù)Daemon存儲(chǔ)選型 - MongoDBMongoDBMySQLRedis掃描KV條件查詢消息集群，高可用大量數(shù)據(jù)持久化目錄背景介紹，提出問(wèn)題簡(jiǎn)單介紹Workflow架構(gòu)Workflow在我們稿件系統(tǒng)中的實(shí)踐技術(shù)選型總結(jié)新老系統(tǒng)對(duì)比老系統(tǒng)重構(gòu)后狀態(tài)機(jī)無(wú)清晰的狀態(tài)機(jī)編排不可編排可編排故障恢復(fù)手工調(diào)用API方便RESET擴(kuò)展性無(wú)容納所有業(yè)務(wù)成效 - 接入效率大幅提升接入Profile-8個(gè)，執(zhí)行者約 50個(gè)新業(yè)務(wù)接入時(shí)間從數(shù)周下降 到2天實(shí)習(xí)生也可以完成接入成效 - 稿件流失率下降稿件流失率下降至0TODO視頻基礎(chǔ)設(shè)施標(biāo)準(zhǔn)化：對(duì)象存儲(chǔ) / Workflow / CDN接入更多的服務(wù)調(diào)優(yōu)，迭代KISS：Keep It Stupid and Simple過(guò)早優(yōu)化乃萬(wàn)惡之源關(guān)鍵是：找到系統(tǒng)的穩(wěn)定點(diǎn)，變更點(diǎn)數(shù)據(jù)驅(qū)動(dòng)研發(fā)業(yè)務(wù)架構(gòu)建議Apache Airflow Documentation