CN115168457B 一種基于元數(shù)據(jù)管理的可視化處理方法和可視化處理裝置 (安徽中煙工業(yè)有限責(zé)任公司)_第1頁
CN115168457B 一種基于元數(shù)據(jù)管理的可視化處理方法和可視化處理裝置 (安徽中煙工業(yè)有限責(zé)任公司)_第2頁
CN115168457B 一種基于元數(shù)據(jù)管理的可視化處理方法和可視化處理裝置 (安徽中煙工業(yè)有限責(zé)任公司)_第3頁
CN115168457B 一種基于元數(shù)據(jù)管理的可視化處理方法和可視化處理裝置 (安徽中煙工業(yè)有限責(zé)任公司)_第4頁
CN115168457B 一種基于元數(shù)據(jù)管理的可視化處理方法和可視化處理裝置 (安徽中煙工業(yè)有限責(zé)任公司)_第5頁
已閱讀5頁,還剩39頁未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)

文檔簡介

(19)國家知識產(chǎn)權(quán)局(12)發(fā)明專利(45)授權(quán)公告日2025.07.01(21)申請?zhí)?02210473258.8(22)申請日2022.04.29(43)申請公布日2022.10.11地址231283安徽省合肥市高新區(qū)黃山路有限公司11463專利代理師于彬?qū)彶閱T鄧麗婉一種基于元數(shù)據(jù)管理的可視化處理方法和本申請?zhí)峁┝艘环N基于元數(shù)據(jù)管理的可視有關(guān)系的目標(biāo)任務(wù)串聯(lián)起來形成對應(yīng)的數(shù)據(jù)和21.一種基于元數(shù)據(jù)管理的可視化處理方法,其特征在于,所述可視化處理方法包括:接收用戶設(shè)置的數(shù)據(jù)處理流程;其中,所述數(shù)據(jù)處理流程中包括至少一個來自于不同任務(wù)平臺的、能夠?qū)崿F(xiàn)不同功能邏輯的目標(biāo)任務(wù);針對于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的任務(wù)類型和初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,以在可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖;其中,所述初始配置信息用于表征所述目標(biāo)任務(wù)的處理方式,所述元數(shù)據(jù)關(guān)系圖用于表征該目標(biāo)任務(wù)的數(shù)據(jù)血緣關(guān)系;基于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在所述可視化界面中生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖;所述基于該目標(biāo)任務(wù)的任務(wù)類型和初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,以在可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖,包括:獲取用戶在設(shè)置該目標(biāo)任務(wù)時所確定的至少一個初始配置信息;根據(jù)該目標(biāo)任務(wù)的任務(wù)類型,在至少一個初始配置信息中獲取至少一個目標(biāo)配置信針對于每個目標(biāo)配置信息,根據(jù)該目標(biāo)配置信息所屬的數(shù)據(jù)屬性,確定該目標(biāo)配置信息在所述元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系;其中,所述連接關(guān)系包括連接線和所述連接線上的箭頭指向;將所述目標(biāo)配置信息以及該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點添加到所述可視化界面中,并根據(jù)所述目標(biāo)配置信息在所述元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系進(jìn)行繪制,以生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖;所述基于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在所述可視化界面中生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖,包括:基于所述數(shù)據(jù)處理流程,確定每個目標(biāo)任務(wù)的執(zhí)行順序;針對于每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的執(zhí)行順序,從所述數(shù)據(jù)處理流程中確定出在該目標(biāo)任務(wù)之前和/或之后執(zhí)行的相鄰任務(wù);將該目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖與所述相鄰任務(wù)的元數(shù)據(jù)關(guān)系圖進(jìn)行連接,以生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖。2.根據(jù)權(quán)利要求1所述的可視化處理方法,其特征在于,在所述生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖之后,所述可視化處理方法還包括:在執(zhí)行所述數(shù)據(jù)處理流程對應(yīng)的任務(wù)實例時,監(jiān)控每個目標(biāo)任務(wù)的執(zhí)行情況;針對于每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的執(zhí)行情況,在所述元數(shù)據(jù)溯源圖中該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點所處的位置上渲染所述執(zhí)行情況對應(yīng)的顯示顏色。3.根據(jù)權(quán)利要求1所述的可視化處理方法,其特征在于,所述可視化處理方法還包括:針對于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),按照預(yù)先設(shè)定的負(fù)載策略,在預(yù)先配置的至少一個執(zhí)行節(jié)點中確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點,以使所述目標(biāo)執(zhí)行節(jié)點執(zhí)行該目標(biāo)任務(wù)。4.根據(jù)權(quán)利要求3所述的可視化處理方法,其特征在于,按照預(yù)先設(shè)定好的負(fù)載策略,為該目標(biāo)任務(wù)選擇對應(yīng)的目標(biāo)執(zhí)行節(jié)點,包括:當(dāng)所述負(fù)載策略為隨機(jī)負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行3對至少一個執(zhí)行節(jié)點進(jìn)行隨機(jī)選取,以確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點;當(dāng)所述負(fù)載策略為加權(quán)輪詢負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)針對于每個執(zhí)行節(jié)點,確定該執(zhí)行節(jié)點的可用內(nèi)存信息和可用負(fù)載信息;利用該執(zhí)行節(jié)點的可用內(nèi)存信息和可用負(fù)載信息進(jìn)行加權(quán)計算,得到該執(zhí)行節(jié)點的可用資源值;利用每個執(zhí)行節(jié)點的可用資源值對每個執(zhí)行節(jié)點進(jìn)行排序,并將多個執(zhí)行節(jié)點中可用資源值最高的執(zhí)行節(jié)點作為所述目標(biāo)執(zhí)行節(jié)點;當(dāng)所述負(fù)載策略為并發(fā)負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行針對于每個執(zhí)行節(jié)點,確定該執(zhí)行節(jié)點的并發(fā)任務(wù)實例數(shù)量;利用每個執(zhí)行節(jié)點的并發(fā)任務(wù)實例數(shù)量對每個執(zhí)行節(jié)點進(jìn)行排序,并將多個執(zhí)行節(jié)點中并發(fā)任務(wù)實例數(shù)量最少的執(zhí)行節(jié)點作為所述目標(biāo)執(zhí)行節(jié)點;當(dāng)所述負(fù)載策略為資源加權(quán)負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點:針對于每個執(zhí)行節(jié)點,確定該執(zhí)行節(jié)點的內(nèi)存空閑信息和任務(wù)實例空閑信息;利用該執(zhí)行節(jié)點的內(nèi)存空閑信息和任務(wù)實例空閑信息進(jìn)行加權(quán)計算,得到該執(zhí)行節(jié)點的空閑資源值;利用每個執(zhí)行節(jié)點的空閑資源值對每個執(zhí)行節(jié)點進(jìn)行排序,并將多個執(zhí)行節(jié)點中空閑資源值最高的執(zhí)行節(jié)點作為所述目標(biāo)執(zhí)行節(jié)點。5.根據(jù)權(quán)利要求3所述的可視化處理方法,其特征在于,在確定出每個目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點之后,所述可視化處理方法還包括:針對于每個目標(biāo)任務(wù),判斷該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點的任務(wù)執(zhí)行時間是否大于或等于執(zhí)行時間閾值;若是,則確定該目標(biāo)任務(wù)出現(xiàn)運(yùn)行異常,并基于所述負(fù)載策略為該目標(biāo)任務(wù)重新確定對應(yīng)的目標(biāo)執(zhí)行節(jié)點;按照預(yù)先設(shè)定的通知方式,向預(yù)先設(shè)定的被通知用戶發(fā)送該目標(biāo)任務(wù)的異常運(yùn)行信息,以使所述被通知用戶根據(jù)所述異常運(yùn)行信息判定該目標(biāo)任務(wù)的運(yùn)行情況。6.一種基于元數(shù)據(jù)管理的可視化處理裝置,其特征在于,所述可視化處理裝置包括:接收模塊,用于接收用戶設(shè)置的數(shù)據(jù)處理流程;其中,所述數(shù)據(jù)處理流程中包括至少一個來自于不同任務(wù)平臺的、能夠?qū)崿F(xiàn)不同功能邏輯的目標(biāo)任務(wù);元數(shù)據(jù)關(guān)系圖確定模塊,用于針對于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的任務(wù)類型和初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,以在可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖;其中,所述初始配置信息用于表征所述目標(biāo)任務(wù)的處理方式,所述元數(shù)據(jù)關(guān)系圖用于表征該目標(biāo)任務(wù)的數(shù)據(jù)血緣關(guān)系;元數(shù)據(jù)溯源圖確定模塊,用于基于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在所述可視化界面中生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖;4所述元數(shù)據(jù)關(guān)系圖確定模塊用于基于該目標(biāo)任務(wù)的任務(wù)類型和初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,以在可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖時,所述元數(shù)據(jù)關(guān)系圖確定模塊還用于:獲取用戶在設(shè)置該目標(biāo)任務(wù)時所確定的至少一個初始配置信息;根據(jù)該目標(biāo)任務(wù)的任務(wù)類型,在至少一個初始配置信息中獲取至少一個目標(biāo)配置信針對于每個目標(biāo)配置信息,根據(jù)該目標(biāo)配置信息所屬的數(shù)據(jù)屬性,確定該目標(biāo)配置信息在所述元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系;其中,所述連接關(guān)系包括連接線和所述連接線上的箭頭指向;將所述目標(biāo)配置信息以及該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點添加到所述可視化界面中,并根據(jù)所述目標(biāo)配置信息在所述元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系進(jìn)行繪制,以生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖;所述元數(shù)據(jù)溯源圖確定模塊用于基于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在所述可視化界面中生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖時,所述元數(shù)據(jù)溯源圖確定模塊還用于:基于所述數(shù)據(jù)處理流程,確定每個目標(biāo)任務(wù)的執(zhí)行順序;針對于每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的執(zhí)行順序,從所述數(shù)據(jù)處理流程中確定出在該目標(biāo)任務(wù)之前和/或之后執(zhí)行的相鄰任務(wù);將該目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖與所述相鄰任務(wù)的元數(shù)據(jù)關(guān)系圖進(jìn)行連接,以生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖。理器可執(zhí)行的機(jī)器可讀指令,當(dāng)電子設(shè)備運(yùn)行時,所述處理器與所述存儲器之間通過所述總線進(jìn)行通信,所述機(jī)器可讀指令被所述處理器運(yùn)行時執(zhí)行如權(quán)利要求1至5任一所述的基于元數(shù)據(jù)管理的可視化處理方法的步驟。8.一種計算機(jī)可讀存儲介質(zhì),其特征在于,所述計算機(jī)可讀存儲介質(zhì)上存儲有計算機(jī)程序,所述計算機(jī)程序被處理器運(yùn)行時執(zhí)行如權(quán)利要求1至5任一所述的基于元數(shù)據(jù)管理的可視化處理方法的步驟。5一種基于元數(shù)據(jù)管理的可視化處理方法和可視化處理裝置技術(shù)領(lǐng)域[0001]本申請涉及數(shù)據(jù)處理技術(shù)領(lǐng)域,具體而言,涉及一種基于元數(shù)據(jù)管理的可視化處理方法和可視化處理裝置。背景技術(shù)[0002]隨著互聯(lián)網(wǎng)技術(shù)的高速發(fā)展,數(shù)據(jù)產(chǎn)生的速度、數(shù)量也隨之增加。為了有效利用這些隱藏價值的數(shù)據(jù),數(shù)據(jù)在傳輸前或者傳輸過程中通常伴隨著二次加工處理的需求,比如[0003]然而,通過傳統(tǒng)的SQL語句對數(shù)據(jù)的處理存在不能實現(xiàn)可視化的效果、不能查看數(shù)據(jù)的血緣關(guān)系的問題。因此,如何實現(xiàn)數(shù)據(jù)處理的可視化效果成為了亟需解決的問題。發(fā)明內(nèi)容[0004]有鑒于此,本申請的目的在于提供一種基于元數(shù)據(jù)管理的可視化處理方法和可視化處理裝置,通過對數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,形成數(shù)據(jù)處理流程的元數(shù)據(jù)溯源圖,將有關(guān)系的目標(biāo)任務(wù)串聯(lián)起來形成對應(yīng)的數(shù)據(jù)和任務(wù)的溯源拓?fù)潢P(guān)系圖,以便用戶根據(jù)溯源拓?fù)潢P(guān)系圖對任務(wù)進(jìn)行有效的管理,實現(xiàn)了數(shù)據(jù)處理的可視化效果。并且數(shù)據(jù)處理流程中集成了數(shù)據(jù)治理生命周期全鏈路來自于不同任務(wù)平臺的、各個階段的數(shù)據(jù)任務(wù),提供了統(tǒng)一的數(shù)據(jù)任務(wù)調(diào)度和監(jiān)控功能,實現(xiàn)了數(shù)據(jù)治理全生命周期數(shù)據(jù)任務(wù)的調(diào)度和監(jiān)控,解決了現(xiàn)有技術(shù)中海量任務(wù)雜亂無章、無法有效治理和維護(hù)的問題。[0005]第一方面,本申請實施例提供了一種基于元數(shù)據(jù)管理的可視化處理方法,所述可視化處理方法包括:[0006]接收用戶設(shè)置的數(shù)據(jù)處理流程;其中,所述數(shù)據(jù)處理流程中包括至少一個來自于不同任務(wù)平臺的、能夠?qū)崿F(xiàn)不同功能邏輯的目標(biāo)任務(wù);[0007]針對于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的任務(wù)類型和初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,以在可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖;其中,所述初始配置信息用于表征所述目標(biāo)任務(wù)的處理方式,所述元數(shù)據(jù)關(guān)系圖用于表征該目標(biāo)任務(wù)的數(shù)據(jù)血緣關(guān)系;[0008]基于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在所述可視化界面中生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖。[0009]進(jìn)一步的,所述基于該目標(biāo)任務(wù)的任務(wù)類型和初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,以在可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖,包括:[0010]獲取用戶在設(shè)置該目標(biāo)任務(wù)時所確定的至少一個初始配置信息;[0011]根據(jù)該目標(biāo)任務(wù)的任務(wù)類型,在至少一個初始配置信息中獲取至少一個目標(biāo)配置信息;其中,所述目標(biāo)配置信息用于生成所述元[0012]針對于每個目標(biāo)配置信息,根據(jù)該目標(biāo)配置信息所屬的數(shù)據(jù)屬性,確定該目標(biāo)配置信息在所述元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系;其中,所述6連接關(guān)系包括連接線和所述連接線上的箭頭指向;[0013]將所述目標(biāo)配置信息以及該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點添加到所述可視化界面中,并根據(jù)所述目標(biāo)配置信息在所述元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系進(jìn)行繪制,以生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖。[0014]進(jìn)一步的,所述基于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在所述可視化界面中生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源[0015]基于所述數(shù)據(jù)處理流程,確定每個目標(biāo)任務(wù)的執(zhí)行順序;[0016]針對于每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的執(zhí)行順序,從所述數(shù)據(jù)處理流程中確定出在該目標(biāo)任務(wù)之前和/或之后執(zhí)行的相鄰任務(wù);[0017]將該目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖與所述相鄰任務(wù)的元數(shù)據(jù)關(guān)系圖進(jìn)行連接,以生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖。[0018]進(jìn)一步的,在所述生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖之后,所述可視化處理方法還包括:[0019]在執(zhí)行所述數(shù)據(jù)處理流程對應(yīng)的任務(wù)實例時,監(jiān)控每個目標(biāo)任務(wù)的執(zhí)行情況;[0020]針對于每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的執(zhí)行情況,在所述元數(shù)據(jù)溯源圖中該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點所處的位置上渲染所述執(zhí)行情況對應(yīng)的顯示顏色。[0021]進(jìn)一步的,所述可視化處理方法還包括:[0022]針對于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),按照預(yù)先設(shè)定的負(fù)載策略,在預(yù)先配置的至少一個執(zhí)行節(jié)點中確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點,以使所述目標(biāo)執(zhí)行節(jié)點執(zhí)行該目標(biāo)任務(wù)。[0023]進(jìn)一步的,所述按照預(yù)先設(shè)定好的負(fù)載策略,為該目標(biāo)任務(wù)選擇對應(yīng)的目標(biāo)執(zhí)行[0024]當(dāng)所述負(fù)載策略為隨機(jī)負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點:[0025]對至少一個執(zhí)行節(jié)點進(jìn)行隨機(jī)選取,以確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點;[0026]當(dāng)所述負(fù)載策略為加權(quán)輪詢負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點:[0027]針對于每個執(zhí)行節(jié)點,確定該執(zhí)行節(jié)點的可用內(nèi)存信息和可用負(fù)載信息;[0028]利用該執(zhí)行節(jié)點的可用內(nèi)存信息和可用負(fù)載信息進(jìn)行加權(quán)計算,得到該執(zhí)行節(jié)點的可用資源值;[0029]利用每個執(zhí)行節(jié)點的可用資源值對每個執(zhí)行節(jié)點進(jìn)行排序,并將多個執(zhí)行節(jié)點中可用資源值最高的執(zhí)行節(jié)點作為所述目標(biāo)執(zhí)行節(jié)點;[0030]當(dāng)所述負(fù)載策略為并發(fā)負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點:[0031]針對于每個執(zhí)行節(jié)點,確定該執(zhí)行節(jié)點的并發(fā)任務(wù)實例數(shù)量;[0032]利用每個執(zhí)行節(jié)點的并發(fā)任務(wù)實例數(shù)量對每個執(zhí)行節(jié)點進(jìn)行排序,并將多個執(zhí)行節(jié)點中并發(fā)任務(wù)實例數(shù)量最少的執(zhí)行節(jié)點作為所述目標(biāo)執(zhí)行節(jié)點;[0033]當(dāng)所述負(fù)載策略為資源加權(quán)負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的7目標(biāo)執(zhí)行節(jié)點:[0034]針對于每個執(zhí)行節(jié)點,確定該執(zhí)行節(jié)點的內(nèi)存空閑信息和任務(wù)實例空閑信息;[0035]利用該執(zhí)行節(jié)點的內(nèi)存空閑信息和任務(wù)實例空閑信息進(jìn)行加權(quán)計算,得到該執(zhí)行節(jié)點的空閑資源值;[0036]利用每個執(zhí)行節(jié)點的空閑資源值對每個執(zhí)行節(jié)點進(jìn)行排序,并將多個執(zhí)行節(jié)點中空閑資源值最高的執(zhí)行節(jié)點作為所述目標(biāo)執(zhí)行節(jié)點。[0037]進(jìn)一步的,在確定出每個目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點之后,所述可視化處理方法還包括:[0038]針對于每個目標(biāo)任務(wù),判斷該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點的任務(wù)執(zhí)行時間是否大于或等于執(zhí)行時間閾值;[0039]若是,則確定該目標(biāo)任務(wù)出現(xiàn)運(yùn)行異常,并基于所述負(fù)載策略為該目標(biāo)任務(wù)重新確定對應(yīng)的目標(biāo)執(zhí)行節(jié)點;[0040]按照預(yù)先設(shè)定的通知方式,向預(yù)先設(shè)定的被通知用戶發(fā)送該目標(biāo)任務(wù)的異常運(yùn)行信息,以使所述被通知用戶根據(jù)所述異常運(yùn)行信息判定該目標(biāo)任務(wù)的運(yùn)行情況。[0041]第二方面,本申請實施例還提供了一種基于元數(shù)據(jù)管理的可視化處理裝置,所述可視化處理裝置包括:[0042]接收模塊,用于接收用戶設(shè)置的數(shù)據(jù)處理流程;其中,所述數(shù)據(jù)處理流程中包括至少一個來自于不同任務(wù)平臺的、能夠?qū)崿F(xiàn)不同功能邏輯的目標(biāo)任務(wù);[0043]元數(shù)據(jù)關(guān)系圖確定模塊,用于針對于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的任務(wù)類型和初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,以在可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖;其中,所述初始配置信息用于表征所述目標(biāo)任務(wù)的處理方式,所述元數(shù)據(jù)關(guān)系圖用于表征該目標(biāo)任務(wù)的數(shù)據(jù)血緣關(guān)系;[0044]元數(shù)據(jù)溯源圖確定模塊,用于基于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在所述可視化界面中生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖。存儲器存儲有所述處理器可執(zhí)行的機(jī)器可讀指令,當(dāng)電子設(shè)備運(yùn)行時,所述處理器與所述存儲器之間通過總線通信,所述機(jī)器可讀指令被所述處理器執(zhí)行時執(zhí)行如上述的基于元數(shù)據(jù)管理的可視化處理方法的步驟。[0046]第四方面,本申請實施例還提供一種計算機(jī)可讀存儲介質(zhì),該計算機(jī)可讀存儲介質(zhì)上存儲有計算機(jī)程序,該計算機(jī)程序被處理器運(yùn)行時執(zhí)行如上述的基于元數(shù)據(jù)管理的可視化處理方法的步驟。[0047]本申請實施例提供的基于元數(shù)據(jù)管理的可視化處理方法,首先接收用戶設(shè)置的數(shù)據(jù)處理流程;然后,針對于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的任務(wù)類型和初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,以在可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖;最后,基于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在所述可視化界面中生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖。與現(xiàn)有技術(shù)中的方法相比,本申請通過對數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,對整個流程進(jìn)行數(shù)據(jù)血緣關(guān)系分析,形成數(shù)據(jù)處理流程的元數(shù)據(jù)溯源圖,將8有關(guān)系的目標(biāo)任務(wù)串聯(lián)起來形成對應(yīng)的數(shù)據(jù)和任務(wù)的溯源拓?fù)潢P(guān)系圖,以便用戶根據(jù)溯源拓?fù)潢P(guān)系圖對任務(wù)進(jìn)行有效的管理,實現(xiàn)了數(shù)據(jù)處理的可視化效果。并且數(shù)據(jù)處理流程中集成了數(shù)據(jù)治理生命周期全鏈路來自于不同任務(wù)平臺的、各個階段的數(shù)據(jù)任務(wù),提供了統(tǒng)一的數(shù)據(jù)任務(wù)調(diào)度和監(jiān)控功能,實現(xiàn)了數(shù)據(jù)治理全生命周期數(shù)據(jù)任務(wù)的調(diào)度和監(jiān)控,解決了現(xiàn)有技術(shù)中海量任務(wù)雜亂無章、無法有效治理和維護(hù)的問題。[0048]為使本申請的上述目的、特征和優(yōu)點能更明顯易懂,下文特舉較佳實施例,并配合附圖說明[0049]為了更清楚地說明本申請實施例的技術(shù)方案,下面將對實施例中所需要使用的附圖作簡單地介紹,應(yīng)當(dāng)理解,以下附圖僅示出了本申請的某些實施例,因此不應(yīng)被看作是對范圍的限定,對于本領(lǐng)域普通技術(shù)人員來講,在不付出創(chuàng)造性勞動的前提下,還可以根據(jù)這些附圖獲得其他相關(guān)的附圖。[0050]圖1為本申請實施例所提供的一種基于元數(shù)據(jù)管理的可視化處理方法的流程圖;[0051]圖2為本申請實施例所提供的元數(shù)據(jù)關(guān)系圖的生成方法的流程圖;[0052]圖3為本申請實施例所提供的一種基于元數(shù)據(jù)管理的可視化處理裝置的結(jié)構(gòu)示意[0053]圖4為本申請實施例所提供的一種電子設(shè)備的結(jié)構(gòu)示意圖。具體實施方式[0054]為使本申請實施例的目的、技術(shù)方案和優(yōu)點更加清楚,下面將結(jié)合本申請實施例中附圖,對本申請實施例中的技術(shù)方案進(jìn)行清楚、完整地描述,顯然,所描述的實施例僅僅是本申請一部分實施例,而不是全部的實施例。通常在此處附圖中描述和示出的本申請實施例的組件可以以各種不同的配置來布置和設(shè)計。因此,以下對在附圖中提供的本申請的實施例的詳細(xì)描述并非旨在限制要求保護(hù)的本申請的范圍,而是僅僅表示本申請的選定實施例?;诒旧暾埖膶嵤├?,本領(lǐng)域技術(shù)人員在沒有做出創(chuàng)造性勞動的前提下所獲得的每個其他實施例,都屬于本申請保護(hù)的范圍。[0055]隨著互聯(lián)網(wǎng)技術(shù)的高速發(fā)展,數(shù)據(jù)產(chǎn)生的速度、數(shù)量也隨之增加。為了有效利用這些隱藏價值的數(shù)據(jù),數(shù)據(jù)在傳輸前或者傳輸過程中通常伴隨著二次加工處理的需求,比如對敏感數(shù)據(jù)的加解密、脫敏,半結(jié)構(gòu)化數(shù)據(jù)的解析、數(shù)據(jù)的二次計算等。然而,通過傳統(tǒng)的SQL語句對數(shù)據(jù)的處理存在不能實現(xiàn)可視化的效果、不能查看數(shù)據(jù)的血緣關(guān)系的問題。因此,如何實現(xiàn)數(shù)據(jù)處理的可視化效果成為了亟需解決的問題。[0056]在企業(yè)信息化建設(shè)“數(shù)字化”這個大的時代背景下,數(shù)據(jù)中臺方法論、大數(shù)據(jù)以及人工智能等一系列數(shù)字化技術(shù)逐漸成熟并在各個行業(yè)中實踐出一定成果,企業(yè)的數(shù)字化轉(zhuǎn)型已經(jīng)逐漸成為企業(yè)未來發(fā)展的趨勢。在新的數(shù)字化建設(shè)背景下,企業(yè)信息化建設(shè)的方式已經(jīng)逐漸發(fā)生轉(zhuǎn)變,從傳統(tǒng)的煙囪式應(yīng)用構(gòu)建模式逐漸轉(zhuǎn)變?yōu)橐云髽I(yè)級數(shù)據(jù)平臺為核心底座的數(shù)據(jù)運(yùn)營模式,數(shù)據(jù)的業(yè)務(wù)分析及處理邏輯逐漸從傳統(tǒng)的煙囪式應(yīng)用中下沉到企業(yè)級數(shù)據(jù)平臺中去。即傳統(tǒng)的企業(yè)應(yīng)用建設(shè)各個應(yīng)用各自匯集數(shù)據(jù),在應(yīng)用中進(jìn)行數(shù)據(jù)加工和業(yè)務(wù)分析,各個應(yīng)用能力服務(wù)無法得到有效復(fù)用、共享及擴(kuò)展,形成了企業(yè)“數(shù)據(jù)孤島”問9題。而新的模式下,企業(yè)級數(shù)據(jù)中心負(fù)責(zé)匯集所有數(shù)據(jù),并根據(jù)業(yè)務(wù)需求進(jìn)行業(yè)務(wù)分析和數(shù)據(jù)加工,將處理后的數(shù)據(jù)結(jié)果開放共享給企業(yè)應(yīng)用,這種模式下業(yè)務(wù)需求能得到快速敏捷高效的響應(yīng),且數(shù)據(jù)能力能得到高度的復(fù)用及共享,且基于數(shù)據(jù)平臺的數(shù)據(jù)加工模式較傳統(tǒng)的應(yīng)用分析模式而言,因各類工具平臺使得數(shù)據(jù)加工[0057]為了推動企業(yè)數(shù)字化轉(zhuǎn)型,打造企業(yè)級數(shù)據(jù)底座,建設(shè)面向全域的新型數(shù)據(jù)處理平臺,解決復(fù)雜多變的海量數(shù)據(jù)處理場景問題。需要從以下幾個方面進(jìn)行考慮設(shè)計:數(shù)據(jù)處理能力方面,面對海量業(yè)務(wù)應(yīng)用分析需求的下沉,數(shù)據(jù)平臺需要具備全面的數(shù)據(jù)處理能力,已解決復(fù)雜多變的數(shù)據(jù)處理需求。包含傳統(tǒng)的應(yīng)用函數(shù)處理能力、Shell及Python等腳本處理能力,基于數(shù)據(jù)庫SQL及存儲過程的數(shù)據(jù)加工方式、大數(shù)據(jù)的實時和離線處理能力、數(shù)據(jù)的AI算法分析能力等等,且需要根據(jù)行業(yè)技術(shù)的發(fā)展提供相應(yīng)處理能力的擴(kuò)展能力。擴(kuò)展性方面,因為是企業(yè)級數(shù)據(jù)平臺的數(shù)據(jù)處理系統(tǒng),面對的是海量業(yè)務(wù)的處理分析,故而數(shù)據(jù)處理的任務(wù)量會隨著業(yè)務(wù)的擴(kuò)展、數(shù)據(jù)的運(yùn)營不斷擴(kuò)展。故從架構(gòu)上考慮,數(shù)據(jù)的處理節(jié)點支持動態(tài)的擴(kuò)展。任務(wù)的管理能力,因需支持大量的數(shù)據(jù)處理任務(wù),故而對任務(wù)的管理調(diào)度,監(jiān)控告警,以及任務(wù)鏈路追蹤方面都有一定的要求。比如某項數(shù)據(jù)指標(biāo)發(fā)生異常情況,能根據(jù)元數(shù)據(jù)快速追蹤到數(shù)據(jù)對象及任務(wù)的ETL鏈路,精準(zhǔn)高效的定位并解決問題。[0058]為了實現(xiàn)上述可擴(kuò)展的分布式調(diào)度的多元數(shù)據(jù)處理系統(tǒng),調(diào)研業(yè)內(nèi)主流的數(shù)據(jù)調(diào)度引擎,主要包含xx1-job、0oize以及Apache的dolphinscheduler。ApacheDolphinScheduler是一個分布式易擴(kuò)展的可視化DAG工作流任務(wù)調(diào)度開源系統(tǒng)。解決數(shù)據(jù)研發(fā)ETL錯綜復(fù)雜的依賴關(guān)系,不能直觀監(jiān)控任務(wù)健康狀態(tài)等問題。[0059]但是在企業(yè)級數(shù)據(jù)平臺的落地時,DolphinScheduler無法進(jìn)行任務(wù)及數(shù)據(jù)血緣關(guān)系的分析注冊。在企業(yè)海量數(shù)據(jù)任務(wù)的場景下,沒有數(shù)據(jù)血緣關(guān)系分析,導(dǎo)致任務(wù)管理雜亂無章,數(shù)據(jù)或指標(biāo)無法有效進(jìn)行任務(wù)鏈路追蹤和溯源。DolphinScheduler是面向大數(shù)據(jù)分析處理而設(shè)計的一款可視化分布式調(diào)度系。在數(shù)據(jù)處理任務(wù)方面不管是大數(shù)據(jù)的MR、Flink、Spark,還是基于數(shù)據(jù)庫的SQL、Produce,基本上都是基于腳本或者程序的,需要對使用人員有非常高的專業(yè)知識要求。當(dāng)前DolphinScheduler缺乏一款可視化、易操作的,基于處理組件拖拽配置的數(shù)據(jù)處理任務(wù)構(gòu)建方式。DolphinScheduler重點面向的是數(shù)據(jù)處理階段,而在企業(yè)級數(shù)據(jù)平臺架構(gòu)中,任務(wù)的調(diào)度需要涵蓋數(shù)據(jù)質(zhì)量檢測、數(shù)據(jù)共享等全生命周期,而DolpinScheduler在于其他第三方數(shù)據(jù)任務(wù)的集成調(diào)度方面有些欠缺。無法做到一站式數(shù)據(jù)全生命周期任務(wù)構(gòu)建和調(diào)度。[0060]基于此,本申請實施例提供了一種基于元數(shù)據(jù)管理的可視化處理方法,通過對數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,對整個流程進(jìn)行數(shù)據(jù)血緣關(guān)系分析,形成數(shù)據(jù)處理流程的元數(shù)據(jù)溯源圖,將有關(guān)系的目標(biāo)任務(wù)串聯(lián)起來形成對應(yīng)的數(shù)據(jù)和任務(wù)的溯源拓?fù)潢P(guān)系圖,以便用戶根據(jù)溯源拓?fù)潢P(guān)系圖對任務(wù)進(jìn)行有效的管理,實現(xiàn)了數(shù)據(jù)處理的可視化效果。并且數(shù)據(jù)處理流程中集成了數(shù)據(jù)治理生命周期全鏈路來自于不同任務(wù)平臺的、各個階段的數(shù)據(jù)任務(wù),提供了統(tǒng)一的數(shù)據(jù)任務(wù)調(diào)度和監(jiān)控功能,實現(xiàn)了數(shù)據(jù)治理全生命周期數(shù)據(jù)任務(wù)的調(diào)度和監(jiān)控,解決了現(xiàn)有技術(shù)中海量任務(wù)雜亂無章、無法有效治理和維護(hù)的問題。[0061]請參閱圖1,圖1為本申請實施例所提供的一種基于元數(shù)據(jù)管理的可視化處理方法的流程圖。如圖1中所示,本申請實施例提供的基于元數(shù)據(jù)管理的[0062]S101,接收用戶設(shè)置的數(shù)據(jù)處理流程。[0063]需要說明的是,數(shù)據(jù)處理流程指的是對數(shù)據(jù)進(jìn)行處理的數(shù)據(jù)處理過程。其中,數(shù)據(jù)處理流程中包括至少一個來自于不同任務(wù)平臺的、能夠?qū)崿F(xiàn)不同功能邏輯的目標(biāo)任務(wù)。這里,目標(biāo)任務(wù)指的是數(shù)據(jù)處理流程中所配置的,用于對數(shù)據(jù)進(jìn)行不同處理的任務(wù)。根據(jù)本申請?zhí)峁┑膶嵤├?,目?biāo)任務(wù)可與來自于不同的任務(wù)平臺,用來實現(xiàn)不同的功能邏輯,作為示例,目標(biāo)任務(wù)可以包含數(shù)據(jù)集成平臺、數(shù)據(jù)管控平臺、數(shù)據(jù)發(fā)布平臺在內(nèi)的數(shù)據(jù)探查任務(wù)、數(shù)據(jù)質(zhì)量檢查任務(wù)、數(shù)據(jù)對賬任務(wù)、數(shù)據(jù)處理任[0064]這里,應(yīng)注意,上述對于目標(biāo)任務(wù)的舉例僅為實例,實際中,目標(biāo)任務(wù)不限于上述例子。[0065]在數(shù)據(jù)平臺的落地場景中,面對一個業(yè)務(wù)需求場景,需要在數(shù)據(jù)平臺的各個子系統(tǒng)中構(gòu)建相應(yīng)功能的數(shù)據(jù)任務(wù),按照生命周期包含數(shù)據(jù)探查、數(shù)據(jù)集成、數(shù)據(jù)開發(fā)處理、數(shù)據(jù)質(zhì)量檢查、數(shù)據(jù)對賬、數(shù)據(jù)共享等不同階段的數(shù)據(jù)任務(wù),同一個數(shù)據(jù)需求的數(shù)據(jù)治理任務(wù)往往分布在不同的系統(tǒng)中,彼此分開調(diào)度監(jiān)控,極為不便,且無法構(gòu)建數(shù)據(jù)治理鏈路及依賴關(guān)系,無法有效的實現(xiàn)任務(wù)間的依賴調(diào)度。為了解決這類問題,本申請使用統(tǒng)一的一站式的任務(wù)集成和調(diào)度系統(tǒng),系統(tǒng)通過集成數(shù)據(jù)治理生命周期全鏈路各個階段數(shù)據(jù)任務(wù),包含數(shù)據(jù)集成平臺、數(shù)據(jù)管控平臺、數(shù)據(jù)發(fā)布平臺在內(nèi)的數(shù)據(jù)探查任務(wù)、數(shù)據(jù)集成任務(wù)、數(shù)據(jù)質(zhì)量檢查任務(wù)、數(shù)據(jù)對賬任務(wù)、數(shù)據(jù)共享任務(wù),并以此提供統(tǒng)一的數(shù)據(jù)任務(wù)調(diào)度和監(jiān)控功能,系統(tǒng)通過各平臺提供的集成接口實現(xiàn)跨平臺調(diào)度和監(jiān)控能力,并以此實現(xiàn)數(shù)據(jù)治理全生命周期數(shù)據(jù)任務(wù)的調(diào)度和監(jiān)控。[0066]根據(jù)本申請?zhí)峁┑膶嵤├?,用戶在設(shè)置數(shù)據(jù)處理流程時,可以根據(jù)數(shù)據(jù)治理邏輯繪制作業(yè)DAG(DirectedAcyclicGraph)工作流的方式,將不同系統(tǒng)的數(shù)據(jù)任務(wù)進(jìn)行整合構(gòu)建數(shù)據(jù)治理全生命周期數(shù)據(jù)任務(wù)依賴關(guān)系,實現(xiàn)數(shù)據(jù)治理全生命周期的作業(yè)一站式管理和調(diào)度。本申請在數(shù)據(jù)處理平臺之上擴(kuò)展了一種基于DIPE引擎組件可視化拖拽的流批一體數(shù)據(jù)任務(wù)構(gòu)建方法。該方法在任務(wù)構(gòu)建頁面通過拖拽數(shù)據(jù)抽取、處理、加載組件并繪制任務(wù)處理拓?fù)洌⒏鶕?jù)組件要求進(jìn)行組件參數(shù)配置,以此方式快速直觀的構(gòu)建數(shù)據(jù)集成、處理或共享任務(wù)。DIPE引擎除了可視化拖拽的簡單易用的特點之外,較SQL、Hive、Flink等數(shù)據(jù)處理方式而言有其獨(dú)特的優(yōu)勢:DIPE引擎運(yùn)行的獨(dú)立性,類似SQL、Hive、Flink等都是需要依托數(shù)據(jù)庫、Yarn等進(jìn)行運(yùn)行,而DIPE引擎任務(wù)獨(dú)立運(yùn)行在引擎節(jié)點,支持的數(shù)據(jù)源是依托抽取組件的全面性,基本上支持?jǐn)?shù)據(jù)文件、消息中間件、數(shù)據(jù)庫、大數(shù)據(jù)存儲組件、分布式對象存儲等各類數(shù)據(jù)源。另因DIPE是將各類數(shù)據(jù)源數(shù)據(jù)進(jìn)行抽取再處理,故DIPE強(qiáng)大的多源數(shù)據(jù)融合計算處理的能力也是非常強(qiáng)大。DIPE引擎強(qiáng)大的擴(kuò)展性,DIPE引擎支持根據(jù)要求定制各類組件,包含數(shù)據(jù)源的抽取和加載組件,比如根據(jù)業(yè)務(wù)擴(kuò)展Http接口、WebSocket服務(wù)等數(shù)據(jù)抽取組件等,支持根據(jù)業(yè)務(wù)特性進(jìn)行抽取和加載組件的定[0067]同時DIPE引擎支持根據(jù)業(yè)務(wù)進(jìn)行處理組件的定制,以及結(jié)合可擴(kuò)展的自定義函數(shù)進(jìn)行動態(tài)的數(shù)據(jù)處理,極大的提升了可視化組件的處理能力,極大的豐富了DIPE引擎的數(shù)據(jù)處理能力。該方式極大的降低了數(shù)據(jù)處理平臺的使用門檻,讓非技術(shù)的業(yè)務(wù)人員能夠快11速高效的進(jìn)行數(shù)據(jù)治理。并且能夠高效的將分散在各個子平臺的數(shù)據(jù)治理生命周期全鏈路的任務(wù)進(jìn)行集成和統(tǒng)一管理調(diào)度,通過將這些分散的任務(wù)以構(gòu)建作業(yè)DAG工作流的方式進(jìn)行關(guān)聯(lián),統(tǒng)一的管理和調(diào)度,從而解決任務(wù)間依賴調(diào)度的問題。[0068]針對于上述步驟S101,在具體實施時,接收用戶構(gòu)建的數(shù)據(jù)處理流程,該數(shù)據(jù)處理流程中包括至少一個來自于不同任務(wù)平臺的、能夠?qū)崿F(xiàn)不同功能邏輯的目標(biāo)任務(wù)。[0069]S102,針對于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的任務(wù)類型和初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,以在可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖。[0070]需要說明的是,任務(wù)類型指的是目標(biāo)任務(wù)所對應(yīng)的類型。根據(jù)本申請?zhí)峁┑膶嵤├?,不同的目?biāo)任務(wù)會對應(yīng)不同的任務(wù)類型,任務(wù)類型可以包括數(shù)據(jù)探查任務(wù)、數(shù)據(jù)質(zhì)量檢是用戶在設(shè)置目標(biāo)任務(wù)時所確定的一些配置參數(shù),初始配置信息用于表征目標(biāo)任務(wù)的處理方式。例如,用戶想要配置數(shù)據(jù)集成組件時,初始配置信息可以是所需的數(shù)據(jù)表的名稱和數(shù)據(jù)表中的數(shù)據(jù)字段中的至少一個,其中,數(shù)據(jù)表的名稱可以是客戶表、用戶表等已有的數(shù)據(jù)表的名稱。數(shù)據(jù)表中的數(shù)據(jù)屬性對應(yīng)的字段可以是例如姓名、性別這種在已有數(shù)據(jù)表中的數(shù)據(jù)屬性。元數(shù)據(jù)指的是描述數(shù)據(jù)的數(shù)據(jù),對數(shù)據(jù)及信息資源進(jìn)行描述,是關(guān)于數(shù)據(jù)的更高層次抽象,元數(shù)據(jù)記錄了系統(tǒng)包含的數(shù)據(jù)、數(shù)據(jù)的表示、數(shù)據(jù)的來源,以及在系統(tǒng)中的流轉(zhuǎn)數(shù)據(jù)血緣關(guān)系以及數(shù)據(jù)地圖等。元數(shù)據(jù)關(guān)系注冊指的就是利用元數(shù)據(jù)來構(gòu)建目標(biāo)任務(wù)對應(yīng)的數(shù)據(jù)血緣關(guān)系。元數(shù)據(jù)關(guān)系圖就是進(jìn)行元數(shù)據(jù)關(guān)系注冊后所得到的結(jié)果,用于表征目標(biāo)任務(wù)中的數(shù)據(jù)血緣關(guān)系。數(shù)據(jù)血緣能夠表示數(shù)據(jù)與數(shù)據(jù)之間的關(guān)系,反映數(shù)據(jù)在系統(tǒng)中的生產(chǎn)加工流程,主要包括集群血緣關(guān)系、系統(tǒng)血緣關(guān)系、表級血緣關(guān)系和字段血緣關(guān)系。[0071]這里,應(yīng)注意,上述對于初始配置信息的舉例僅為實例,實際中,初始配置信息不限于上述例子。[0072]針對上述步驟S102,在具體實施時,針對于獲取到的數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),根據(jù)該目標(biāo)任務(wù)的任務(wù)類型以及用戶在配置該目標(biāo)任務(wù)時確定的初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,并在用戶的可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖。[0073]請參閱圖2,圖2為本申請實施例所提供的元數(shù)據(jù)關(guān)系圖的生成方法的流程圖。如圖2中所示,所述基于該目標(biāo)任務(wù)的任務(wù)類型和初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,以在可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖,包括:[0074]S201,獲取用戶在設(shè)置該目標(biāo)任務(wù)時所確定的至少一個初始配置信息。[0075]針對于上述步驟S201,在具體實施時,由于用戶在配置數(shù)據(jù)處理流程中的目標(biāo)任務(wù)時,可以選取該目標(biāo)任務(wù)對應(yīng)的組件模板,在組件模板中填寫初始配置信息,以使該目標(biāo)任務(wù)可以滿足用戶的業(yè)務(wù)需求。因此,需要獲取用戶在設(shè)置該目標(biāo)任務(wù)時所確定的至少一個初始配置信息。[0076]S202,根據(jù)該目標(biāo)任務(wù)的任務(wù)類型,在至少一個初始配置信息中獲取至少一個目標(biāo)配置信息。[0077]需要說明的是,目標(biāo)配置信息指的是初始配置信息中的某一個或某幾個配置信息,用于生成該目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖。[0078]針對上述步驟S202,在具體實施時,由于數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的任務(wù)類型不同,在繪制元數(shù)據(jù)關(guān)系圖時所需的配置信息也不同,不同的任務(wù)類型的目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖的表現(xiàn)形式不太一致。因此需要根據(jù)目標(biāo)任務(wù)的任務(wù)類型來確定繪制元數(shù)據(jù)關(guān)系圖時需要哪些配置信息,也就是根據(jù)該目標(biāo)任務(wù)的任務(wù)類型,在至少一個初始配置信息中獲取至少一個目標(biāo)配置信息。延續(xù)步驟S101中的實施例,當(dāng)目標(biāo)任務(wù)包含數(shù)據(jù)探查任探查任務(wù)、數(shù)據(jù)質(zhì)量檢測任務(wù)和數(shù)據(jù)對賬任務(wù)屬于一類,這類任務(wù)元數(shù)據(jù)關(guān)系圖表達(dá)的是數(shù)據(jù)任務(wù)與一個或多個數(shù)據(jù)對象或者對象屬性的關(guān)系,比如數(shù)據(jù)探查任務(wù),該類任務(wù)元數(shù)據(jù)圖表達(dá)的是針對一個或多個數(shù)據(jù)對象或?qū)ο髮傩缘奶讲殛P(guān)系,所以這類任務(wù)需要注冊任務(wù)和數(shù)據(jù)對象的關(guān)系,也就是,所需的目標(biāo)配置信息可以為數(shù)據(jù)對象。而數(shù)據(jù)集成任務(wù)、數(shù)據(jù)處理任務(wù)、數(shù)據(jù)共享任務(wù)這三種又是另一類,這一類表達(dá)的是一種ETL(Extract-Transform-Load,抽取、轉(zhuǎn)換、加載)任務(wù),表達(dá)的是從一種或多種數(shù)據(jù)對象中進(jìn)行數(shù)據(jù)抽取、加工、加載到一個或多個目的對象中去。該類關(guān)系圖不僅需要注冊任務(wù)和數(shù)據(jù)對象的關(guān)系,還要注冊來源對象屬性至目的對象屬性的映射關(guān)系,也就是,所需的目標(biāo)配置信息還包括來源數(shù)據(jù)和目標(biāo)數(shù)據(jù)。作為一種可選的實施方式,目標(biāo)配置信息還可以包括某個表中的某個或某幾個數(shù)據(jù)字段,例如數(shù)據(jù)集成任務(wù),用戶需要獲取數(shù)據(jù)表A中某個數(shù)據(jù)字段下的所有數(shù)據(jù),例如獲取客戶表中的客戶姓名和客戶性別,這時用戶在配置數(shù)據(jù)集成任務(wù)時則需要填寫“來源數(shù)據(jù)”為數(shù)據(jù)表A以及數(shù)據(jù)表A中的數(shù)據(jù)字段客戶姓名和客戶性別,這時數(shù)據(jù)表A、客戶姓名和客戶性別都為生成元數(shù)據(jù)關(guān)系圖所需的目標(biāo)配置信息。[0079]S203,針對于每個目標(biāo)配置信息,根據(jù)該目標(biāo)配置信息所屬的數(shù)據(jù)屬性,確定該目標(biāo)配置信息在所述元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系。[0080]需要說明的是,數(shù)據(jù)屬性指的是目標(biāo)配置信息所對應(yīng)的數(shù)據(jù)類型,具體的,可以根據(jù)用戶在組件模板中配置的方式來確定目標(biāo)配置信息所屬的數(shù)據(jù)屬性。目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點指的是在可視化界面中目標(biāo)任務(wù)所對應(yīng)的位置節(jié)點。目標(biāo)配置信息與拓?fù)涔?jié)點的連接關(guān)系包括目標(biāo)配置信息與拓?fù)涔?jié)點之間的連接線和連接線上的箭頭指向。[0081]針對上述步驟S203,在具體實施時,針對與該目標(biāo)任務(wù)的每個目標(biāo)配置信息,根據(jù)該目標(biāo)配置信息所屬的數(shù)據(jù)屬性,確定該目標(biāo)配置信息在元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系。作為示例,當(dāng)用戶在配置數(shù)據(jù)處理任務(wù)時,需要配置來源數(shù)據(jù)是哪些數(shù)據(jù)表或哪些數(shù)據(jù),經(jīng)過數(shù)據(jù)處理后得到的目標(biāo)數(shù)據(jù)是什么樣的數(shù)據(jù)表或數(shù)據(jù),戶需在“來源數(shù)據(jù)”的配置信息確定框中輸入或選擇所需的源表,比如數(shù)據(jù)表A,在“目標(biāo)數(shù)據(jù)”的配置信息確定框中輸入或選擇想要得到的目標(biāo)表,比如數(shù)據(jù)表B,這樣在步驟S203中獲取到的數(shù)據(jù)處理任務(wù)的目標(biāo)配置信息就可以為“數(shù)據(jù)表A”和“數(shù)據(jù)表B”。然后確定數(shù)據(jù)表A的數(shù)據(jù)屬性為來源數(shù)據(jù),數(shù)據(jù)表B的數(shù)據(jù)屬性為目標(biāo)數(shù)據(jù)。根據(jù)正常的數(shù)據(jù)處理流程可知,需要對來源數(shù)據(jù)進(jìn)行數(shù)據(jù)處理后可以得到目標(biāo)數(shù)據(jù),這時就可以確定目標(biāo)配置信息在元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系,“數(shù)據(jù)表A”需要通過連接線一連接拓?fù)涔?jié)點,然后再由拓?fù)涔?jié)點通過連接線二連接“數(shù)據(jù)表B”,連接線一上的箭頭指向應(yīng)[0082]S204,將所述目標(biāo)配置信息以及該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點添加到所述可視化界面中,并根據(jù)所述目標(biāo)配置信息在所述元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系進(jìn)行繪制,以生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖。[0083]針對上述步驟S204,在具體實施時,繪制元數(shù)據(jù)關(guān)系圖所需的目標(biāo)配置信息以及每個目標(biāo)配置信息在元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系均確定好之后,分別將每個目標(biāo)配置信息以及該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點添加到可視化界面中,并根據(jù)步驟S203中確定出的每個目標(biāo)配置信息在元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系進(jìn)行繪制,以得到該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖。[0084]S103,基于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在所述可視化界面中生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖。[0085]需要說明的是,元數(shù)據(jù)溯源圖指的是最終生成的、用于表征整個數(shù)據(jù)處理流程內(nèi)數(shù)據(jù)血緣關(guān)系的示意圖,用來反映整個數(shù)據(jù)處理流程的生產(chǎn)加工過程。[0086]針對上述步驟S103,在具體實施時,由于數(shù)據(jù)處理流程中配置好了每個目標(biāo)任務(wù)的執(zhí)行順序,則可以根據(jù)數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在可視化界面中生成數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖,以使用戶可以根據(jù)該元數(shù)據(jù)溯源圖查看數(shù)據(jù)處理流程中的數(shù)據(jù)的血緣關(guān)系。[0087]針對于上述步驟S103,所述基于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在所述可視化界面中生成所述數(shù)據(jù)處理流程對應(yīng)[0088]步驟1031,基于所述數(shù)據(jù)處理流程,確定每個目標(biāo)任務(wù)的執(zhí)行順序。[0089]針對上述步驟1031,在具體實施時,基于用戶設(shè)置的數(shù)據(jù)處理流程,確定每個目標(biāo)任務(wù)的執(zhí)行順序。作為示例,當(dāng)數(shù)據(jù)處理流程中目標(biāo)任務(wù)A連接目標(biāo)任務(wù)B,目標(biāo)任務(wù)B連接目標(biāo)任務(wù)C時,則目標(biāo)任務(wù)的執(zhí)行順序為先執(zhí)行目標(biāo)任務(wù)A,再執(zhí)行目標(biāo)任務(wù)B,最后執(zhí)行目標(biāo)任務(wù)C。[0090]步驟1032,針對于每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的執(zhí)行順序,從所述數(shù)據(jù)處理流程中確定出在該目標(biāo)任務(wù)之前和/或之后執(zhí)行的相鄰任務(wù)。[0091]針對上述步驟1032,在具體實施時,在每個目標(biāo)任務(wù)的執(zhí)行順序都確定出來后,針對于每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的執(zhí)行順序,從數(shù)據(jù)處理流程中確定出在該目標(biāo)任務(wù)之前和/或之后執(zhí)行的相鄰任務(wù)。延續(xù)步驟1031中的實施例,目標(biāo)任務(wù)的執(zhí)行順序為先執(zhí)行目標(biāo)任務(wù)A,再執(zhí)行目標(biāo)任務(wù)B,最后執(zhí)行目標(biāo)任務(wù)C時,針對于目標(biāo)任務(wù)A,與之相鄰的相鄰任務(wù)則為目標(biāo)任務(wù)B;針對于目標(biāo)任務(wù)B,與之相鄰的相鄰任務(wù)則為目標(biāo)任務(wù)A和目標(biāo)任務(wù)C;針對于C,與之相鄰的相鄰任務(wù)則為目標(biāo)任務(wù)B。[0092]步驟1033,將該目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖與所述相鄰任務(wù)的元數(shù)據(jù)關(guān)系圖進(jìn)行連接,以生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖。[0093]針對于上述步驟1033,在具體實施時,每個目標(biāo)任務(wù)的相鄰任務(wù)均確定出后,可視化界面中已經(jīng)繪制出了每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,這時針對于每個目標(biāo)任務(wù),將該目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖與相鄰任務(wù)的元數(shù)據(jù)關(guān)系圖相連,即可生成數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖。[0094]本申請設(shè)計實現(xiàn)了一種基于元數(shù)據(jù)管理的可視化處理方法,在數(shù)據(jù)處理平臺中,通過任務(wù)管理頁面進(jìn)行不同階段的目標(biāo)任務(wù)構(gòu)建,構(gòu)建完成后,對每個目標(biāo)任務(wù)進(jìn)入任務(wù)的元數(shù)據(jù)關(guān)系注冊,處理平臺后臺會根據(jù)目標(biāo)任務(wù)的任務(wù)類型和目標(biāo)任務(wù)的配置信息進(jìn)行元數(shù)據(jù)的自動解析,若任務(wù)支持自動解析情況,即利用上述實施例提供的步驟進(jìn)行元數(shù)據(jù)關(guān)系注冊,頁面自動渲染任務(wù)涉及的來源數(shù)據(jù)和目標(biāo)數(shù)據(jù),并根據(jù)解析的關(guān)系數(shù)據(jù)自動繪制該目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖。之后也可經(jīng)過人工確認(rèn)調(diào)整后即可提交注冊。若是平臺不支持自動解析的任務(wù)類型,在注冊頁面需要手動選擇數(shù)據(jù)源下的數(shù)據(jù)對象,在通過拖拽繪線的方式手動進(jìn)行元數(shù)據(jù)關(guān)系注冊。為了打造易管理、易維護(hù)的全生命周期數(shù)據(jù)任務(wù)調(diào)度數(shù)據(jù)對賬、數(shù)據(jù)共享等階段的數(shù)據(jù)任務(wù)進(jìn)行統(tǒng)一的元數(shù)據(jù)關(guān)系注冊和管理,基于統(tǒng)一的元數(shù)據(jù)體系對數(shù)據(jù)治理鏈路進(jìn)行分析和維護(hù)。[0095]作為一種可選的實施方式,在所述生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖之[0096](1)在執(zhí)行所述數(shù)據(jù)處理流程對應(yīng)的任務(wù)實例時,監(jiān)控每個目標(biāo)任務(wù)的執(zhí)行情況。[0097](2)針對于每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的執(zhí)行情況,在所述元數(shù)據(jù)溯源圖中該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點所處的位置上渲染所述執(zhí)行情況對應(yīng)的顯示顏色。[0098]需要說明的是,執(zhí)行情況指的是目標(biāo)任務(wù)的執(zhí)行情況,這里,執(zhí)行情況可以包括[0099]針對上述步驟(1)和步驟(2),在具體實施時,當(dāng)在執(zhí)行數(shù)據(jù)處理流程對應(yīng)的任務(wù)實例時,監(jiān)控數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行情況。針對于每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的執(zhí)行情況,在元數(shù)據(jù)溯源圖中該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點所處的位置上渲染執(zhí)行該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點所處的位置上渲染黃色;當(dāng)目標(biāo)任務(wù)的執(zhí)行情況為“執(zhí)行成功”時,可以在元數(shù)據(jù)溯源圖中該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點所處的位置上渲染綠色;當(dāng)目標(biāo)任務(wù)的執(zhí)行情況為“執(zhí)行失敗”時,可以在元數(shù)據(jù)溯源圖中該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點所處的位置上渲染紅色。這樣方便用戶直接根據(jù)元數(shù)據(jù)溯源圖中目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點所處的位置上的顯示顏色來判斷該目標(biāo)任務(wù)的執(zhí)行情況。[0100]這里,應(yīng)注意,上述對于不同的執(zhí)行情況所對應(yīng)的顯示顏色的舉例僅為實例,實際中,不同的執(zhí)行情況所對應(yīng)的顯示顏色不限于上述例子。[0101]根據(jù)本申請?zhí)峁┑膶嵤├?,因?shù)據(jù)平臺最終以數(shù)據(jù)對象表、數(shù)據(jù)指標(biāo)或數(shù)據(jù)服務(wù)對內(nèi)外提供數(shù)據(jù)資源服務(wù)。當(dāng)數(shù)據(jù)服務(wù)、指標(biāo)以及數(shù)據(jù)對象表提供的數(shù)據(jù)出現(xiàn)異常的情況下,可以通過元數(shù)據(jù)快速的進(jìn)行服務(wù)、指標(biāo)或表的溯源分析,通過可視化元數(shù)據(jù)溯源圖的方式進(jìn)行展示分析,元數(shù)據(jù)溯源圖中通過不同的顏色對元數(shù)據(jù)或目標(biāo)任務(wù)進(jìn)行狀態(tài)標(biāo)記。當(dāng)數(shù)據(jù)處理流程中出現(xiàn)故障異常時,可以通過拓?fù)涔?jié)點的顏色快速的定位和分析到數(shù)據(jù)鏈路志,快速的分析定位故障環(huán)節(jié)并進(jìn)行故障恢復(fù)。另支持快速的出具故障影響報告,推進(jìn)數(shù)據(jù)故障的快速運(yùn)維。根據(jù)本申請?zhí)峁┑幕谠獢?shù)據(jù)管理的可視化處理方法,基于元數(shù)據(jù)的管理方式,將海量不同業(yè)務(wù)場景的數(shù)據(jù)任務(wù)、數(shù)據(jù)對象、指標(biāo)和服務(wù)進(jìn)行關(guān)聯(lián),以最高效的方式進(jìn)行管理和維護(hù),并通過元數(shù)據(jù)的溯源關(guān)系圖上對目標(biāo)任務(wù)的顏色標(biāo)記來標(biāo)識任務(wù)的狀態(tài)(執(zhí)行成功、執(zhí)行失敗、執(zhí)行中等狀態(tài)),通過可視化的方式快速的定位數(shù)據(jù)鏈路的問題,并支持快速的定位問題的元數(shù)據(jù)節(jié)點,并跳轉(zhuǎn)至該任務(wù)進(jìn)行運(yùn)行詳細(xì)排查,快速的分析和解決故障問題。[0102]作為一種可選的實施方式,所述可視化處理方法還包括:[0103]針對于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),按照預(yù)先設(shè)定的負(fù)載策略,在預(yù)先配置的至少一個執(zhí)行節(jié)點中確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點,以使所述目標(biāo)執(zhí)行節(jié)點執(zhí)行該目標(biāo)任務(wù)。[0104]需要說明的是,負(fù)載策略指的是需先設(shè)定好的,用于為目標(biāo)任務(wù)選取所需的執(zhí)行節(jié)點的策略。執(zhí)行節(jié)點指的是預(yù)先配置好的、用于執(zhí)行任務(wù)的節(jié)點。目標(biāo)執(zhí)行節(jié)點指的是針對于數(shù)據(jù)處理流程中的目標(biāo)任務(wù),執(zhí)行該目標(biāo)任務(wù)對應(yīng)的任務(wù)實例的執(zhí)行節(jié)點。[0105]針對上述步驟,在具體實施時,針對于數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),按照預(yù)先設(shè)定的負(fù)載策略,在預(yù)先配置的至少一個執(zhí)行節(jié)點中確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點,以使目標(biāo)執(zhí)行節(jié)點執(zhí)行該目標(biāo)任務(wù)。根據(jù)本申請?zhí)峁┑膶嵤├?,所有的?zhí)行節(jié)點上線后,會創(chuàng)建注冊任務(wù),周期性獲取節(jié)點及任務(wù)實例運(yùn)行信息進(jìn)行分布式節(jié)點的信息注冊。而調(diào)度節(jié)點會對分布式節(jié)點進(jìn)行監(jiān)聽,當(dāng)調(diào)度節(jié)點需要對任務(wù)進(jìn)行分布式調(diào)度時會根據(jù)獲取到的執(zhí)行節(jié)點的實時注冊信息結(jié)合配置的負(fù)載策略進(jìn)行執(zhí)行節(jié)點的選擇,并將任務(wù)發(fā)送至指定的執(zhí)行節(jié)點進(jìn)行調(diào)度運(yùn)行。[0106]根據(jù)本申請?zhí)峁┑膶嵤├?,預(yù)先設(shè)定的負(fù)載策略可以包括四種:隨機(jī)負(fù)載策略、加權(quán)輪詢負(fù)載策略、并發(fā)負(fù)載策略以及資源加權(quán)負(fù)載策略。這里,隨機(jī)負(fù)載策略是在已注冊的所有執(zhí)行節(jié)點中進(jìn)行隨機(jī)選擇;加權(quán)輪詢負(fù)載策略是根據(jù)執(zhí)行節(jié)點的資源值計算后,根據(jù)高低排序后再進(jìn)行輪訓(xùn)選擇執(zhí)行節(jié)點;并發(fā)負(fù)載策略是根據(jù)獲取的執(zhí)行節(jié)點的并發(fā)任務(wù)實例數(shù),按照最低并發(fā)原則進(jìn)行執(zhí)行節(jié)點選擇;資源加權(quán)負(fù)載策略是根據(jù)獲取的執(zhí)行節(jié)點的資源空閑情況以及插件并發(fā)任務(wù)實例數(shù)進(jìn)行加權(quán)計算,選取最優(yōu)資源的執(zhí)行節(jié)點進(jìn)行調(diào)度。所述按照預(yù)先設(shè)定好的負(fù)載策略,為該目標(biāo)任[0107]當(dāng)所述負(fù)載策略為隨機(jī)負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點:[0108]對至少一個執(zhí)行節(jié)點進(jìn)行隨機(jī)選取,以確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點。[0109]針對上述步驟,當(dāng)負(fù)載策略為隨機(jī)負(fù)載策略時,針對于配置好的至少一個執(zhí)行節(jié)點,對至少一個執(zhí)行節(jié)點進(jìn)行隨機(jī)選取,以確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點。[0110]當(dāng)所述負(fù)載策略為加權(quán)輪詢負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的[0111]A:針對于每個執(zhí)行節(jié)點,確定該執(zhí)行節(jié)點的可用內(nèi)存信息和可用負(fù)載信息。[0112]B:利用該執(zhí)行節(jié)點的可用內(nèi)存信息和可用負(fù)載信息進(jìn)行加權(quán)計算,得到該執(zhí)行節(jié)點的可用資源值。[0113]C:利用每個執(zhí)行節(jié)點的可用資源值對每個執(zhí)行節(jié)點進(jìn)行排序,并將多個執(zhí)行節(jié)點中可用資源值最高的執(zhí)行節(jié)點作為所述目標(biāo)執(zhí)行節(jié)點。[0114]針對上述步驟A到步驟C,在具體實施時,當(dāng)負(fù)載策略為加權(quán)輪詢負(fù)載策略時,針對于配置好的每個執(zhí)行節(jié)點,確定該執(zhí)行節(jié)點當(dāng)前的可用內(nèi)存信息以及可用負(fù)載信息,然后利用可用內(nèi)存信息和可用負(fù)載信息進(jìn)行加權(quán)計算,以得到該執(zhí)行節(jié)點的可用資源值。統(tǒng)計每個執(zhí)行節(jié)點的可用資源值,利用每個執(zhí)行節(jié)點的可用資源值對每個執(zhí)行節(jié)點進(jìn)行排序,并將多個執(zhí)行節(jié)點中可用資源值最高的執(zhí)行節(jié)點作為該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點。[0115]當(dāng)所述負(fù)載策略為并發(fā)負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點:[0116]a:針對于每個執(zhí)行節(jié)點,確定該執(zhí)行節(jié)點的并發(fā)任務(wù)實例數(shù)量。[0117]b:利用每個執(zhí)行節(jié)點的并發(fā)任務(wù)實例數(shù)量對每個執(zhí)行節(jié)點進(jìn)行排序,并將多個執(zhí)行節(jié)點中并發(fā)任務(wù)實例數(shù)量最少的執(zhí)行節(jié)點作為所述目標(biāo)執(zhí)行節(jié)點。[0118]這里,并發(fā)任務(wù)實例數(shù)量指的是執(zhí)行節(jié)點所掛載的任務(wù)實例的數(shù)量。[0119]針對上述步驟a和步驟b,在具體實施時,針對于每個執(zhí)行節(jié)點,確定該執(zhí)行節(jié)點的并發(fā)任務(wù)實例數(shù)量。統(tǒng)計每個執(zhí)行節(jié)點的并發(fā)任務(wù)實例數(shù)量,利用每個執(zhí)行節(jié)點的并發(fā)任務(wù)實例數(shù)量對每個執(zhí)行節(jié)點進(jìn)行排序,并將多個執(zhí)行節(jié)點中并發(fā)任務(wù)實例數(shù)量最少的執(zhí)行節(jié)點作為該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點。[0120]當(dāng)所述負(fù)載策略為資源加權(quán)負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點:[0121]I:針對于每個執(zhí)行節(jié)點,確定該執(zhí)行節(jié)點的內(nèi)存空閑信息和任務(wù)實例空閑信息。[0122]II:利用該執(zhí)行節(jié)點的內(nèi)存空閑信息和任務(wù)實例空閑信息進(jìn)行加權(quán)計算,得到該執(zhí)行節(jié)點的空閑資源值。[0123]III:利用每個執(zhí)行節(jié)點的空閑資源值對每個執(zhí)行節(jié)點進(jìn)行排序,并將多個執(zhí)行節(jié)點中空閑資源值最高的執(zhí)行節(jié)點作為所述目標(biāo)執(zhí)行節(jié)點。[0124]針對上述步驟I到步驟III,在具體實施時,當(dāng)負(fù)載策略為資源加權(quán)負(fù)載策略時,針對于配置好的每個執(zhí)行節(jié)點,確定該執(zhí)行節(jié)點當(dāng)前的內(nèi)存空閑信息以及任務(wù)實例空閑信息,然后利用內(nèi)存空閑信息和任務(wù)實例空閑信息進(jìn)行加權(quán)計算,以得到該執(zhí)行節(jié)點的空閑資源值。統(tǒng)計每個執(zhí)行節(jié)點的空閑資源值,利用每個執(zhí)行節(jié)點的空閑資源值對每個執(zhí)行節(jié)點進(jìn)行排序,并將多個執(zhí)行節(jié)點中空閑資源值最高的執(zhí)行節(jié)點作為該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點。[0125]根據(jù)本申請?zhí)峁┑膶嵤├谜{(diào)度節(jié)點來對執(zhí)行節(jié)點進(jìn)行選取和任務(wù)調(diào)度,因此本申請還提供了一種主從選舉機(jī)制,該機(jī)制主要是為了分布式調(diào)度中調(diào)度組件的主從架構(gòu)而設(shè)計,調(diào)度組件的主要功能是提供rest任務(wù)調(diào)度接口,以及組件本身Quartz定時器進(jìn)行周期性任務(wù)調(diào)度。本調(diào)度組件主從設(shè)計的思路是在實施是部署運(yùn)行多個調(diào)度組件,一個Master多個Slave,Master對外提供rest調(diào)度服務(wù)以及啟動自身調(diào)度能力(包含定時Quzrtz等),而Slave所有能力休眠,停止其調(diào)度能力。當(dāng)Master出現(xiàn)故障時,Slave自動競選成Leader,而競選成Leader的Slave組件開放rest服務(wù)并啟動調(diào)度能力,實現(xiàn)調(diào)度組件的高可用性。而調(diào)度組件的Leader競選機(jī)制是通過LeaderLatch機(jī)制實現(xiàn),主要是通過在創(chuàng)建分布式節(jié)點鎖,通過競選機(jī)制選擇master節(jié)點。[0126]在確定出每個目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點之后,所述可視化處理方法還包括:[0127]i:針對于每個目標(biāo)任務(wù),判斷該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點的任務(wù)執(zhí)行時間是否大于或等于執(zhí)行時間閾值。[0128]需要說明的是,任務(wù)執(zhí)行時間指的是目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點所執(zhí)行的時間。執(zhí)行時間閾值指的是預(yù)先設(shè)定的,用于判斷目標(biāo)任務(wù)是否存在異常的時間閾值。例如,可以設(shè)定執(zhí)行時間閾值為5分鐘,對此本申請不做具體限定。[0129]針對上述步驟i,在具體實施時,針對于數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),首先獲取該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點的任務(wù)執(zhí)行時間,然后判斷該任務(wù)執(zhí)行時間是否大于或[0130]ii:若是,則確定該目標(biāo)任務(wù)出現(xiàn)運(yùn)行異常,并基于所述負(fù)載策略為該目標(biāo)任務(wù)重新確定對應(yīng)的目標(biāo)執(zhí)行節(jié)點。[0131]針對上述步驟ii,在具體實施時,當(dāng)判斷該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點的任務(wù)執(zhí)行時間大于或等于預(yù)先設(shè)定的執(zhí)行時間閾值時,則認(rèn)為該目標(biāo)任務(wù)出現(xiàn)運(yùn)行異常,并根據(jù)預(yù)先設(shè)定的負(fù)載策略為該目標(biāo)任務(wù)重新確定對應(yīng)的目標(biāo)執(zhí)行節(jié)點,并將該目標(biāo)任務(wù)對應(yīng)的任務(wù)實例調(diào)度到重新選擇的目標(biāo)執(zhí)行節(jié)點上進(jìn)行執(zhí)行。具體的,如何根據(jù)先設(shè)定的負(fù)載策略為該目標(biāo)任務(wù)重新確定對應(yīng)的目標(biāo)執(zhí)行節(jié)點的方法與本申請上述實施例所提供的方法相同,在此不再過多贅述。根據(jù)本申請?zhí)峁┑膶嵤├?,任?wù)的超時機(jī)制基于worker執(zhí)行組件進(jìn)行統(tǒng)一設(shè)計實現(xiàn),適用于包含DIPE引擎在內(nèi)的所有任務(wù)插件。主要功能是通過任務(wù)調(diào)度JSON配置中指定任務(wù)的超時時長,當(dāng)任務(wù)運(yùn)行超過指定的超時時長時,則判定任務(wù)運(yùn)行異常,自動進(jìn)行任務(wù)終止操作。該機(jī)制主要是為了避免任務(wù)因配置或操作問題出現(xiàn)的任務(wù)運(yùn)行假死掛起或超出預(yù)期的運(yùn)行時長等,同時解決任務(wù)假死造成的監(jiān)控狀態(tài)不一致的問題,避免異常的狀態(tài)誤導(dǎo)監(jiān)控人員。該項機(jī)制亦避免了有多項任務(wù)構(gòu)成的處理作業(yè)中因前置任務(wù)假死或超時導(dǎo)致的后續(xù)任務(wù)無法及時運(yùn)行的情況。該部分機(jī)制基于調(diào)度節(jié)點的分布式負(fù)載策略實現(xiàn),任務(wù)在配置時可指定任務(wù)異常重試次數(shù)以及異常重試間隔,這兩項配置指標(biāo)表示任務(wù)啟動后在指定的次數(shù)內(nèi)出現(xiàn)異常情況下,會經(jīng)過指定的異常重試間隔時間(min分鐘),進(jìn)行重啟,即調(diào)度節(jié)點會根據(jù)分布式的負(fù)載策略進(jìn)行運(yùn)行節(jié)點選擇并重新進(jìn)行任務(wù)的執(zhí)行節(jié)點調(diào)度運(yùn)行。[0132]根據(jù)本申請?zhí)峁┑膶嵤├?,DIPE引擎或部分任務(wù)插件在分布式調(diào)度中,相同任務(wù)在不同的時間,生成的任務(wù)實例在不同的節(jié)點進(jìn)行調(diào)度,部分配置信息需要共享。比如在數(shù)據(jù)的CDC增量同步場景下,每次任務(wù)實例啟動都是按照最新的增量值進(jìn)行增量同步,任務(wù)結(jié)束時將最后的增量值進(jìn)行存儲,以供下次調(diào)度時進(jìn)行CDC增量抽取。在單節(jié)點調(diào)度時通常的解決方案是將這些配置值存儲至本地工作目錄下以任務(wù)ID生成的配置文件中去。而在分布式調(diào)度中,需要進(jìn)行配置的共享,而整體的調(diào)度方案中,為了實現(xiàn)組件間的弱耦合,降低組件間的依賴,以及降低數(shù)據(jù)庫的連接壓力,故總體設(shè)計中執(zhí)行節(jié)點是不會和數(shù)據(jù)庫進(jìn)行通信的。故而采取分布式節(jié)點間配置的共享。按照分布式節(jié)點進(jìn)行配置節(jié)點構(gòu)建,并按照業(yè)務(wù)需要進(jìn)行配置信息的注冊和共享。[0133]iii:按照預(yù)先設(shè)定的通知方式,向預(yù)先設(shè)定的被通知用戶發(fā)送該目標(biāo)任務(wù)的異常運(yùn)行信息,以使所述被通知用戶根據(jù)所述異常運(yùn)行信息判定該目標(biāo)任務(wù)的運(yùn)行情況。[0134]需要說明的是,通知方式指的是預(yù)先設(shè)定的、異常運(yùn)行信息的發(fā)送方法,例如通過郵件發(fā)送、通過短信發(fā)送或通過釘釘發(fā)送等,對此本申請不做具體限定。異常運(yùn)行信息可以[0135]針對上述步驟iii,在具體實施時,當(dāng)某個目標(biāo)任務(wù)出現(xiàn)異常運(yùn)行后,按照預(yù)先設(shè)定的通知方式,向預(yù)先設(shè)定的被通知用戶發(fā)送該目標(biāo)任務(wù)的異常運(yùn)行信息,以使被通知用戶根據(jù)異常運(yùn)行信息判定該目標(biāo)任務(wù)的運(yùn)行情況。根據(jù)本申請?zhí)峁┑膶嵤├?,該部分機(jī)制基于任務(wù)調(diào)度的元數(shù)據(jù)庫監(jiān)聽進(jìn)行實現(xiàn),實現(xiàn)過程主要是通過監(jiān)聽元數(shù)據(jù)庫的任務(wù)狀態(tài)變更信息,結(jié)合任務(wù)配置過程中指定的通知策略(都不通知、僅失敗通知、僅成功通知、都通的通知策略時,按照指定的通知類型向通知人進(jìn)行發(fā)送通知。該機(jī)制實現(xiàn)了任務(wù)運(yùn)行的全方位監(jiān)控,及時有效的進(jìn)行任務(wù)異常的通知,使得監(jiān)控人員快速的進(jìn)行異常任務(wù)的跟蹤和恢復(fù),更加有效的保障任務(wù)的持續(xù)穩(wěn)定運(yùn)行。[0136]本申請實施例提供的基于元數(shù)據(jù)管理的可視化處理方法,首先接收用戶設(shè)置的數(shù)據(jù)處理流程;然后,針對于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的任務(wù)類型和初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,以在可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖;最后,基于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在所述可視化界面中生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖。[0137]與現(xiàn)有技術(shù)中的方法相比,本申請通過對數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,對整個流程進(jìn)行數(shù)據(jù)血緣關(guān)系分析,形成數(shù)據(jù)處理流程的元數(shù)據(jù)溯源圖,將有關(guān)系的目標(biāo)任務(wù)串聯(lián)起來形成對應(yīng)的數(shù)據(jù)和任務(wù)的溯源拓?fù)潢P(guān)系圖,以便用戶根據(jù)溯源拓?fù)潢P(guān)系圖對任務(wù)進(jìn)行有效的管理,實現(xiàn)了數(shù)據(jù)處理的可視化效果。并且數(shù)據(jù)處理流程中集成了數(shù)據(jù)治理生命周期全鏈路來自于不同任務(wù)平臺的、各個階段的數(shù)據(jù)任務(wù),提供了統(tǒng)一的數(shù)據(jù)任務(wù)調(diào)度和監(jiān)控功能,實現(xiàn)了數(shù)據(jù)治理全生命周期數(shù)據(jù)任務(wù)的調(diào)度和監(jiān)控,解決了現(xiàn)有技術(shù)中海量任務(wù)雜亂無章、無法有效治理和維護(hù)的問題。[0138]請參閱圖3,圖3為本申請實施例所提供的一種基于元數(shù)據(jù)管理的可視化處理裝置[0139]接收模塊301,用于接收用戶設(shè)置的數(shù)據(jù)處理流程;其中,所述數(shù)據(jù)處理流程中包括至少一個來自于不同任務(wù)平臺的、能夠?qū)崿F(xiàn)不同功能邏輯的目標(biāo)任務(wù);[0140]元數(shù)據(jù)關(guān)系圖確定模塊302,用于針對于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的任務(wù)類型和初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,以在可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖;其中,所述初始配置信息用于表征所述目標(biāo)任務(wù)的處理方式,所述元數(shù)據(jù)關(guān)系圖用于表征該目標(biāo)任務(wù)的數(shù)據(jù)血緣關(guān)系;[0141]元數(shù)據(jù)溯源圖確定模塊303,用于基于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在所述可視化界面中生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖。[0142]進(jìn)一步的,所述元數(shù)據(jù)關(guān)系圖確定模塊302在基于該目標(biāo)任務(wù)的任務(wù)類型和初始配置信息,對該目標(biāo)任務(wù)進(jìn)行元數(shù)據(jù)關(guān)系注冊,以在可視化界面中生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖時,所述元數(shù)據(jù)關(guān)系圖確定模塊302還用于:[0143]獲取用戶在設(shè)置該目標(biāo)任務(wù)時所確定的至少一個初始配置信息;[0144]根據(jù)該目標(biāo)任務(wù)的任務(wù)類型,在至少一個初始配置信息中獲取至少一個目標(biāo)配置[0145]針對于每個目標(biāo)配置信息,根據(jù)該目標(biāo)配置信息所屬的數(shù)據(jù)屬性,確定該目標(biāo)配置信息在所述元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系;其中,所述連接關(guān)系包括連接線和所述連接線上的箭頭指向;[0146]將所述目標(biāo)配置信息以及該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點添加到所述可視化界面中,并根據(jù)所述目標(biāo)配置信息在所述元數(shù)據(jù)關(guān)系圖中與該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點之間的連接關(guān)系進(jìn)行繪制,以生成該目標(biāo)任務(wù)對應(yīng)的元數(shù)據(jù)關(guān)系圖。[0147]進(jìn)一步的,所述元數(shù)據(jù)溯源圖確定模塊303在用于所述基于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù)的執(zhí)行順序,以及每個目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖,在所述可視化界面中生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖時,所述元數(shù)據(jù)溯源圖確定模塊303還用于:[0148]基于所述數(shù)據(jù)處理流程,確定每個目標(biāo)任務(wù)的執(zhí)行順序;[0149]針對于每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的執(zhí)行順序,從所述數(shù)據(jù)處理流程中確定出在該目標(biāo)任務(wù)之前和/或之后執(zhí)行的相鄰任務(wù);[0150]將該目標(biāo)任務(wù)的元數(shù)據(jù)關(guān)系圖與所述相鄰任務(wù)的元數(shù)據(jù)關(guān)系圖進(jìn)行連接,以生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖。[0151]進(jìn)一步的,所述可視化處理裝置300還包括監(jiān)控模塊,在所述生成所述數(shù)據(jù)處理流程對應(yīng)的元數(shù)據(jù)溯源圖之后,所述監(jiān)控模塊用于:[0152]在執(zhí)行所述數(shù)據(jù)處理流程對應(yīng)的任務(wù)實例時,監(jiān)控每個目標(biāo)任務(wù)的執(zhí)行情況;[0153]針對于每個目標(biāo)任務(wù),基于該目標(biāo)任務(wù)的執(zhí)行情況,在所述元數(shù)據(jù)溯源圖中該目標(biāo)任務(wù)對應(yīng)的拓?fù)涔?jié)點所處的位置上渲染所述執(zhí)行情況對應(yīng)的顯示顏色。[0154]進(jìn)一步的,所述可視化處理裝置300還包括執(zhí)行節(jié)點確定模塊,所述執(zhí)行節(jié)點確定模塊用于:[0155]針對于所述數(shù)據(jù)處理流程中的每個目標(biāo)任務(wù),按照預(yù)先設(shè)定的負(fù)載策略,在預(yù)先配置的至少一個執(zhí)行節(jié)點中確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點,以使所述目標(biāo)執(zhí)行節(jié)點執(zhí)行該目標(biāo)任務(wù)。[0156]進(jìn)一步的,所述執(zhí)行節(jié)點確定模塊在用于按照預(yù)先設(shè)定好的負(fù)載策略,為該目標(biāo)任務(wù)選擇對應(yīng)的目標(biāo)執(zhí)行節(jié)點時,所述執(zhí)行節(jié)點確定模塊用于:[0157]當(dāng)所述負(fù)載策略為隨機(jī)負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點:[0158]對至少一個執(zhí)行節(jié)點進(jìn)行隨機(jī)選取,以確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點;[0159]當(dāng)所述負(fù)載策略為加權(quán)輪詢負(fù)載策略時,通過以下步驟確定出該目標(biāo)任務(wù)對應(yīng)的目標(biāo)執(zhí)行節(jié)點:[0160]針對于每個執(zhí)行節(jié)點,確定該執(zhí)行節(jié)點的可用內(nèi)存信息和可用負(fù)載信息;[0161]利用該執(zhí)行節(jié)點的可用內(nèi)存信息和可用負(fù)載信息進(jìn)行加權(quán)計算,得到該執(zhí)行節(jié)點的可用資源值;[0162]利用每個執(zhí)行節(jié)點的可用資源值對每個執(zhí)行節(jié)點進(jìn)行排序,并將多

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論