免费韩漫无遮漫画,欧美Z0ZO人禽交欧美人禽交 ,男人激烈吮乳吃奶视频免费,GAY男同GV网站播放免费


管理培訓(xùn)搜索
18318889481 13681114876

行業(yè)
| 融合機器學(xué)習(xí)的云監(jiān)控數(shù)據(jù)分析仿真當前您所在的位置:首頁 > 行業(yè) > 新基建 > 工業(yè)物聯(lián)網(wǎng)

(南方電網(wǎng)調(diào)峰調(diào)頻發(fā)電有限公司信息通信分公司,廣東 廣州 510000)

摘 要:為進一步提升云監(jiān)控平臺數(shù)據(jù)分析的準確性和效率,在研究了集成云平臺和分布式計算基礎(chǔ)上,設(shè)計了融合機器學(xué)習(xí)的云監(jiān)控數(shù)據(jù)分析平臺。該平臺包含核心結(jié)構(gòu)和擴展結(jié)構(gòu)2部分,分別用于對小量數(shù)據(jù)及大規(guī)模數(shù)據(jù)進行分析及分布式計算。核心架構(gòu)可分為3層:智能搜索層、應(yīng)用程序接口(API)層和云計算層。這3層相互作用,處理工作負載跟蹤,并監(jiān)視任何異常模式。擴展結(jié)構(gòu)有利于用戶在Hadoop文件系統(tǒng)中存儲數(shù)據(jù),且為用戶提供了高可用性和可擴展的存儲功能。對核心結(jié)構(gòu)及擴展結(jié)構(gòu)進行仿真分析。結(jié)果進一步驗證了云監(jiān)控數(shù)據(jù)分析平臺的有效性及實用性。該平臺為系統(tǒng)CPU及內(nèi)存使用分析過程提供了一定依據(jù)。

關(guān)鍵詞:云監(jiān)控;分布式;數(shù)據(jù)分析;機器學(xué)習(xí);負載預(yù)測;云計算;異常監(jiān)視;智能搜索

0 引言

云監(jiān)控[1-2]涉及監(jiān)控基礎(chǔ)設(shè)施、平臺和定制指標整個過程,可確保系統(tǒng)工作負載在最佳水平運行。云監(jiān)控主要用于分析系統(tǒng)中每個任務(wù)的內(nèi)存使用情況,有助于確定任務(wù)的使用模式,并允許在達到某些閾值時設(shè)置警報,以平衡工作負載并保持高可用性。云監(jiān)控數(shù)據(jù)分析[3]涉及大量信息的查詢和處理操作。在此過程中,需要從任意粒度范圍(例如以分鐘或小時聚合)中檢索特定屬性的數(shù)據(jù),以估計概率分布函數(shù)(probability distribution function,PDF),并預(yù)測未來的工作負載[4]。由于跟蹤的數(shù)量可能很大,隨著跟蹤數(shù)據(jù)的積累,這些操作需要一個可擴展且可靠的云體系結(jié)構(gòu)。

為此,國內(nèi)外學(xué)者針對云監(jiān)控技術(shù)進行了大量研究,并取得了豐碩成果。賴朝安等[5]研究了雙層隨機規(guī)劃的云監(jiān)控平臺定價策略,結(jié)合極點算法建立服務(wù)商與客戶之間的動態(tài)博弈模型。尹學(xué)淵等[6]提出了1種基于虛擬機內(nèi)存實時在線分析的虛擬機監(jiān)控技術(shù),實現(xiàn)了虛擬機細粒度狀態(tài)信息監(jiān)控。楊淑棉等[7]提出了一種基礎(chǔ)設(shè)施即服務(wù)(infrastructure as a service,IaaS)模式下基于物理內(nèi)存分析的實時監(jiān)控取證方法,可實現(xiàn)虛擬機中的異常行為檢測,從而有效防止虛擬主機運行惡意軟件、違法犯罪等問題。上述方法僅針對各自領(lǐng)域的云監(jiān)控平臺進行了研究,無法擴展到其他數(shù)據(jù)集,模型可拓性有待提高。為了允許高級跟蹤數(shù)據(jù)分析,所設(shè)想的云體系結(jié)構(gòu)應(yīng)該適應(yīng)對任意跟蹤數(shù)據(jù)集的訪問。此外,云架構(gòu)需要一個基于萬維網(wǎng)(world wide web,Web)的界面來構(gòu)建結(jié)構(gòu)化的數(shù)據(jù)查詢,并顯示結(jié)果。

為此,本文在研究了集成云平臺和分布式計算基礎(chǔ)上,提出了一種包含雙層結(jié)構(gòu)的云監(jiān)控數(shù)據(jù)分析平臺,并對系統(tǒng)中數(shù)據(jù)密集型跟蹤分析的體系結(jié)構(gòu)和關(guān)鍵技術(shù)進行研究。

1 系統(tǒng)結(jié)構(gòu)

云監(jiān)控數(shù)據(jù)分析平臺體系結(jié)構(gòu)如圖1所示。該結(jié)構(gòu)主要分為2個子系統(tǒng):其一為較小數(shù)據(jù)量提供數(shù)據(jù)分析方法的核心結(jié)構(gòu);其二為分析大型數(shù)據(jù)集提供有效分布式計算算法的擴展結(jié)構(gòu)。

圖1 云監(jiān)控數(shù)據(jù)分析平臺體系結(jié)構(gòu)
Fig.1 Architecture of cloud monitoring data analysis platform

1.1 核心結(jié)構(gòu)

核心架構(gòu)可分為3層:頂層為智能搜索層;中間層為應(yīng)用程序接口(application programming interface,API);底層為云計算層(包括物理接口)。這3層相互作用,進行工作負載跟蹤,并監(jiān)視任何異常模式。

核心結(jié)構(gòu)工作過程如圖2所示。

圖2 核心結(jié)構(gòu)工作過程框圖
Fig.2 Block diagram of core structure working process

智能搜索層為用戶提供了編輯分析、配置參數(shù)、啟動數(shù)據(jù)訪問和處理請求及顯示查詢結(jié)果等功能。該層提供了用戶與云平臺[8]交互的源,并充當客戶端應(yīng)用程序與云平臺通信的API接口。用戶向云平臺發(fā)送服務(wù)請求,一旦認證成功,將在客戶端上生成含有關(guān)分析結(jié)果的信息的查詢結(jié)果。此外,考慮到用戶感興趣的目標不只一個,智能搜索模塊也提供類似于目錄的自動索引功能。

API層充當連接智能搜索層和存儲跟蹤的云計算層的橋梁。API層的核心構(gòu)建在3個模塊上,即搜索模塊、分析包和頁面生成器。需要注意的是,系統(tǒng)所有資源都是通過超文本傳輸協(xié)議(hyper text transfer protocol,HTTP)發(fā)送處理請求。作為響應(yīng),可調(diào)用分析包。分析包利用搜索模塊提取感興趣的數(shù)據(jù)集。然后,搜索模塊通過HTTP,由云平臺的API向云服務(wù)商發(fā)送一個搜索查詢。當返回數(shù)據(jù)后,分析包生成結(jié)果并向客戶端發(fā)送成功響應(yīng)通知。在接收到成功響應(yīng)時,系統(tǒng)將初始化另一個請求,以便通過HTTP協(xié)議繪制該特定數(shù)據(jù)集的預(yù)測數(shù)據(jù)。最后,系統(tǒng)發(fā)送一個生成頁面的請求,并調(diào)用頁面生成器模塊生成分析結(jié)果。

云計算層的數(shù)據(jù)接口主要進行數(shù)據(jù)存儲和訪問,且基于云平臺主要使用切分和復(fù)制實現(xiàn)搜索、索引功能。此外,云計算層還包括眾多物理組件,如交換機、接口、數(shù)據(jù)庫等。

如果用戶想要監(jiān)控數(shù)據(jù)中的異常值,首先與智能搜索層交互,輸入所需的參數(shù)來啟動該過程。同時,智能搜索層交互將帶有指定參數(shù)的HTTP請求發(fā)送到特定Web服務(wù)。當認證成功,該服務(wù)立即建立連接,并從云平臺檢索所需數(shù)量的數(shù)據(jù)。最后,將這些數(shù)據(jù)處理的結(jié)果以頁面形式呈現(xiàn)給用戶。

1.2 擴展結(jié)構(gòu)

云監(jiān)控數(shù)據(jù)分析平臺除核心架構(gòu)外,還擴展了一個額外的組件,以便對大量數(shù)據(jù)集進行復(fù)雜的計算。該組件由多個分布式復(fù)雜計算應(yīng)用程序復(fù)合構(gòu)成,用于管理和調(diào)度用戶應(yīng)用程序。擴展結(jié)構(gòu)包含請求/接收資源管理器、數(shù)據(jù)節(jié)點組件(可連接到其他Hadoop分布式文件系統(tǒng)(hadoop distributed file system,HDFS)數(shù)據(jù)節(jié)點)和服務(wù)協(xié)議這3部分。擴展結(jié)構(gòu)有利于用戶在Hadoop文件系統(tǒng)[9]中存儲數(shù)據(jù),并為用戶提供了高可用性和可擴展的存儲功能。

擴展結(jié)構(gòu)的工作過程如圖3所示。

圖3 擴展結(jié)構(gòu)的工作過程框圖
Fig.3 Block diagram of extended structure working process

與核心結(jié)構(gòu)類似,用戶通過特定的輸入?yún)?shù)訪問數(shù)據(jù)頁面。然后,這些參數(shù)以HTTP請求的形式轉(zhuǎn)發(fā)到API中。API執(zhí)行請求,并將接收到的參數(shù)包裝為JSON消息[10]發(fā)送到云平臺的主節(jié)點。節(jié)點接收JSON消息并將查詢請求提交給云服務(wù)商。需要注意的是,API中的請求發(fā)送模塊將以JSON格式編碼的消息傳遞到云平臺的主節(jié)點。同時,運行在云平臺主節(jié)點上的請求接收器模塊接收消息并對其進行解碼。節(jié)點間的消息傳遞使用高級消息隊列協(xié)議(advanced message queuing protocol,AMQP)[11]執(zhí)行。當成功完成任務(wù)后,云平臺將保存結(jié)果,并通過安全外殼協(xié)議(secure shell,SSH)將結(jié)果傳輸?shù)紸PI,并向用戶發(fā)送一個成功響應(yīng)。此外,API將發(fā)送另一個請求,從而為特定結(jié)果生成查詢頁面。

擴展結(jié)構(gòu)還支持相應(yīng)的機器學(xué)習(xí)庫,如模糊C均值聚類算法[12],通過將跟蹤數(shù)據(jù)劃分成所需的集合來分析跟蹤數(shù)據(jù)。

2 數(shù)據(jù)處理

2.1 數(shù)據(jù)加載

由于現(xiàn)實環(huán)境中的數(shù)據(jù)大多為非結(jié)構(gòu)化數(shù)據(jù),導(dǎo)入系統(tǒng)時沒有直接可用于索引的功能,因此需要設(shè)計高效的數(shù)據(jù)索引方法。本文使用形式化語言自動為每個正在加載的記錄創(chuàng)建唯一id。自動生成的唯一id在架構(gòu)文件中的定義如下所示。

<name=″*″,class=″*″,index=″true″>

<uniqueKey>id<uniqueKey>

該定義中:“*”為省缺值,可自由定義;name為記錄的命名;class為記錄所屬類別;index為true時為可被索引,否則表示不可索引;id為記錄唯一標識。

云平臺支持不同類型的數(shù)據(jù)上傳技術(shù),例如索引處理程序、結(jié)構(gòu)化數(shù)據(jù)的數(shù)據(jù)導(dǎo)入處理程序以及通過網(wǎng)絡(luò)上傳數(shù)據(jù)。

2.2 數(shù)據(jù)查詢

數(shù)據(jù)查詢通過HTTP請求發(fā)送到云平臺,請求包含集合名稱和數(shù)據(jù)量。例如,如果用戶打算從云平臺請求10 000條數(shù)據(jù)記錄,則查詢示例表示如下。

s=SearchOptions();s.query.rows('10000')

該示例中:SearchOptions為查詢操作函數(shù);s為其實例化。

需要注意的是,云平臺僅支持JSON格式的數(shù)據(jù)查詢操作。當查詢完成后,將在HTTP響應(yīng)中返回查詢的數(shù)據(jù)集。返回的數(shù)據(jù)集由分析模塊進一步處理。

3 案例研究

本節(jié)通過案例驗證本文所提模型:通過分析跟蹤數(shù)據(jù),預(yù)測系統(tǒng)工作量,并了解時間序列中的運行模式。系統(tǒng)開發(fā)環(huán)境使用JAVA中的Spring框架作為輸入,開發(fā)架構(gòu)的工作原型,以跟蹤特定時間戳下海量搜索引擎數(shù)據(jù)庫服務(wù)器作業(yè)時的CPU和內(nèi)存使用情況。為簡化仿真過程,作如下假設(shè)。

①任務(wù)或作業(yè)名稱以數(shù)字標志符進行區(qū)分。

②CPU和內(nèi)存的消耗可通過線性變換模擬。

③任意大數(shù)據(jù)集的平均值服從正態(tài)分布。

3.1 核心結(jié)構(gòu)分析過程

本文采用Python庫實現(xiàn)了核心組件分析包中的CPU負載使用情況預(yù)測。

分析考慮10 000個數(shù)據(jù)點的數(shù)據(jù)集,將數(shù)據(jù)塊分成4個子塊,并令每個子塊的持續(xù)時間為L。預(yù)測CPU的負載是指在L的每個周期結(jié)束時,根據(jù)上一個子塊的趨勢及增長對下一個子塊CUP負載進行預(yù)測。最后,利用三次指數(shù)平滑方法對長度為4L的時間序列數(shù)據(jù)進行預(yù)測。圖4中,平滑常數(shù)α=0.2、β=0.2、γ=0.05。

核心結(jié)構(gòu)負載預(yù)測指數(shù)平滑結(jié)果如圖4所示。

圖4 核心結(jié)構(gòu)負載預(yù)測指數(shù)平滑結(jié)果
Fig.4 Exponential smoothing results of core structure load forecasting

3.2 擴展結(jié)構(gòu)分析過程

擴展組件分析結(jié)果如圖5所示。

圖5 擴展組件分析結(jié)果
Fig.5 Extended component analysis results

如前文所示,擴展組件分析時首先使用機器學(xué)習(xí)k-均值聚類算法對時間序列工作負載數(shù)據(jù)進行分類,即將跟蹤數(shù)據(jù)分類為不同的k值。工作負載分類旨在發(fā)現(xiàn)跟蹤數(shù)據(jù)中任務(wù)事件的異常。本節(jié)在106個數(shù)據(jù)點上運行聚類算法,得到不同的k值,即4、8和12。由圖5可知,在監(jiān)控數(shù)據(jù)集中,代表任務(wù)CPU和內(nèi)存使用的大多數(shù)數(shù)據(jù)點的值都相當?shù)?。這些任務(wù)事件平均分別使用約0.001 6和0.003 1CPU和內(nèi)存。另一方面,只有較少的任務(wù)具有較高的CPU和內(nèi)存使用率,即平均分別為0.287和0.018。

4 結(jié)論

為提高云監(jiān)控中數(shù)據(jù)分析能力,本文設(shè)計了包含雙層結(jié)構(gòu)的云監(jiān)控數(shù)據(jù)分析平臺。該平臺主要包含2個子系統(tǒng):其一為較小數(shù)據(jù)量提供數(shù)據(jù)分析方法的核心結(jié)構(gòu);其二為分析大型數(shù)據(jù)集提供有效分布式計算算法的擴展結(jié)構(gòu)。該平臺為系統(tǒng)CPU及內(nèi)存使用分析過程提供了一定依據(jù)。

然而,本文系統(tǒng)在仿真時存在諸多限定,如數(shù)據(jù)集為模擬數(shù)據(jù)、系統(tǒng)運行時未考慮網(wǎng)絡(luò)攻擊等復(fù)雜行為。后續(xù)研究一方面可將大數(shù)據(jù)及人工智能技術(shù)引入系統(tǒng),進一步提升系統(tǒng)預(yù)測能力;另一方面還可研究區(qū)塊鏈、信息安全等技術(shù),以滿足系統(tǒng)數(shù)據(jù)安全及防止數(shù)據(jù)泄漏等需求。


TESG
企業(yè)概況
聯(lián)系我們
專家顧問
企業(yè)文化
黨風建設(shè)
核心團隊
資質(zhì)榮譽
合規(guī)監(jiān)管
部門職責
轉(zhuǎn)創(chuàng)中國
加入轉(zhuǎn)創(chuàng)
經(jīng)濟合作
智庫專家
質(zhì)量保證
咨詢流程
聯(lián)系我們
咨詢
IPO咨詢
投融資咨詢
會計服務(wù)
績效管理
審計和風險控制
競爭戰(zhàn)略
審計與鑒證、估價
企業(yè)管理咨詢
人力資源戰(zhàn)略與規(guī)劃
融資與并購財務(wù)顧問服務(wù)
投資銀行
企業(yè)文化建設(shè)
財務(wù)交易咨詢
資本市場及會計咨詢服務(wù)
創(chuàng)業(yè)與私營企業(yè)服務(wù)
公司治理、合規(guī)與反舞弊
國企改革
價值辦公室
集團管控
家族企業(yè)管理
服務(wù)
數(shù)據(jù)分析
資信評估
投資咨詢
風險及控制服務(wù)
管理咨詢
轉(zhuǎn)型升級服務(wù)
可行性研究咨詢服務(wù)
民企與私人客戶服務(wù)
解決方案
內(nèi)控
稅收內(nèi)部控制
稅收風險管理
內(nèi)控管理師
內(nèi)部控制咨詢
信用研究
信用法制中心
風險與內(nèi)控咨詢
無形資產(chǎn)內(nèi)控
企業(yè)內(nèi)控審計
內(nèi)部控制服務(wù)
內(nèi)部控制評價
內(nèi)部控制體系建設(shè)
內(nèi)部控制智庫
上市公司內(nèi)控
上市公司獨立董事
投行
M&A
資本市場
SPAC
科創(chuàng)板
金融信息庫
IPO咨詢
北交所
ASX
SGX
HKEX
金融服務(wù)咨詢
信用評級
上海證券交易所
NYSE
深圳證券交易所
審計
審計資料下載
法證會計
審計事務(wù)
審計及鑒證服務(wù)
審計咨詢
反舞弊中心
內(nèi)部控制審計
內(nèi)部審計咨詢
國際審計
合規(guī)
銀行合規(guī)專題
合規(guī)管理建設(shè)年
海關(guān)與全球貿(mào)易合規(guī)
數(shù)據(jù)合規(guī)專題
反腐敗中心
反壟斷合規(guī)
反舞弊中心
國際制裁
企業(yè)合規(guī)中心
信用合規(guī)專題
證券合規(guī)專題
合規(guī)中心
金融合規(guī)服務(wù)
反洗錢中心
全球金融犯罪評論
行業(yè)
新基建
文化、體育和娛樂業(yè)
電信、媒體和技術(shù)(TMT)
投城交通事業(yè)部
房地產(chǎn)建筑工程
醫(yī)療衛(wèi)生和社會服務(wù)
可持續(xù)發(fā)展與環(huán)保
全球基礎(chǔ)材料
大消費事業(yè)部
金融服務(wù)業(yè)
化學(xué)工程與工業(yè)
一帶一路
智慧生活與消費物聯(lián)
數(shù)字經(jīng)濟發(fā)展與檢測
食品開發(fā)與營養(yǎng)
先進制造事業(yè)部
能源資源與電力
消費與工業(yè)產(chǎn)品
運輸與物流
酒店旅游餐飲
科學(xué)研究與技術(shù)服務(wù)
政府及公共事務(wù)
化妝品與個人護理
一二三產(chǎn)融合
生物醫(yī)藥與大健康
新能源汽車與安全產(chǎn)業(yè)
法律
法律信息庫
稅法與涉稅服務(wù)
數(shù)字法治與網(wǎng)絡(luò)安全
勞動與人力資源法律
金融與資本市場法律
司法研究所
公司法專題
私募股權(quán)與投資基金
債務(wù)重組與清算/破產(chǎn)
轉(zhuǎn)創(chuàng)國際法律事務(wù)所
轉(zhuǎn)創(chuàng)法信事務(wù)所
財稅
法務(wù)會計
管理會計案例
決策的財務(wù)支持
家族資產(chǎn)和財富傳承
財稅法案例庫
資產(chǎn)評估
財稅信息庫
會計準則
財務(wù)研究所
財政稅收
會計研究所
財稅實務(wù)
投資咨詢
財務(wù)管理咨詢
審計事務(wù)
管理
轉(zhuǎn)創(chuàng)智庫
金融研究所
企業(yè)管理研究所
中國企業(yè)國際化發(fā)展
經(jīng)濟與產(chǎn)業(yè)研究
公司治理
氣候變化與可持續(xù)
ESG中心
管理咨詢
轉(zhuǎn)創(chuàng)國際工程咨詢
轉(zhuǎn)創(chuàng)
咨詢業(yè)數(shù)據(jù)庫
轉(zhuǎn)創(chuàng)網(wǎng)校
生物醫(yī)藥信息庫
建筑工程庫
轉(zhuǎn)創(chuàng)首都
轉(zhuǎn)創(chuàng)教育與可持續(xù)發(fā)展
轉(zhuǎn)創(chuàng)國際廣東 官網(wǎng)
科研創(chuàng)服
中國轉(zhuǎn)創(chuàng)雜志社
創(chuàng)新創(chuàng)業(yè)
轉(zhuǎn)型升級
技術(shù)轉(zhuǎn)移中心
轉(zhuǎn)創(chuàng)中國
中外
粵港澳大灣區(qū)
中國-東盟
一帶一路
澳大利亞
俄羅斯
新加坡
英國
加拿大
新西蘭
香港
美國
中非平臺
開曼群島
法國
歐洲聯(lián)盟
印度
北美洲
18318889481 13681114876
在線QQ
在線留言
返回首頁
返回頂部
留言板
發(fā)送
吉木乃县| 龙门县| 江西省| 遵义县| 平谷区| 福州市| 黎平县| 勃利县| 博野县| 安新县|