北京美信科技公司-BlueSky時(shí)間序列化數(shù)據(jù)庫(kù)案例
bluesky時(shí)序數(shù)據(jù)庫(kù)云/邊/端三個(gè)角度看數(shù)據(jù)的創(chuàng)建和存儲(chǔ)
隨著網(wǎng)絡(luò)的高速發(fā)展,尤其是5g時(shí)代的到來,數(shù)據(jù)越來越多的進(jìn)入云端。那么我們所說的core/edge/endpoint(云/邊/端)分別指的是什么呢?云(core) - 這包括企業(yè)中的計(jì)算數(shù)據(jù)中心和云提供商。它包括各種云計(jì)算,公共云、私有云和混合云。邊(edge) - 邊緣是指不在數(shù)據(jù)中心的企業(yè)級(jí)服務(wù)器和設(shè)備。這包括服務(wù)器機(jī)房、現(xiàn)場(chǎng)服務(wù)器、還有一些較小的數(shù)據(jù)中心,這些數(shù)據(jù)中心位于距離設(shè)備較近的區(qū)域,以加快響應(yīng)。端(endpoint) - 端包括網(wǎng)絡(luò)邊緣的所有設(shè)備,包括個(gè)人電腦、電話、聯(lián)網(wǎng)汽車、可穿戴備以及工業(yè)傳感器等。
bluesky*時(shí)序數(shù)據(jù)庫(kù)發(fā)展史2
基于通用存儲(chǔ)的時(shí)序數(shù)據(jù)庫(kù)
伴隨著大數(shù)據(jù)和hadoop的發(fā)展,時(shí)序數(shù)據(jù)量開始迅速增長(zhǎng),系統(tǒng)業(yè)務(wù)對(duì)于處理時(shí)序數(shù)據(jù)的擴(kuò)展性等方面提出更多的要求。
基于通用存儲(chǔ)而專門構(gòu)建的時(shí)間序列數(shù)據(jù)庫(kù)開始出現(xiàn),它可以按時(shí)間間隔快速
地存儲(chǔ)和處理這些數(shù)據(jù)。像opentsdb,kairosdb等等。
這類時(shí)序數(shù)據(jù)庫(kù)在繼承通用存儲(chǔ)優(yōu)勢(shì)的基礎(chǔ)上,利用時(shí)序的特性規(guī)避部分通用存儲(chǔ)的劣勢(shì),并且在數(shù)據(jù)模型,bluesky時(shí)間序列化數(shù)據(jù)庫(kù)分析報(bào)告,聚合分析方面做了貼合時(shí)序的大量*。
比如opentsdb繼承了hbase的寬表屬性結(jié)合時(shí)序設(shè)計(jì)了偏移量的存儲(chǔ)模型,利用salt緩解熱點(diǎn)問題等等。
然而它也有諸多不足之處,比如低效的全局uid機(jī)制,聚合數(shù)據(jù)的加載不可控,無法處理高基數(shù)標(biāo)簽查詢等等。
bluesky*時(shí)序數(shù)據(jù)庫(kù)關(guān)注的技術(shù)點(diǎn)在哪里?
快速聚合能力。時(shí)序業(yè)務(wù)一個(gè)通用的需求是聚合統(tǒng)計(jì)報(bào)表查詢,bluesky時(shí)間序列化數(shù)據(jù)庫(kù),比如哨兵系統(tǒng)中需要查看近一天某個(gè)接口出現(xiàn)異常的總次數(shù),或者某個(gè)接口執(zhí)行的大耗時(shí)時(shí)間。這樣的聚合實(shí)際上就是簡(jiǎn)單的count以及max,問題是如何能快速的在那么大的數(shù)據(jù)量的基礎(chǔ)上將滿足條件的原始數(shù)據(jù)查詢出來并聚合,bluesky時(shí)間序列化數(shù)據(jù)庫(kù)案例,要知道統(tǒng)計(jì)的原始值可能因?yàn)闀r(shí)間比較久遠(yuǎn)而不在內(nèi)存中哈,因此這可能是一個(gè)非常耗時(shí)的操作。目前業(yè)界比較成熟的方案是使用預(yù)聚合,就是在數(shù)據(jù)寫進(jìn)來的時(shí)候就完成基本的聚合操作。
未來技術(shù)點(diǎn):異常實(shí)時(shí)檢測(cè)、未來預(yù)測(cè)等等。異常實(shí)時(shí)監(jiān)測(cè)主要用來監(jiān)測(cè)實(shí)時(shí)異常點(diǎn),比如服務(wù)器監(jiān)控中對(duì)延遲響應(yīng)慢的請(qǐng)求都會(huì)實(shí)時(shí)監(jiān)控報(bào)警,再比如運(yùn)動(dòng)手環(huán)對(duì)心跳異常監(jiān)測(cè)報(bào)警等;未來預(yù)測(cè)是另一個(gè)非常重要的領(lǐng)域,能夠預(yù)測(cè)未來是一個(gè)很有用的事情,試想,bluesky時(shí)間序列化數(shù)據(jù)庫(kù)解決方案,如果在交通堵塞前3分鐘預(yù)測(cè)到這個(gè)路段要堵并向發(fā)送報(bào)警,就可以一定程度上緩解交通堵塞的問題。而根據(jù)時(shí)間序列來預(yù)測(cè)未來時(shí)間會(huì)發(fā)生的事情是一件看起來水到渠成的事情,這里面會(huì)涉及到機(jī)器學(xué)習(xí)的相關(guān)知識(shí)。
北京美信科技公司-bluesky時(shí)間序列化數(shù)據(jù)庫(kù)案例由北京美信時(shí)代科技有限公司提供。行路致遠(yuǎn),砥礪前行。北京美信時(shí)代科技有限公司致力成為與您共贏、共生、共同前行的戰(zhàn)略伙伴,更矢志成為軟件開發(fā)具有競(jìng)爭(zhēng)力的企業(yè),與您一起飛躍,共同成功!