河北金融(查詢提速!河北幸福消費(fèi)金融基于 Apache Doris 構(gòu)建實(shí)時(shí)數(shù)倉(cāng)技術(shù))

時(shí)間:2023-08-07 15:12:06 閱讀:3

查詢提速!河北幸福消耗金融基于 Apache Doris 構(gòu)建及時(shí)數(shù)倉(cāng)武藝

作者河北幸福消耗金融 信息科技部

操持 | 李冬梅

隨著河北幸福消耗金融的客戶數(shù)目和放貸金額持續(xù)上升,怎樣依托大數(shù)據(jù)、數(shù)據(jù)分析等武藝來(lái)提供更好決定支持、提高事情聽(tīng)從和用戶體驗(yàn),成為了如今亟需處理的成績(jī)。基于此,公司決定搭建數(shù)據(jù)中臺(tái),從基于 TDH 的離線數(shù)倉(cāng)再到基于 Apache Doris 的及時(shí)數(shù)倉(cāng),終極一致了數(shù)據(jù)出口,提升了數(shù)據(jù)質(zhì)量,并完成查詢速率近 400 倍的提升。本文將具體為各位分享河北幸福消耗金融數(shù)據(jù)中臺(tái)搭建履歷和使用實(shí)踐,渴望為其他企業(yè)帶來(lái)一些多益的參考。

河北幸福消耗金融股份僅限公司由張家口銀行倡導(dǎo)設(shè)立,是 2017 年 6 月正式開(kāi)業(yè)的舉國(guó)第 22 家、河北省首家消耗金融公司,主要面向一局部客戶發(fā)放最高額不凌駕 20 萬(wàn)元的普惠、小額、信譽(yù)消耗存款。現(xiàn)在公司辦事地區(qū)掩蓋舉國(guó) 32 個(gè)省級(jí)單位,相繼獲評(píng)為國(guó)度封建武藝部認(rèn)定的舉國(guó)高新武藝企業(yè)、河北省科技型中小企業(yè)和石家莊市科技“小巨人”企業(yè)。


隨著客戶數(shù)目和放貸金額持續(xù)上升,怎樣依托大數(shù)據(jù)、數(shù)據(jù)分析等武藝,為各業(yè)務(wù)線職員提供更好的決定支持,怎樣提高事情聽(tīng)從、為客戶提供更佳的使用體驗(yàn),成為了如今亟需處理的成績(jī)。具體需求如下:


  • 高管看板類:搭建高管駕駛艙協(xié)助高層快速了解公司如今的全體策劃情況,駕駛艙集周全業(yè)務(wù)線數(shù)據(jù),包含及時(shí)業(yè)務(wù)目標(biāo)和離線業(yè)務(wù)目標(biāo),在該場(chǎng)景下我們渴望查詢后果可以在 毫秒內(nèi)前往,便于辦理層舉行高效決定。
  • 及時(shí)變量類:為給風(fēng)控決定提供及時(shí)支持,需在 500ms 內(nèi)前往全產(chǎn)物線查詢后果,并可基于哀求、授信、關(guān)聯(lián)人、逾期以及還款等基本信息,盤(pán)算產(chǎn)物級(jí)、客戶級(jí)和欠條級(jí)高維度衍生變量 。
  • 決定分析類:為給各業(yè)務(wù)部分提供業(yè)務(wù)分析和決定支持,需在秒級(jí)前往年、季、月多維度的主題報(bào)表,特別是風(fēng)險(xiǎn)部分,必要從放款開(kāi)頭回溯全生命周期的運(yùn)營(yíng)情況;而計(jì)財(cái)部分,則必要經(jīng)過(guò)以往策劃數(shù)據(jù)體現(xiàn),猜測(cè)將來(lái)的紅利,數(shù)據(jù)量大且邏輯繁復(fù)。
  • 風(fēng)險(xiǎn)建模類:提供全量、明細(xì)級(jí)的數(shù)據(jù),用于風(fēng)險(xiǎn)建模的變量跑批,滿意對(duì)客戶評(píng)分評(píng)級(jí),到場(chǎng)審批、授信等中心業(yè)務(wù)的要求,以支持業(yè)務(wù)目標(biāo)的觀察、投入產(chǎn)出分析、變量挑選以及決定訂定等業(yè)務(wù)需求。
  • 羈系合規(guī)類:為確保業(yè)務(wù)切合干系執(zhí)法法例、行業(yè)標(biāo)準(zhǔn)等標(biāo)準(zhǔn),必要依據(jù)羈系合規(guī)的要求舉行合規(guī)子體系的定期上報(bào),上報(bào)的數(shù)據(jù)分為目標(biāo)匯總項(xiàng)數(shù)據(jù)和明細(xì)數(shù)據(jù)。


為了滿意不同業(yè)務(wù)線對(duì)數(shù)據(jù)分析的需求,公司開(kāi)頭搭建數(shù)據(jù)中臺(tái)并對(duì)舉行優(yōu)化。最初,公司基于商業(yè)化產(chǎn)物 TDH 搭建了離線數(shù)倉(cāng),以滿意基本數(shù)據(jù)分析需求。但是,隨著數(shù)據(jù)時(shí)效性的提高和及時(shí)分析需求增長(zhǎng),公司急迫必要搭建一款及時(shí)數(shù)據(jù)貨倉(cāng)。因此引入了 Apache Doris 并在此基本上搭建了及時(shí)數(shù)倉(cāng),終極創(chuàng)建了一個(gè)高效、安定的數(shù)據(jù)中臺(tái)。本文將具體為各位分享河北幸福消耗金融數(shù)據(jù)中臺(tái)搭建履歷和使用實(shí)踐,渴望為其他企業(yè)帶來(lái)一些多益的參考。

基于 TDH 的離線數(shù)倉(cāng)

因早前主要處理的是離線分析需求,優(yōu)先基于 TDH 集群建立離線數(shù)倉(cāng)。經(jīng)過(guò) Sqoop、DataX 將高明數(shù)據(jù)收羅到離線數(shù)倉(cāng),顛末標(biāo)準(zhǔn)化數(shù)據(jù)洗濯,完成數(shù)倉(cāng)的平常跑批。離線數(shù)倉(cāng)架構(gòu)圖如下所示:



隨著數(shù)據(jù)積累和業(yè)務(wù)職員對(duì)數(shù)據(jù)時(shí)效的要求越來(lái)越高,基于 TDH 離線平臺(tái)的一些成績(jī)漸漸顯現(xiàn)出來(lái):


  • 數(shù)據(jù)收羅同步時(shí)效慢:離線數(shù)倉(cāng)抽數(shù)東西依托于 Sqoop、DataX 等組件,而受限于調(diào)治周期,此類東西收羅的數(shù)據(jù)一定有滯后性。
  • 資源分歧大:離線數(shù)倉(cāng)逐日跑批時(shí)間跨度大,尋常從清早到中午 5 點(diǎn)支配,這將招致跑批和即席查詢之間產(chǎn)生資源分歧,影響業(yè)務(wù)職員的使用體驗(yàn)。
  • 查詢分析慢:在使用離線平臺(tái)舉行自界說(shuō)統(tǒng)計(jì)分析和數(shù)據(jù)探究時(shí),查詢分析呼應(yīng)速率慢、時(shí)效性難以保證,嚴(yán)峻影響事情聽(tīng)從。
  • T+1 延長(zhǎng)高:各業(yè)務(wù)線對(duì)及時(shí)數(shù)據(jù)處理的需求在漸漸增多,T+1 的數(shù)據(jù)以前無(wú)法順應(yīng)數(shù)據(jù)快速獲取和產(chǎn)生業(yè)務(wù)代價(jià)的訴求。
  • 報(bào)表定制周期長(zhǎng):報(bào)表定制化開(kāi)發(fā)有固有的迭代周期,難以滿意業(yè)務(wù)職員對(duì)數(shù)據(jù)的機(jī)動(dòng)多樣的分析探究。
  • 煙囪效應(yīng):定期上報(bào)數(shù)據(jù)時(shí),數(shù)據(jù)中臺(tái)必要從多個(gè)業(yè)務(wù)體系中拉取數(shù)據(jù)。當(dāng)業(yè)務(wù)體系產(chǎn)生變動(dòng)后,會(huì)觸及上述干系的報(bào)送子體系,構(gòu)成煙囪效應(yīng)。

武藝選型

為了處理上述成績(jī),我們急迫必要一款 MPP 引擎來(lái)構(gòu)建及時(shí)數(shù)倉(cāng)。關(guān)于新引擎我們有幾個(gè)基本的要求:起首,必要簡(jiǎn)便易上手,以便團(tuán)隊(duì)快速把握和使用;其次,必要具有強(qiáng)壯的數(shù)據(jù)導(dǎo)入才能,以便快速高效地導(dǎo)入海量數(shù)據(jù);同時(shí),必要兼容離線數(shù)倉(cāng)干系東西,以便與現(xiàn)有的數(shù)據(jù)處理東西和武藝體系無(wú)縫銜接;別的,搭建和切換本錢(qián)也必要低,以便快速擺設(shè)使用和舉行擴(kuò)縮容;最初,它必要具有較好的并發(fā)才能和精良的查詢功能,以便支持高并發(fā)、繁復(fù)查詢等業(yè)務(wù)場(chǎng)景的需求。


在以上選型要求驅(qū)動(dòng)下,我們對(duì)現(xiàn)在比力盛行的 ClickHouse 與 Doris 舉行了體系的調(diào)研,此中 Apache Doris 更切合我們的選型的要求,具體緣故如下:


  • 擺設(shè)本錢(qián)低:Doris 接納分布式武藝架構(gòu),擺設(shè)只需兩個(gè)歷程,不依托其他體系,在線集群擴(kuò)縮容,主動(dòng)抄本修復(fù),擺設(shè)及使用本錢(qián)較低。
  • 快速上手使用:Doris 接納主流的分區(qū)分桶計(jì)劃思緒,索引布局與 MySQL 的思緒相似,干系職員在使用 Doris 時(shí)無(wú)需學(xué)習(xí)多量的新知識(shí)。比擬之下,ClickHouse 在建庫(kù)建表必要分散指定典范,使用流程比擬力較繁瑣,上手難度也比力高。
  • 東西兼容:業(yè)務(wù)職員通常使用 TDH 的客戶端東西 WaterDrop 舉行離線數(shù)倉(cāng)查詢,Doris 經(jīng)過(guò)標(biāo)準(zhǔn)協(xié)議鏈接可完善兼容 WaterDrop,而 ClickHouse 無(wú)法兼容。
  • 數(shù)據(jù)生態(tài)圈豐厚:Doris 數(shù)據(jù)生態(tài)圈豐厚,與 Flink、Kafka 等組件團(tuán)結(jié)度較高,同時(shí)支持聯(lián)邦查詢,提供了豐厚的數(shù)據(jù)導(dǎo)入和接入辦法,可以滿意多場(chǎng)景下的數(shù)據(jù)處理需求。
  • 高并發(fā)才能:我們對(duì) Doris 舉行了功能壓力測(cè)試,在高并發(fā)和大數(shù)據(jù)量的情況下,Doris 體現(xiàn)出較好的功能和安定性,可以滿意不同業(yè)務(wù)場(chǎng)景的需求。
  • 社區(qū)活潑度高:Doris 社區(qū)十分活潑,有多量的開(kāi)發(fā)者和用戶到場(chǎng)此中,提供了豐厚的武藝支持息爭(zhēng)決方案。同時(shí) Doris 社區(qū)提供了全盤(pán)的文檔和材料,便利用戶學(xué)習(xí)和使用 Doris。別的,SelectDB 為社區(qū)提供了一支全職專業(yè)的武藝團(tuán)隊(duì)為社區(qū)用戶提供辦事與支持,任何成績(jī)均可取得快速呼應(yīng)。

基于 Doris 的及時(shí)數(shù)據(jù)貨倉(cāng)

在離線數(shù)倉(cāng)的基本上,使用 Doris 團(tuán)結(jié) CDH 集群、Airflow 集群搭建了及時(shí)數(shù)倉(cāng),及時(shí)數(shù)倉(cāng)的數(shù)據(jù)泉源主要為離線數(shù)倉(cāng)和 MySQL,使用 Flink CDC 團(tuán)結(jié) PyFlink(使用 Python 調(diào)用 Flink 的 API,簡(jiǎn)稱 PyFlink)將 MySQL 中的數(shù)據(jù)及時(shí)地收羅到中心盤(pán)算引擎 Doris 中(后文將具體先容),表層為 Airflow 分布式調(diào)治體系,可以將及時(shí)職責(zé)舉行常規(guī)化的調(diào)治運(yùn)維。我們對(duì) Doris 引擎舉行了基本數(shù)倉(cāng)分層,數(shù)據(jù)顛末各層處理后一致為各場(chǎng)景提供數(shù)據(jù)辦事。



基于 Doris 提供的豐厚的導(dǎo)入辦法,我們可以快速將離線數(shù)倉(cāng)中的及時(shí)數(shù)據(jù)洗濯整合接入到 Doris 集群中,完成數(shù)據(jù)的快速遷徙。現(xiàn)在我們以前將基于 TDH 的查詢分析和數(shù)據(jù)探究辦事全部轉(zhuǎn)移到 Doris 引擎上,借助 Doris 引擎快速盤(pán)算的才能和精良的查詢功能,可以更高效地舉行數(shù)據(jù)處理和分析,業(yè)務(wù)處理速率和聽(tīng)從取得明顯提升。


以某 SQL 為例,該 SQL 主要使用在信貸審批場(chǎng)景。我們比力了原有架構(gòu)和新架構(gòu)從十萬(wàn)、萬(wàn)萬(wàn),億級(jí)別的三個(gè)大表中的查詢前往速率。后果體現(xiàn),在已往 TDH 架構(gòu)中實(shí)行查詢必要 11 分 30 秒才可前往后果,而在基于 Doris 的新架構(gòu)中僅必要 1.7 秒即可前往后果,速率提升近 400 倍


數(shù)據(jù)范圍:



原有離線數(shù)倉(cāng):必要 11 分 30 秒才可前往后果



基于 Doris 的新數(shù)倉(cāng):優(yōu)化查詢后僅必要 1.7 秒即可前往后果,偶爾乃至可以 1 秒內(nèi)前往。


使用實(shí)踐

及時(shí)數(shù)據(jù)歸集

公司的業(yè)務(wù)體系通常是依照產(chǎn)物舉行庫(kù)區(qū)分,各個(gè)產(chǎn)物表布局堅(jiān)持一律。而及時(shí)數(shù)倉(cāng)中心功效就是依托 Doris 豐厚的導(dǎo)入才能,將疏散的庫(kù)對(duì)應(yīng)的相反的邏輯表歸集到 Doris 下的同一個(gè)邏輯表上,搜集后的數(shù)據(jù)也能在羈系主題層面舉行全體調(diào)停,制止煙囪效應(yīng)的產(chǎn)生。搜集的及時(shí)數(shù)據(jù)進(jìn)入數(shù)倉(cāng)后,會(huì)主動(dòng)觸發(fā)衍生變量的主動(dòng)盤(pán)算,更新衍生變量的值。而衍生變量的匯總值在一個(gè)單獨(dú)的表中,當(dāng)舉行查詢時(shí),可以完成毫秒級(jí)別的查詢呼應(yīng)。


在舉行及時(shí)數(shù)倉(cāng)歸集時(shí),起首必要確定 FlinkCDC、Flink 、Flink on Yarn、Apache Doris 等中心組件的版本號(hào),接著基于 PyFlink 舉行產(chǎn)物化主動(dòng)接入及時(shí)數(shù)倉(cāng)的建立。具體利用如下:


  • 在數(shù)據(jù)層面,將業(yè)務(wù)體系數(shù)據(jù)庫(kù)依照水安然垂直舉行切分,以提升讀寫(xiě)功能并增長(zhǎng)高可用性。
  • 在數(shù)倉(cāng)層面,我們對(duì)業(yè)務(wù)表的數(shù)據(jù)舉行了維度搜集,以便舉行更好的一致匯總分析。
  • 在數(shù)據(jù)接入方面,我們必要高效地接入現(xiàn)有業(yè)務(wù)體系的存量數(shù)據(jù),并持續(xù)安定地接入增量數(shù)據(jù)。


別的,我們還提供了標(biāo)準(zhǔn)化的接入方案和接口,以滿意不同業(yè)務(wù)場(chǎng)景的需求。


使用步調(diào):


1、接入設(shè)置表:設(shè)置歸集的業(yè)務(wù)庫(kù)表的干系信息



2、調(diào)治體系擺設(shè):經(jīng)過(guò)調(diào)治體系擺設(shè)及時(shí)歸集的職責(zé)



3、職責(zé)常規(guī)運(yùn)維:我們對(duì)職責(zé)上線、啟動(dòng)、中止和特別規(guī)復(fù)處理等功效舉行了高度封裝,并與分布式調(diào)治體系 Airflow 舉行了深度集成和交融。使用職員不必體貼底層細(xì)節(jié),可以輕松地將 MySQL 表一鍵遷徙到 Doris,完成存量和增量數(shù)據(jù)的主動(dòng)化遷徙。經(jīng)相反,社區(qū)現(xiàn)在已公布了 Doris-Flink-Connector 1.4.0 版本,該版本集成了 Flink CDC,可以完成了從 MySQL 等干系型數(shù)據(jù)庫(kù)到 Apache Doris 的一鍵整庫(kù)同步。

數(shù)據(jù)質(zhì)量監(jiān)控

離線數(shù)倉(cāng)存在種種數(shù)據(jù)質(zhì)量成績(jī),這些成績(jī)通常在數(shù)據(jù)跑批時(shí)才會(huì)暴顯露來(lái),招致數(shù)據(jù)修復(fù)時(shí)間窗口急劇被緊縮。為了處理這個(gè)成績(jī),我們使用 Doris 創(chuàng)建了數(shù)據(jù)質(zhì)量監(jiān)控體系,同時(shí)將離線數(shù)倉(cāng)的數(shù)據(jù)質(zhì)量監(jiān)控模子遷徙到 Doris 。基于該體系可以及時(shí)監(jiān)控業(yè)務(wù)目標(biāo)和數(shù)據(jù)質(zhì)量,并在發(fā)覺(jué)成績(jī)時(shí)及時(shí)舉行人工干涉或報(bào)警,提高離線數(shù)倉(cāng)跑批的安定性和聽(tīng)從。別的當(dāng)及時(shí)數(shù)倉(cāng)獲取歸集后的數(shù)據(jù)后,可經(jīng)過(guò)數(shù)據(jù)質(zhì)量監(jiān)控體系的校驗(yàn)端正第一時(shí)間對(duì)數(shù)據(jù)質(zhì)量舉行及時(shí)反省,確保數(shù)據(jù)歸集的準(zhǔn)確性。



現(xiàn)在我們以前將 30% 的數(shù)據(jù)監(jiān)控目標(biāo)和 35 個(gè)業(yè)務(wù)目標(biāo)遷徙到 Doris 及時(shí)集群上,每月可告捷規(guī)避成績(jī) 3 次以上,好效提升了離線數(shù)倉(cāng)跑批的數(shù)據(jù)質(zhì)量。后續(xù)我們將持續(xù)將更多的數(shù)據(jù)監(jiān)控目標(biāo)和業(yè)務(wù)目標(biāo)遷徙到 Doris 集群中,以進(jìn)一步提高數(shù)據(jù)處理的聽(tīng)從和質(zhì)量。

數(shù)據(jù)聯(lián)邦查詢

各業(yè)務(wù)條線的中心數(shù)據(jù)存儲(chǔ)在不同典范的數(shù)據(jù)庫(kù)中,如 MySQL、Hive、ES 等。Apache Doris 1.2 版本提供的 Multi Catalog 功效可以一致數(shù)據(jù)查詢出口、完成聯(lián)邦查詢,為數(shù)據(jù)分析提供了極大的便宜。同時(shí),借助 Doris 的歷久化才能,可以經(jīng)過(guò)外表的辦法快速同步其他數(shù)據(jù)源數(shù)據(jù),便利快捷。別的,經(jīng)過(guò) Apache Doris 聚合查詢、向量化引擎等武藝的加持,我們真正完成了高效的數(shù)據(jù)一致流派,提高了數(shù)據(jù)分析的聽(tīng)從

優(yōu)化履歷

負(fù)載均衡

隨著 Doris 接入的業(yè)務(wù)量不休增長(zhǎng),F(xiàn)E 的負(fù)載也在不休增長(zhǎng)。為了完成 Doris 的高可用性,我們?cè)鲩L(zhǎng)了 FE 節(jié)點(diǎn)數(shù),在多個(gè) FE 節(jié)點(diǎn)上擺設(shè)負(fù)載均衡層。我們選擇基于 Nginx TCP 反向署理的辦法來(lái)構(gòu)建 FE 的負(fù)載均衡,好效地完成了 FE 人物之間的負(fù)載均衡。具體設(shè)置辦法如下:


查詢優(yōu)化

如今審批體系的業(yè)務(wù)數(shù)據(jù)歷久化在干系型數(shù)據(jù)庫(kù) MySQL 中,累計(jì)總進(jìn)件量將近 2.8 億。為了應(yīng)對(duì)日益變大的的數(shù)據(jù)成績(jī),業(yè)務(wù)體系的數(shù)據(jù)庫(kù)接納了分表和數(shù)據(jù)歸檔的計(jì)劃思緒。但是在業(yè)務(wù)上,我們?nèi)员匾獙?duì)全量數(shù)據(jù)舉行業(yè)務(wù)查詢,并且時(shí)效要求在 3 秒內(nèi)前往后果。以下是查詢需求的籠統(tǒng)分類:


  • 以“哀求編號(hào)”,“客戶編號(hào)”,“身份證號(hào)”,“中心客戶號(hào)”中的一個(gè)或多個(gè)作為查詢條件舉行查詢
  • 以“哀求日期”或“更新日期”中的一個(gè)條件,團(tuán)結(jié)“姓名”、“哀求典范”、“進(jìn)件渠道”、“白名單渠道”、“決定階段”、”審批典范”、”審批后果”等構(gòu)成復(fù)核條件做查詢
  • 以“哀求日期”或“更新日期”中的隨意一個(gè)為條件,對(duì)近一周的審批明細(xì)數(shù)據(jù)舉行查詢查詢


為了滿意以上查詢場(chǎng)景的需求,我們將審批進(jìn)件數(shù)據(jù)團(tuán)結(jié) Doris 引擎的分區(qū)分桶武藝、布隆過(guò)濾器和位圖索引舉行公道的計(jì)劃,終極全體完成了滿意業(yè)務(wù)上 3 秒內(nèi)的查詢聽(tīng)從需求。


優(yōu)化戰(zhàn)略:


分區(qū):apply_time


分桶:ID、database_name、table_name


布隆索引:id_number, bhb_customer_id, customer_name, customer_id, serial_no


位圖索引:apply_source,white_channel,approval_result,approval_status,product_type,decision_stage


基于上述查詢的壓測(cè)目標(biāo)后果如下:


運(yùn)維辦理



經(jīng)過(guò) Doris 提供的 Prometheus 和 Grafana 可以快速獲取 Doris 集群的全體康健情況以及各個(gè)人物的多方相貌標(biāo)值。同時(shí)我們還將監(jiān)控平臺(tái)與公司一致告警平臺(tái)舉行二次交融,告警平臺(tái)可以經(jīng)過(guò) API 獲取 Prometheus 的基本目標(biāo)值與閾值舉行比力,從而觸發(fā)不同級(jí)別的報(bào)警大概到達(dá)辦事主動(dòng)重啟。別的,我們?cè)?FE 和 BE 辦事級(jí)別上完成職責(zé)的主動(dòng)運(yùn)維,確保在辦事特別時(shí)可以主動(dòng)拉起,確保中心折務(wù)的可用性。

總結(jié)收益

Doris 以前在公司內(nèi)里取得了廣泛的使用,現(xiàn)在已搭建數(shù)十臺(tái)集群范圍,為公司帶來(lái)了以下收益:


  • 數(shù)據(jù)處理時(shí)效提升:數(shù)據(jù)處理的時(shí)效從 T+1 到及時(shí),處理了離線數(shù)據(jù)延長(zhǎng)的成績(jī)。
  • 秒級(jí)查詢呼應(yīng):借助 Doris 分區(qū)分桶、物化視圖、布隆索引等功效舉行查詢優(yōu)化,即席查詢的速率從原先的 20 分鐘支配低落到分鐘乃至秒級(jí)呼應(yīng),相較之前有近 400 倍的速率提升。
  • 一致查詢出口:依托于 Doris 強(qiáng)壯的導(dǎo)入才能和 Multi Catalog 功效告捷將各業(yè)務(wù)庫(kù)的數(shù)據(jù)整合匯總到 Doris 中,由 Doris 一致提供數(shù)據(jù)查詢及分析辦事,極大的提升了查詢分析呼應(yīng)聽(tīng)從。
  • 提升數(shù)據(jù)質(zhì)量:基于 Doris 創(chuàng)建了數(shù)據(jù)質(zhì)量監(jiān)控體系,現(xiàn)在我們以前將 30% 的數(shù)據(jù)監(jiān)控目標(biāo)和 35 個(gè)業(yè)務(wù)目標(biāo)遷徙到 Doris 及時(shí)集群上,好效提升了離線數(shù)倉(cāng)跑批的數(shù)據(jù)質(zhì)量。


綜上所述,Doris 在公司內(nèi)里的廣泛使用,為我們帶來(lái)了多方面的收益,助力企業(yè)提升數(shù)據(jù)分析聽(tīng)從、低落數(shù)據(jù)辦理本錢(qián)、完成一致、及時(shí)、高效的數(shù)據(jù)中臺(tái)建立,為業(yè)務(wù)向好提高注入了新的動(dòng)力。


將來(lái)我們將持續(xù)擴(kuò)展 Doris 的使用范圍,在及時(shí)、功能、時(shí)效要求更高的業(yè)務(wù)范疇發(fā)力,其次我們還將實(shí)驗(yàn)使用 Doris 更多的功效及新特性,一方面深化 Doris 在公司的使用,另一方面我們會(huì)將真實(shí)的使用體驗(yàn)反應(yīng)到社區(qū),協(xié)助 Doris 進(jìn)一步迭代優(yōu)化。


活動(dòng)保舉:

2023年9月3-5日,「QCon舉世軟件開(kāi)發(fā)大會(huì)·北京站」 將在北京?富力萬(wàn)麗旅店舉行。此次大會(huì)以「動(dòng)身·AIGC軟件工程厘革」為主題,操持了大前端交融提效、大模子使用落地、面向 AI 的存儲(chǔ)、AIGC 海潮下的研發(fā)效能提升、LLMOps、異構(gòu)算力、微辦事架構(gòu)辦理、業(yè)務(wù)寧?kù)o武藝、構(gòu)建將來(lái)軟件的編程言語(yǔ)、FinOps 等近30個(gè)出色專題。扣問(wèn)購(gòu)票可接洽票務(wù)司理 18514549229(微信同手機(jī)號(hào))。

版權(quán)聲明:本文來(lái)自互聯(lián)網(wǎng)整理發(fā)布,如有侵權(quán),聯(lián)系刪除

原文鏈接:http://m.avtt22014.comhttp://m.avtt22014.com/shenghuojineng/32383.html


Copyright ? 2021-2022 All Rights Reserved 備案編號(hào):閩ICP備2023009674號(hào) 網(wǎng)站地圖 聯(lián)系:dhh0407@outlook.com

主站蜘蛛池模板: 无限韩国视频免费播放| 精品伊人久久大线蕉地址| 无码精品a∨在线观看中文| 国产gaysexchina男同menxnxx| 中文字幕一区二区三区人妻少妇| 美女**视频一级毛片| 女人18毛片水真多免费播放| 亚洲精品成人久久| www一区二区| 日本www视频| 你懂的电影在线| 1000部啪啪未满十八勿入免费| 日韩第一页在线| 同性女电影三级中文字幕| AV中文无码乱人伦在线观看| 欧美在线一级视频| 国产剧情麻豆剧果冻传媒视频免费| 久久一区二区三区99| 精品国产AV色欲果冻传媒| 国产线路中文字幕| 久久精品国产99精品国产亚洲性色| 美女被的在线网站91| 在线观看免费大黄网站| 亚洲三级在线视频| 美女露胸视频网站| 国产麻豆成91| 久久国产精品久久精| 精品综合久久久久久蜜月| 国产色无码精品视频国产| 久久亚洲精品中文字幕三区| 男生和女生污污的视频| 国产福利在线导航| 两腿之间的私密图片| 欧美成人免费观看| 国产一区二区不卡老阿姨| 99精品视频在线视频免费观看| 杨玉环三级dvd| 免费观看我爱你电影| 1000部拍拍拍18免费网站| 放荡的女老板bd中文字幕| 亚洲欧美国产va在线播放|