IT小白向大數據領(lǐng)域邁進(jìn)
掌握實(shí)用技能
增長(cháng)經(jīng)驗
搭建完善的項目
接觸廣泛技術(shù)面
學(xué)習前沿技術(shù)
突破職業(yè)瓶頸
掌握核心技能
Linux、Hadoop
Java、Hive
Flume、Kafka
等基礎框架
深入了解保險業(yè)務(wù)流程
學(xué)會(huì )構建保險行業(yè)的數據處理平臺
充分掌握多種大數據技術(shù)框架的協(xié)調應用
熟練應用數倉建模理論
該項目涉及數十個(gè)Shell腳本、若干業(yè)務(wù)數據表格和數十張保險大數據表格,以及幾十個(gè)保險業(yè)務(wù)統計指標。
基于數倉建模理論,該項目執行完整的數倉搭建過(guò)程,包括數據調研、明確數據域、構建業(yè)務(wù)總線(xiàn)矩陣、設計維度模型、明確統計指標、設計匯總模型以及分層構建數倉。
數倉分層合理化,降低了數據之間的耦合度,提高了數據分析效率,同時(shí)也降低了數據計算成本。
該項目采用實(shí)戰式數據模擬策略,模擬生成全面的原始數據,并進(jìn)行了真實(shí)數據采集工作。
采用了流行數據采集框架DataX采集業(yè)務(wù)數據,并提供詳細的配置文件和腳本解讀,以幫助掌握更多的腳本編寫(xiě)技巧。
該項目使用Maxwell監控業(yè)務(wù)數據變動(dòng)情況,實(shí)現了更實(shí)時(shí)、更準確的數據采集,靈活使用Maxwell框架,全面掌握使用技巧。
基于業(yè)務(wù)總線(xiàn)矩陣構建了數據倉庫DWD層,完成了周期型快照事實(shí)表和累積型快照事實(shí)表的搭建和數據裝載。
基于業(yè)務(wù)總線(xiàn)矩陣構建了數據倉庫DIM層。
基于指標體系分析構建了DWS層,將相同粒度、統計周期的派生指標整合統計為寬表,提高計算結果復用性。
安裝部署了廣受歡迎的工作流調度系統DolphinScheduler,實(shí)現了數據倉庫搭建全流程的定時(shí)自動(dòng)化調度,同時(shí)還可進(jìn)行故障自動(dòng)郵件告警。
采用SuperSet對從RDBMS數據庫中調度采集的結果數據進(jìn)行了多種圖表和儀表盤(pán)的可視化展示。
針對企業(yè)級數據倉庫的海量數據計算業(yè)務(wù),進(jìn)行了全面的性能調優(yōu),包括CPU配置、內存分配、任務(wù)提交和任務(wù)執行計劃等方面,以提高數據計算效率。