課程簡介
本課程從大數(shù)據(jù)技術(shù)以及Hadoop實(shí)戰(zhàn)的角度,結(jié)合理論和實(shí)踐,全方位地介紹Hadoop這一高性能處理大數(shù)據(jù)工具的開發(fā)技巧。本課程涉及的主題包括:Hadoop分布式文件系統(tǒng)及Hadoop的I/O;MapReduce的的工作機(jī)制、類型和格式;如何構(gòu)建和管理Hadoop集群;Pig Latin語言的使用技巧;Hive數(shù)據(jù)倉庫工具介紹;HBase和Zookeeper工具的使用和管理;開源數(shù)據(jù)采集工具sqoop。
教學(xué)過程中還提供了案例分析來幫助學(xué)員了解如何用Hadoop系列工具來解決具體的問題,并介紹了從大數(shù)據(jù)中挖掘出有價(jià)值的信息的關(guān)鍵。本課程不是一個(gè)泛泛的理論性、概念性的介紹課程,而是針對問題討論解決方案的深入課程。教師對于上述領(lǐng)域有深入的理論研究與實(shí)踐經(jīng)驗(yàn),在課程中將會針對這些問題與學(xué)員一起進(jìn)行研究,在關(guān)鍵點(diǎn)上還會搭建實(shí)驗(yàn)環(huán)境進(jìn)行實(shí)踐研究,以加深對于這些解決方案的理解。
目標(biāo)收益
1.深刻理解在“互聯(lián)網(wǎng)+”時(shí)代下大數(shù)據(jù)的產(chǎn)生背景、發(fā)展歷程和演化趨勢;
2.了解業(yè)界市場需求和國內(nèi)外最新的大數(shù)據(jù)技術(shù)潮流,洞察大數(shù)據(jù)的潛在價(jià)值;
3.理解大數(shù)據(jù)項(xiàng)目解決方案及業(yè)界大數(shù)據(jù)應(yīng)用案例,從而為企業(yè)在大數(shù)據(jù)項(xiàng)目中的技術(shù)選型及技術(shù)架構(gòu)設(shè)計(jì)提供決策參考;
4.掌握業(yè)界最流行的Hadoop與Spark大數(shù)據(jù)技術(shù)體系;
5.掌握大數(shù)據(jù)采集技術(shù);
6.掌握大數(shù)據(jù)分布式存儲技術(shù);
7.掌握NoSQL與NewSQL分布式數(shù)據(jù)庫技術(shù);
8.掌握大數(shù)據(jù)倉庫與統(tǒng)計(jì)機(jī)器學(xué)習(xí)技術(shù);
9.掌握大數(shù)據(jù)分析挖掘與商業(yè)智能(BI)技術(shù);
10.掌握大數(shù)據(jù)離線處理技術(shù);
11.掌握Storm流式大數(shù)據(jù)
培訓(xùn)對象
1.小型企業(yè)的技術(shù)負(fù)責(zé)人;
2. 大中型企業(yè)的數(shù)據(jù)部門相關(guān)人員、或是對數(shù)據(jù)感興趣的其他部門的研發(fā)總監(jiān)、部門經(jīng)理、一線研發(fā)工程師等人員均可;
課程大綱
第一天 |
大數(shù)據(jù)技術(shù)基礎(chǔ) 業(yè)界主流的大數(shù)據(jù)技術(shù)方案 大數(shù)據(jù)計(jì)算模型(一)——批處理MapReduce 大數(shù)據(jù)存儲系統(tǒng)與應(yīng)用實(shí)踐 Hadoop框架與生態(tài)發(fā)展,以及應(yīng)用實(shí)踐操作 |
第二天 |
大數(shù)據(jù)計(jì)算模型(二)——實(shí)時(shí)處理/內(nèi)存計(jì)算 Spark 大數(shù)據(jù)倉庫查詢技術(shù)Hive、SparkSQL、Impala,以及應(yīng)用實(shí)踐 Hadoop集群運(yùn)維監(jiān)控工具 |
第三天 |
大數(shù)據(jù)計(jì)算模型(三)——流處理Storm, SparkStreaming 大數(shù)據(jù)ETL操作工具,與大數(shù)據(jù)分布式采集系統(tǒng) 面向OLTP型應(yīng)用的NoSQL數(shù)據(jù)庫及應(yīng)用實(shí)踐 大數(shù)據(jù)項(xiàng)目選型、實(shí)施、優(yōu)化等問題交流討論 |
第四天 | 學(xué)習(xí)考核與行業(yè)經(jīng)驗(yàn)交流 |
第一天 大數(shù)據(jù)技術(shù)基礎(chǔ) 業(yè)界主流的大數(shù)據(jù)技術(shù)方案 大數(shù)據(jù)計(jì)算模型(一)——批處理MapReduce 大數(shù)據(jù)存儲系統(tǒng)與應(yīng)用實(shí)踐 Hadoop框架與生態(tài)發(fā)展,以及應(yīng)用實(shí)踐操作 |
第二天 大數(shù)據(jù)計(jì)算模型(二)——實(shí)時(shí)處理/內(nèi)存計(jì)算 Spark 大數(shù)據(jù)倉庫查詢技術(shù)Hive、SparkSQL、Impala,以及應(yīng)用實(shí)踐 Hadoop集群運(yùn)維監(jiān)控工具 |
第三天 大數(shù)據(jù)計(jì)算模型(三)——流處理Storm, SparkStreaming 大數(shù)據(jù)ETL操作工具,與大數(shù)據(jù)分布式采集系統(tǒng) 面向OLTP型應(yīng)用的NoSQL數(shù)據(jù)庫及應(yīng)用實(shí)踐 大數(shù)據(jù)項(xiàng)目選型、實(shí)施、優(yōu)化等問題交流討論 |
第四天 學(xué)習(xí)考核與行業(yè)經(jīng)驗(yàn)交流 |