Cloudera Hadoop 5和Hadoop高階管理及調優課程(CDH5,Hadoop2.0,HA,安全,管理,調優)
  已完成
收藏課程
9999+

Cloudera Hadoop 5和Hadoop高階管理及調優課程(CDH5,Hadoop2.0,HA,安全,管理,調優)

本教程針對有一定Hadoop基礎的學員,深入講解如下方面的內容: 1、Hadoop2.0高階運維,包括Hadoop節點增加刪除、HDFS和YARN的HA實現,...

適合人群:高級
課時數量:65課時
用到技術:CDH5 Hadoop2.0 HA 安全 管理 調優 Impala Kerberos Zookeeper Hive HBase LDAP Oozie Hue
涉及項目:Zookeeper&HIVE&HBASE&LDAP實現Kerberos認證等技術案例

  • 課程顧問貼心解答

    為你推薦精品課程,無論就業還是升職加薪,毫無壓力。

  • 名企定制緊隨大流

    量身打造緊貼企業需求的實用性課程。

  • 系統教學把控效果

    集學、測、練為一體的學習系統為你科學的安排學習進度,提高效率。

  • 一線大師1對1指導

    課程研發團隊內一線資深講師一對一指導,手把手教學,直到學會。

  • 點播答疑完美結合

    每周2-3次直播解答,保證學員日常學習問題能得到解決。

  • 量身定制學習計劃

    告別雜亂的學習方式,我們會根據你的情況定制學習計劃。

 

 

本課程屬于迪倫老師的Hadoop課程的深入高階升級課程,理論結合實戰操作,對hadoop2。0的高階應用及其他重要子項目做了詳細深入地講解和實戰操作,其中涉及了豐富的實例操作以及錯誤診斷的案例!

 

 

1.課程環境

本課程涉及的技術產品及相關版本:

技術

版本

Linux

CentOS 6.5

Java

1.7

Hadoop2。0

2.6.0

Hadoop1.0

1。2。1

Zookeeper

3.4.6

CDH Hadoop

5。3。0

Vmware

10

Hive

0。13。1

HBase

0.98.6

Impala

2。1。0

Oozie

4.0.0

Hue

3.7.0

 

 

2.內容簡介

本教程針對有一定Hadoop基礎的學員,深入講解如下方面的內容:

1、Hadoop2.0高階運維,包括Hadoop節點增加刪除、HDFS和YARN的HA實現,

HDFS Federation實現等

2、搭建本地Yum部署CDH5的重要組件和優化配置

3、Impala、Oozie和Hue的部署、使用操作及調優

4、Hadoop安全認證及授權管理

5、Hadoop各組件性能調優

 

 

《Hadoop2.0/YARN深入淺出(Hadoop2.0、Spark、Storm和Tez)》http://www.tietiejia.com/goods-435.html

《Hadoop大數據零基礎高端實戰培訓系列配文本挖掘項目(挑戰年薪50萬)》http://www。ibeifeng。com/goods-428。html

《基于Greenplum Hadoop分布式平臺的大數據解決方案及商業應用案例剖析》http://www。ibeifeng。com/goods-377。html

迪倫老師:某知名500強企業大數據平臺架構師,大數據處理專家。長期從事于大數據基礎架構建設、企業級數據倉庫、大數據分析、挖掘等領域項目的開發及管理。

熟悉多種技術架構的綜合運用,包括Hadoop、Greenplum、Oracle、Cognos、Datastage等。對于Hadoop生態系統,特別是Hive、HBase、Mahout等開源框架的業務應用、   可靠性、基礎架構和高級應用等方面有著豐富經驗。

 

迪倫老師在北風網參與的其他課程鏈接:

單品課程:

《基于Hadoop2.0、YARN技術的大數據高階應用實戰(Hadoop2.0\YARN\MapReduce\數據挖掘\項目實戰) 》 http://www.tietiejia.com/goods-440.html

《深入淺出Hadoop Mahout數據挖掘實戰(算法分析、項目實戰、中文分詞技術)》 http://www。ibeifeng。com/goods-438。html

《MapReduce/Hbase進階提升(原理剖析、實戰演練)》 http://www。ibeifeng。com/goods-438。html

《Hadoop2。0/YARN深入淺出(Hadoop2。0、Spark、Storm和Tez)》http://www。ibeifeng。com/goods-435。html

《Hadoop大數據零基礎高端實戰培訓系列配文本挖掘項目(挑戰年薪50萬)》http://www。ibeifeng。com/goods-428。html

《基于Greenplum Hadoop分布式平臺的大數據解決方案及商業應用案例剖析》http://www.tietiejia.com/goods-377.html

 

 

一、Hadoop2。0 動態增加節點

01.1 怎樣添加節點

01.2 添加新的服務器節點

01.3 新節點操作系統配置

01.4 新節點Hadoop配置

01.5 調整新節點副本數

 

二、Hadoop2。0 動態刪除節點

02.1 怎樣刪除節點

02.2 刪除Hadoop2.0集群節點

02.3 測試監控刪除節點后的集群

 

三、Hadoop2。0 HDFS HA部署

03.1 HDFS HA的實現方式

03。2 HDFS HA的實現步驟

03.3 HA集群環境配置

03。4 HA hdfs-site。xml參數配置

03.5 HA其他參數配置

03.6 JournalNode服務啟動及初始化

03.7 HDFS HA服務啟動及手工切換

03.8 基于ZK自動切換模式的實現

03。9 HDFS HA中ZooKeeper部署

03.10 配置HDFS HA自動切換模式

03.11 HDFS HA自動故障切換測試

 

四、Hadoop2.0 HDFS HA+Federation部署

04.1 HDFS Federation的實現方式及規劃

04.2 HDFS Federation的配置步驟

04.3 配置HDFS Federation

04.4 HDFS Federation服務啟動及測試

04。5 HDFS HA+Federation實現及配置步驟

04.6 HDFS HA+Federation的配置及服務啟動

04。7 HDFS HA+Federation集群故障模擬測試

 

五、Hadoop升級

05。1 Hadoop內部升級的實現

05。2 Hadoop1。0升級到2。0步驟

05.3 HDFS升級配置操作

05.4 執行HDFS升級并測試驗證

05。5 MapReduce升級

 

六、Hadoop2.0 YARN HA部署

06。1 YARN HA的實現

06.2 YARN HA的配置步驟及其相關參數

06。3 Hadoop2。0 YARN HA配置操作

06。4 YARN HA服務啟動及測試

06.5 YARN HA測試及錯誤處理

06.6 解決YARN HA啟動錯誤的問題

06。7 HDFS+YARN HA故障模擬測試

 

七、Hadoop安全管理深度剖析

07.1-Hadoop安全背景

07。2-Hadoop1。0安全問題及處理機制

07.3 Kerberos基本概念及授權認證過程

07.4 Kerberos在Hadoop中的應用

07.5 Hadoop1.0安全機制的具體實現

07。6 RPC安全之身份認證機制

07.7 RPC安全之服務訪問控制機制

07。8 HDFS安全策略

07.9 Mapreduce安全策略

07.10 Hadoop上層服務的安全策略

07.11 Hadoop1.0安全機制的應用場景

07。12 Hadoop2。0安全認證機制的實現

07.13 Yarn中的各類令牌及其作用

07.14 Hadoop2.0授權機制的實現

 

八、搭建本地yum安裝CDH5 Hadoop集群

08.1 為什么選擇CDH

08。2 CDH的體系架構

08。3 CDH的集群規劃

08。4 CDH操作系統配置步驟

08。5 CDH集群主機名及網絡配置

08.6 操作系統yum源配置

08.7 CDH5的yum源配置

08.8 主機間信任關系的建立

08。9 NTP時間同步服務配置

08.10 JDK安裝

08.11 安裝和配置HDFS步驟

08.12 YUM安裝HDFS

08。13 CDH集群環境變量配置

08.14 CDH5 HDFS核心配置

08.15 HDFS其他重要配置及服務啟動

08。16 安裝和配置YARN的步驟

08.17 YARN的安裝

08.18 YARN的核心參數配置

08.19 MapReduce相關參數配置

08.20 服務啟動及驗證

08.21 CDH5集群測試

08.22 webHDFS的使用

 

九、基于Kerberos認證的Hadoop安全管理

09.1 Kerberos集群規劃及配置步驟

09.2 Kerberos安裝配置

09.3 Kerberos數據庫創建及服務啟動

09。4 Kerberos的使用及測試

09。5 Kerberos principal和keytab概念剖析

09.6 HDFS上配置Kerberos步驟

09.7 HDFS principal創建及生成keytab文件

09。8 HDFS keytab文件部署

09。9 HDFS安全參數配置

09.10 Namenode服務的安全啟動

09。11 Datanode服務的安全啟動

09.12 HDFS安全使用測試

09.13 YARN配置Kerberos步驟

09.14 YARN principal創建及keytab文件生成部署

09.15 YARN安全參數配置

09.16 YARN服務安全啟動及測試

09。17 自動化集群管理

 

十、Zookeeper&HIVE&HBASE&LDAP實現Kerberos認證

10。01 Zookeeper配置Kerberos步驟

10。02 通過Yum安裝Zookeeper

10.03 Zookeeper Server配置Kerberos

10.04 Zookeeper Client配置kerberos

10。05 HBase相關概念深度解析

10。06 HBase配置Kerberos步驟

10.07 通過Yum安裝HBase 01

10。08 通過Yum安裝HBase 02

10。09 為HBase配置Kerberos

10.10 HBase啟動錯誤診斷及測試

10.11 CDH Hive架構及配置Kerberos認證步驟

10。12 安裝HIVE組件及配置PostgreSQL

10.13 Hive的基礎配置

10.14 為Hive配置Kerberos認證

10.15 Hive shell及Beeline安全訪問測試

10.16 hive與hbase集成原理

10.17 hive-hbase集成安裝配置

10.18 hive-hbase映射表創建

10.19 LDAP基本概念

10.20 LDAP模式設計

10。21 LDAP集成Kerberos配置步驟

10.22 LDAP安裝和基礎配置

10。23 LDAP集成Kerberos及數據庫創建

10.24 導入系統用戶到LDAP

10.25 OpenLDAP客戶端配置和使用

 

十一、Impala大數據分析引擎

11.01 什么是Impala

11.02 Impala架構和進程

11。03 Impala安裝配置步驟

11。04 Impala安裝部署

11.05 Impala配置及服務啟動

11.06 Impala配置Kerberos認證

11.07 Impala啟停故障處理及測試

11.08 Impala的使用

11。09 Impala-shell基本功能的使用

11.10 Impala連接查詢

11.11 Impala聚合及子查詢

11。12 Impala分區表的使用

11.13 Impala的優化

11.14 Impala收集統計信息及生成查詢計劃

11.15 HDFS緩存池在Impala中的使用

 

十二、Oozie&Hue的使用及安全認證管理

12.01 什么是oozie

12.02 Oozie安裝和配置步驟

12.03 Oozie安裝和基本配置

12.04 Oozie安全配置及服務啟動 

12。05 Oozie啟動問題處理

12.06 Oozie Mapreduce作業測試

12.07 Oozie常用命令及工作流程定義

12.08 Oozie MR&hive&sqoop動作節點配置

12。09 Oozie pig&ssh&java&sw&shell動作節點配置

12.10 Oozie Coordinator作業

12.11 Coordinator動作和應用定義

12。12 Oozie Bundle應用定義

12.13 什么是Hue

12.14 安裝配置Hue-HDFS&YARN

12。15 Hue配置Hive、Kerberos、Imapala和Zookeeper等

12。16 Hue安裝啟動問題處理

12.17 Hue頁面初始化及查詢問題解決

12.18 Hue控制臺的使用

 

十三、Hadoop2.0授權及資源調度管理

13.01 Hadoop授權管理基礎知識

13.02 服務訪問授權

13.03 服務級授權配置實例

13。04 隊列訪問控制列表

13。05 隊列訪問控制配置實例

13.06 公平調度器配置步驟

13.07 公平調度器配置實例

13.08公平調度器驗證

13.09 容量調度器配置

13。10 容量調度器配置

13。11 容量調度配置測試驗證

13.12 基于標簽的調度器

 

十四、Hadoop壓縮

14。01 hadoop壓縮概念及支持的格式

14.02 hadoop常用幾種壓縮格式對比

14。03 壓縮格式的選擇

14.04 Snappy壓縮配置

14.05 Snappy&Gzip壓縮測試

14.06 Hadoop LZO壓縮安裝配置步驟

14.07 cdh5 lzo壓縮安裝

14.08 lzo安裝問題處理

14.09 lzo壓縮配置及測試

14.10 hive配置使用lzo壓縮

14。11 Hive外部表使用lzo壓縮文件

14。12 Hive使用lzo壓縮實例

14。13 hbase壓縮配置

14。14 hbase壓縮測試

 

十五、Hadoop文件存儲格式

15.01 大數據存儲需求及方式

15.02 Hadoop常用文件格式

15.03 HDFS塊內三種存儲方式實例

15.04 RCFile的設計和實現

15.05 ORCFile文件結構

15。06 Hive文件存儲格式的選擇

15.07 Hive不同文件格式數據加載測試

15.08 多種文件格式查詢存儲效率測試

15.09 RCFile性能測試

 

十六、Hadoop調優

16。01 調優思路

16.02 應用程序優化

16.03 Linux系統優化

16.04 Hadoop實現機制調優

16。05 機架感知策略實現

16.06 Hadoop參數調優綜述及NameNode調優

16.07 Datanode參數調優

16。08 集中化緩存管理

16.09 集中緩存架構和概念

16.10 緩存管理及緩存池命令

16.11 緩存操作實例

16.12 緩存參數配置

16.13 YARN調優概述

16.14 Slave和Container資源分配

16.15 配置資源分配和進程大小屬性

16.16 YARN內存監控

16。17 Reducer調度調優

16.18 Mapreduce其他關鍵參數調優

 

 

 

 

 

 

 

 

  目標一. 掌握Hadoop2.0動態增加和刪除節點的維護操作

 

  目標二. 掌握通過Hadoop2.0 HDFS&YARN HA+Federation技術來搭建高可用集群的技能

 

  目標三. 掌握Hadoop2.0升級操作

 

  目標四。 熟悉Hadoop安全管理的知識

 

  目標五。 掌握通過搭建本地yum來部署CDH5 Hadoop集群,包括HBase、Hive、Impala、Oozie和Hue等

 

  目標六. 掌握Impala、Oozie和Hue的安裝、使用及優化等

 

  目標七. 掌握基于Kerberos認證的Hadoop安全管理的技能

 

  目標八. 掌握Hadoop安全授權管理的技能

 

  目標九。 掌握Hadoop性能優化的技巧

 

  <未完待續>

 

 

  亮點一、Hadoop2.6.0、CDH5.3 等采用的均是目前為止最新的版本,技術的前沿性可以保證讓您的技術在二到三年內不會落伍.

 

  亮點二、理論與實戰相結合,由淺入深。即照顧到基礎學員,又照顧到有一定經驗的學員。

 

  亮點三、課程所有實例都有操作演示,手把手一步步帶領學員從入門到精通.

 

 

一。課程針對人群

本課程針對掌握一定的Hadoop基礎知識的學員,想通過本項目的學習,深入掌握Hadoop高階運維、管理和調優技巧的學員。

沒有Hadoop基礎的同學,可先學習如下課程:

《Hadoop大數據零基礎高端培訓課程》  http://www.tietiejia.com/hadoop.html

 

二。我該怎么學,如何才能學好這門課程,給些建議

   2。1、時間上的安排建議

      本課程共80講,如果您時間上充分,建議以每天2-3講的進度往前學習。 

   2。2、學習要求

      如果您沒有基礎,建議還是中規中矩的按照課程進度一點一點仔細觀看學習,并一定要把看完的視頻中的代碼自己手敲一遍,以加深理解和記憶

      如果您有基礎,可不必按步就搬進行,可以拿你感興趣的部分去學習,但一定要注意實踐,并學會舉一反三 

   2。3、講師建議

      1.最好看完視頻之后,拋開視頻,獨立自己去把上課中的示例寫一遍,看自己是否理解,如果不正確,可以回過頭看再看下視頻,如果反復,達到真正理解和

       熟練掌握 的目的。

      2。對于課程實戰部分,一定要自己親自動手做一遍,不要滿足聽完就OK了

      3。 建議一般聽視頻,一般拿個紙和筆,做一些記錄和筆記,這是一種非常好的學習習慣。

      4. 一定不要過于依賴視頻,要學會看文檔日志和使用百度,學會思考,學會舉一反三

      5. 最后祝您學有所成

 

 

課程是屬于某個特定的專業技術,掌握該技術后,你可以從事以下職位的相關工作

1.Hadoop運維工程師

2.Hadoop大數據架構師

 

网赚论坛排行榜 2019年新网赚项目 利用人人网赚钱 大资本登录 浙江体彩6+1 网赚月入过万是真的吗 什么网赚项目比较好 幸运时时彩 2019国外挂机网赚联盟 2019任务网赚日赚100