上海大數(shù)據(jù)學(xué)科培訓(xùn)班

大數(shù)據(jù)學(xué)科培訓(xùn)班

課程內(nèi)容
Hadoop離線計算
大數(shù)據(jù)概述和Hadoop環(huán)境安裝
云計算和分布式、大數(shù)據(jù)應(yīng)用場景、分布式文件系統(tǒng)設(shè)計原理、Hadoop集群環(huán)境的安裝、HDFS的基本操作(命令行)、HDFS的配置文件的核心相關(guān)參數(shù)。
HDFS原理和應(yīng)用
HDFS原理分析、HDFS工作流程分析、訪問HDFS、分布式日志采集案例。
MapReduce和Yarn
MapReducer原理分析、MapReducer的算法模型、MapReduce和Yarn集群的配置、Yarn模型的運(yùn)行管理機(jī)制、MapReduce的本地運(yùn)行模式。
MapReduce編程案例
流量統(tǒng)計、匯總排序、訂單分組topN、線段重疊統(tǒng)計、電影評分的topN、倒排索引、JOIN算法、MapReduce分布式啟動運(yùn)行流程、MapReduce數(shù)據(jù)處理流程、數(shù)據(jù)傾斜。
Hadoop架構(gòu)和源碼分析
數(shù)據(jù)倉庫
Hive
Hive核心工作機(jī)制、Hive的安裝和運(yùn)行、Hive的DDL操作、SQL語法加強(qiáng)。
Hive加強(qiáng)
Hive數(shù)據(jù)類型、單行函數(shù)、聚合函數(shù)和表生成函數(shù)、Hive案例、窗口函數(shù)、Hive自定義函數(shù)等。
Hadoop生態(tài)圈組件
Flume工作機(jī)制、Flume安裝和配置、Flume攔截器、Flume高可用、日志采集分類匯總、Sqoop工作機(jī)制、Sqoop的安裝部署、Sqoop的導(dǎo)入導(dǎo)出案例案例、Azkaban的工作流調(diào)度器介紹、Azkaban的安裝部署和使用配置等。
HBASE
HBASE概述和核心特點、HBASE工作原理、HBASE的集群部署、shell客戶端的基本操作、Java操作HBASE、HBASE讀寫操作和流程等。
Storm實時計算
Storm編程入門
Storm概述和原理、Storm的本地和集群模式、Storm的核心組件詳解、Storm的并行運(yùn)算和分組運(yùn)算、Storm集群執(zhí)行過程分析，Storm案例。
Storm架構(gòu)和源碼分析
Storm核心機(jī)制
Ack機(jī)制概述、Storm通信機(jī)制、Storm數(shù)據(jù)分發(fā)機(jī)制。
消息中間件Kafka的使用
KafKa概述和原理、KafKa的集群環(huán)境部署、KafKa的生產(chǎn)者和消費(fèi)者、KafKa分組策略、KafKa配置詳解。
Scala語言
Scala語言基礎(chǔ)、Scala函數(shù)和方法、Scala數(shù)據(jù)結(jié)構(gòu)、Scala面向?qū)ο�、隱式參數(shù)、隱式參數(shù)類型轉(zhuǎn)換、泛型、視圖界定、上下文界定、Akka的RPC通信框架等。
Spark內(nèi)存計算
Spark入門
Spark原理、Spark架構(gòu)分析、Spark集群安裝、Spark-shell單機(jī)和集群、Spark任務(wù)執(zhí)行流程、Spark程序調(diào)試。
Spark RDD

RDD運(yùn)行架構(gòu)、Transformation操作API、RDD分區(qū)數(shù)據(jù)的讀取、Action操作API、Spark編程案例、自定義排序、Stage切分、Spark整體執(zhí)行流程。
Spark SQL
Spark SQL原理、Spark SQL應(yīng)用場景、Spark SQL性能分析、Spark SQL的案例、Spark SQL函數(shù)。
Spark Streaming
Stream運(yùn)行架構(gòu)、SparkStream工作原理、Spark Stream和KafKa整合、Spark Stream和Redis的整合等。
Spark架構(gòu)和源碼分析
大數(shù)據(jù)項目
大型日志采集系統(tǒng)、大數(shù)據(jù)綜合項目