〖课程介绍〗:
本课程专门为0基础学员而设计,共包括十个大阶段,从java基础开始,内容精准聚焦大数据开发过程中必备的离线数据分析、实时数据分析和内存数据计算等重要内容;涵盖了大数据体系中几乎所有的核心技术,包含Linux、Zookeeper、Hadoop、Redis、HDFS、MapReduce、Hive、Impala、Hu
含千亿级数据实战项目!!真枪实战
〖课程目录〗:
阶段一 : Java基础
编程基础
DOS常用命令、Java概述、JDK环境安装配置、环境变量配置、Java程序入门
常量与变量、数据类型、运算符、流程控制语句、方法、数组
面向对象入门
面向对象思想、类与对象、成员变量和局部变量、封装、 this关键字、构造方法
Object类、Scanner类、Random类、String、StringBuilder类
集合概述、集合特点、ArrayList集合
字符输入流、字符输出流、字符缓冲输入流、字符缓冲输出流、 复制文件、集合与文件中数据相互读写
市场价值 : 具备JavaSE基本开发能力,但是还不能满足企业用人需求,可为后续JavaWeb的学习打下坚实基础
阶段二 : JavaWeb
Java基础增强
类加载器、反射、网络编程、端口和协议、TCP协议、服务端、客户端、多线程、线程和进程、线程的生命周期、线程安全、代码同步、注解、JDK常用注解、自定义注解
Java web 核心
HTML、CSS、JavaSript、BootStrap
MySQL数据库、MySQL单表操作、MySQL多表操作、MySQL事物、 MySQL存储引擎、JDBC、JDBCDataSource
Tomcat、Http协议、servlet入门、Rquest、Response、JSP、MVC、 Cookie、Session、JSP、ETLJSTL、Filter、listener
Jquery、Ajax、ajax跨域、分页
Maven项目构建、管理、编译、仓库配置、 Git项目管理
市场价值 : 具备JavaWeb开发能力,但是还不能满足企业用人需求,可为后续学习框架打下坚实基础
阶段三 : 主流框架
Spring 组件
Spring简介、Spring配置文件、Spring配置数据源 、Spring注解开发、AOP简介、AOP的实现方式、JdbcTemplate基本使用、Spring的事务控制
SpringMVC组件
Spring集成web开发环境、SpringMVC简介、SpringMVC组件解析、SpringMVC的数据响应、SpringMVC的请求参数绑定、SpringMVC的文件上传、SpringMVC的拦截器 、SpringMVC的异常处理
Mybatis组件
Mybatis快速入门、Mybatis基本增删改查操作、Mybatis核心配置文件、Mybatis的dao层实现原理、Mybatis映射文件深入-动态SQL、Mybatis核心配置文件深入、Mybatis的多表操作、Mybatis注解开发、SSM整合
市场价值 : 对热门的框架和SOA架构应用,便可掌握项目的构建并能够搭建企业级JavaWeb项目,为后期的项目做铺垫
阶段四 : 流行框架
Lucene组件
全文检索基本介绍、lucene入门案例中文分析器索引库维护
Spring Data JPA
JPA的引入、JPA的入门案例主键生成策略、JPA的基本操作
Spring Boot
spring boot 介绍、spring boot 入门、spring boot 原理分析、 spring boot 配置文件
市场价值 : 前后端分离开发成为企业中软件架构的新宠儿,而掌握微服务框架的使用、项目环境快速部署的人才已被互联网企业所重视。所以适应现互联网开发环境,学习微服务框架成为企业新需人才必要条件。
阶段五 : 大数据基础增强
linux操作基础
虚拟机的联网以及基础命令增强、linux的查找命令、linux的用户与用户组、linux的权限管理、linux系统服务管理、网络管理 、shell的变量定义、变量引用、算数运算符、流程控制语句、函数使用
Jvm 优化
熟悉jvm 参数,visualVM 工具,垃圾回收原理, JVM字节码分析等等
市场价值 : 能够完成中小型企业常见的自动化脚本
阶段六 : 大数据Hadoop离线分布式系统
大数据基础和 硬件介绍
大数据集群基本环境准备、大数据集群环境的基础准备
Hadoop 核心组件以及性能优化
HDFS组件详解以及实战、mapreduce 组件详解以及性能优化、Yarn组件详解以及多租户的实现、hive组件实战以及性能优化、impala组件实战以及性能优化sqoop常见问题详解
辅助系统工具
sqoop hue impala kudu oozie flume azkaban组件功能介绍、架构和原理、多个案例整合
网站流量日志分析项目
项目背景,日志埋点收集,数据预处理,数据入库,指标分析,统计分析,可视化
市场价值 : 本阶段匹配的工作岗位包括ETL工程师、任务调度工程师、Hive工程师、数据仓库工程师等。
阶段七 : 大数据 NoSQL、Kafka和ELK技术实战
NoSQL、Kafka和ELK技术实战
NoSQL介绍、Redis的原理和架构、 Redis的集群搭建、Hbase的应用场景、Hbase架构和原理以及RowKey设计和优化策略、HBase+Redis微博实战案例、Elasticsearch的功能、架构和原理以及ELK案例实战
市场价值 : 1、解决Hbase的RowKey高性能设计策略,满足业务的需求; 2、解决Hbase的性能瓶颈,解决业务问题对Hbase高性能的挑战; 3、解决企业里面海量数据实时传输的问题; 4、解决海量日志快速检索和监控问题。
阶段八 : 大数据 Spark 内存计算系统
Scala语言基础
Scala基础、声明变量、数据类型、条件表达式、块表达式、循环、方法和函数、数组、元组、集合、Iterator、构造器、伴生对象、akka
Spark入门以及集群搭建
Spark集群环境搭建,spark入门程序,RDD入门
SparkRDD
Spark的应用场景、架构和原理、入门案例、Spark Session讲解、RDD的概念和特性、Transformation RDD讲解、Action RDD讲解、Partition、Task、RDD的依赖关系、RDD的容错机制、RDD的存储级别、RDD的缓存机制、RDD的广播操作、DAG思想、DAG的生成、DAG的处理过程、运行机制、Driver和Executor
Spark SQL
Spark SQL功能介绍、DataFrame、DataSet、RDD、Dataset和DataFrame的转换、读写Hive表数据、读写HDFS的数据、DataFrame的API操作、读取文件(txt、CSV、Json、parquet)、临时表、读写RDBMS、Spark SQL执行计划、Spark SQL的性能优化
SparkStreaming原理_运行过程_特性
sparkstring的功能介绍,架构,流计算Dstream运行原理
Structured Streaming_介绍_案例
Structured String的功能介绍、input功能、output功能、window操作、watermark操作、过期数据操作、去重数据操作、整合Socket数据、整合Kafka数据、OutputModel(Append\complete\update)功能、Flume+kafka+Structured Streaming实现用户访问行为的实时分析
DMP项目
Kudu应用场景,项目介绍, Kudu原理,cdh环境搭建,kudu整合spark开发,项目框架搭建,报表统计,商圈库功能。
市场价值 : 可从事Spark相关工作,包括ETL工程师、Spark工程师、Hbase工程师、用户画像系统工程师、大数据反欺诈工程师。
阶段九 : 大数据 Flink 实时计算系统
Flink基础介绍
Flink的运行机制、Flink组件和逻辑计划、Flink执行计划生成、JobManager中的基本组件、TaskManager、算子、网络、水印WaterMark、任务调度
flink进阶
flink的状态管理、CheckPoint、flinksql及flinkTableApi
Flink电商指标分析项目
上报服务系统开发、Flink实时数据分析系统开发、实时频道热点分析业务开发、实时频道PV/UV分析、实时频道用户新鲜度分析、实时频道地域分析业务开发、实时运营商分析业务开发、实时数据同步系统、Canal数据采集平台
市场价值 : 目前Flink在大型互联网公司使用的的广泛,在传统行业Flink目前也是处在一个爆发的阶段。
阶段十 : 大数据新技术实战详解
Druid
Druid应用场景、集群搭建、数据加载、重要概念、架构及原理、数据查询、元数据、实时应用案例
市场价值 : Druid目前人才需求量在不断的增加
阶段十一 : 机器学习( 选修 )
机器学习概念入门
1.基本概念:属性、属性的度量、属性类型、数据集类型、数据集的特性、训练集、测试集、特征值、监督学习、非监督学习、半监督学习等概念
2.数据的预处理:聚集、抽样、维度规约、特征子集选择、特征创建、离散化和二元化、变量变换
3.模型的评估:模型的过分拟合(过拟合),欠拟合,评估分类器的性能(交叉验证和自助法),模型评估方法、损失函数和风险函数、参数优化等,模型复杂度(奥卡姆剃刀)4.机器学习处理的一般流程分析
机器学习数学基础
初等数学基础、函数求导以及链式求导法则、方向导数、梯度、泰勒级数、 拉格朗日乘子法、线性代数与矩阵、特征值与特征向量、概率分析、 极大似然估计、梯度下降法代码实践、牛顿法代码实战、 矩阵分解实战(SVD,PCA,QR)
机器学习语言基础之Python语言
基础数据类型、list/tuple/dict/set、列表推导式、生成器推导式、 lambda函数、控制语句、文件读写、异常处理分析、面向对象编程、 GUI编程、Python基础项目实践
Python数据分析库实战
Numpy矩阵运算库基础及实战、Scipy数值运算库基础及实战、 Matplotlib绘图库基础及实战、Seaborn绘图库基础及实战、 Pandas数据分析库基础及实战
Spark机器学习库实战
SparkML和SparkMLLIB区别、Spark机器学习基础、Pipeline管道、 特征抽取(TF-IDF、Word2Vec、CountVectorizer)、特征转换(Tokenizer、 PCA、N-gram、DCT、one-hot、MinMaxScaler、Normalizer、SqlTransformer、VectorAssembler)、特征选择(VectorSlicer、RFormula、 ChiSqSelector)
机器学习算法之用户标签预测项目实战
用户画像标签预测实战、KNN、KMeans、决策树算法模型(ID3、C4.5、 Cart树)、集成学习算法(Bagging、随机森林、Adaboost算法、GBDT算法、 XGBOOST算法、LightGBM算法模型)、人才流失模型项目实战
机器学习算法之推荐系统实战
基于记忆的CF实战(Surprise库实战)、基于模型的CF实战(SparkALS实战)、 基于Native-Bayes分类算法实战、基于内容推荐(jieba分词、提取词向量、 文本分类、特征聚类)、关联挖掘算法实战(基于Spark的FP-Growth算法实战)、推荐项目实战
机器学习算法之CTR点击率预估实战
特征工程实战、CTR点击率预估应用场景分析、 逻辑斯特回归算法理论基础推导及项目实战、推荐系统指标分析、 推荐系统架构分析、基于Wideanddeep模型理论及实战(学会读学术Paper)
机器学习算法之深度学习基础及图片分类实战
神经网络和深度学习基础、MP神经元模型、感知机模型、BPNN模型实战、 CNN模型实战图像识别、Tensorflow基础、电影评论文本分析、 RNN文本情感分析实战
市场价值 : 可从事机器学习、数据挖掘等相关工作,包括推荐算法工程师、数据挖掘工程师、机器学习工程师,填补人工智能领域人才急剧增长缺口。
阶段十二 : 云计算( 选修 )
虚拟化
hypervisor管理类工具、QEMU、KVM、QEMU-KVM、libvirt、虚拟化技术概述,Xen、VMware、KVM虚拟化对比与实践
公有云(阿里云)
公有云概述、阿里云应用实战
私有云运维(OpenStack)
Openstack概述,OpenStack组件功能介绍,OpenStack安装与配置,OpenStack私有云运维实战;
容器Docker+监控
Docker概述,Docker部署,Docker容器,Docker镜像仓库该学科热门课程
Kubernetes概述、Kubernetes安装与部署、Docker+Kubernetes集群实战
市场价值 : 熟练掌握和学习后,可满足Linux云计算架构工程师的需求。