实战化教学领导品牌  全国咨询热线:400-009-1906
尚学堂实战化领导品牌,联袂业内专家倾情打造大数据就业班权威课程,让你5个月蜕变大数据大神!
4

分钟

让你了解什么是云计算&大数据
为什么选择大数据!

前景好到没朋友!薪资高到没对手!不学大数据就真out了!

论趋势

       马云说:未来的时代将不是IT时代,而是DT
(Data Technology)的时代,最大的能源是数据!
       现如今,医疗、能源、通信、零售、金融、体育、游戏、影视、旅游、交通行业等各行业都离不开大数据,大数据从采集、传输、存储、分析等各个环节产生巨大的经济价值,因其广泛的应用而迅猛发展。

论需求

       根据国际数据公司IDC、Gartner预测,到2020年,企业基于大数据计算分析平台的支出将突破5000亿美元。目前,我国大数据人才供不应求未来3到5年,人才需求呈直线式增长,数据分析师、数据架构师、大数据开发工程师等人才缺口 更是达百万级别。

论薪资根据官方网络数据显示,大数据职位薪资待遇在逐年上升约11.38%

论政策

       李克强总理曾签批,国务院印发《促进大数据发展行动纲要》,系统部署大数据发展工作。

“N”个选择尚学堂的理由!
  • 内容霸道

    尚学堂课程内容均由业内资深专家精心研发,不仅如此,尚学堂紧密关注大数据前沿领域,并对课程内容实时更新,确保课程内容更新、更快!

  • 项目实战

    尚学堂贯彻实战化教学于每一处细节,对于项目,我们严格甄选,紧密贴合企业实际需求,突破形式化,向实效化不断延伸,让学员在项目实战中真正做到事半功倍,以一顶百!

  • 师资强悍

    尚学堂的老师均为业界大牛,拥有多年开发和管理项目经验。尚学堂十一年品牌,为了贯彻“实战化教学领导品牌”的理念,所有讲师都是从一线企业高薪聘请而来,严格甄选宁缺毋滥!

  • 360度贴心辅导

    尚学堂为每个就业班都安排有优秀的技术指导老师,无论是白天上课还是晚上自习,360度全方位对学员疑惑进行知识点梳理、答疑、辅导。尤其是给予末位学员重点关心,以确保知识点掌握上每个学员不掉队,真正落实不放弃任何一个学员。

  • 实战化教学模式

    尚学堂不仅拥有领先、实战化的课程体系,更是秉承实战化教学,把实战化深贯彻到每个环节。无论是从理念、内容、模式、手段均落地实战化,对项目、对老师,从难从严高要求,真正把实战化教学落到实处。不仅如此,尚学堂紧密关注大数据前沿领域,并对课程内容实时更新,确保课程内容更新、更快!

  • 双保险就业保障

    尚学堂就业部协助学员就业,跟很多企业达成了上门招聘合作,国内仅有的每周8-20家企业上门招聘,倡导“双保险”的就业服务。同时尚学堂还可以为优秀学员提供猎头服务,与企业合作的紧密程序胜过无数机构。

遥遥领先的就业保障—100%无忧就业

企业需求量身定制
按需培养学员

一体化实战教学
颇受企业欢迎

每周8-20家企业上门招聘

100%
无忧就业
01/JavaSE
大数据至少需要一种编程语言,学最流行的Java语言必不可少,更是夯实基础。
学会ORACLE、MYSQL等流行的数据库技术,练好大数据的基本功。
02/数据库
03/WEB前端
系统学习HTML5&CSS3&JavaScript,以及Echart报表等数据可视化显示技术,
同样是基本功。
加学Servlet、jQuery3等技术,升级java编程,实现懂框架、懂原理。
04/JavaEE
05/linux
企业中无一例外的是使用Linux来搭建或部署项目,因此打好linux基础必不可少。
数据搜索是重中之重,Lucene、Solr等技术学习让你弄懂搜索不是梦!
06/搜索
07/hadoop体系
hadoop是重头戏,内容多、篇幅长,老师会由浅入深,逐步带大家学会包含
Mapreduce、Hbase、Hive、Sqoop、Flume、Zookeeper等在内的前沿实战技术。
学大数据一定要学习storm流式计算,这时你会遇到redis、Kafka等内容。
08/storm流式计算
09/spark内存计算
你一定听过spark,在内存计算的课程上,Scala、Spark Streaming实时计算等内
容,会让你惊叹大数据的无限魅力!
  • 技术跟不上

    深入浅出夯实技术功底

  • 逻辑能力差

    讲课程更讲方法
    有效增加逻辑性

  • 数据不敏感

    多看多练多积累
    不同类型数据水到渠成

  • 项目经验少

    项目实战贯穿学习全过程
    学到都是真本事

尚学堂大数据就业班—5个月让你逆袭人生!
  • 姓名
    毕业院校
    就业单位
    月薪
    地点
  • 杨*
    曲阜师范大学
    北京**星科技有限公司
    15000
    北京
  • 王*
    安阳工学院
    北京**信息技术有限公司
    11000
    北京
  • 刘**
    佳木斯大学
    中科****方案事业部·
    16000
    北京
  • 栗**
    燕山大学
    北京**软有限公司
    12000
    北京
  • 霍**
    洛阳理工学院
    中**有限公司事业部
    13000
    北京
  • 于**
    河北工程职业技术学院
    北京**科技有限公司
    14000
    北京
  • 李*
    山西大同大学
    北京中**科技信息有限公司
    16000
    北京
  • 王**
    廊坊燕京职业技术学校
    中***解决事业部
    13000
    北京
  • 高**
    周口师范学院
    中科***有限公司
    13000
    北京
  • 常**
    山西大同大学
    中***解决事业部
    16000
    北京
  • 佟*
    秦皇岛职业技术学校
    北京**软件有限公司
    13000
    北京
  • 吴**
    西安航空学院
    北京联*软件有限公司
    15000
    北京
  • 张*
    天津农学院
    北京**软件有限公司
    14000
    北京
  • 张**
    江南大学
    北京**财产保险股份有限公司
    12000
    北京
  • 李**
    河南理工大学
    ***业信息技术有限公司
    13000
    北京
  • 张**
    吉林建筑大学城建学院
    文**辉信息技术有限公司
    11000
    北京
  • 路**
    北京建筑大学
    北京**科技有限公司
    12000
    北京
  • 穆**
    石家庄铁道大学
    西安**软件科技有限责任公司
    12000
    北京
  • 陈*
    非应届
    龙道明易
    14000
    北京
  • 连**
    非应届
    龙道明易
    13000
    北京
  • 张**
    非应届
    "中**际
    15000
    北京
  • 王*
    非应届
    中**华
    16000
    北京
  • 赵*
    非应届
    北****
    26000
    北京
  • 李**
    非应届
    "央**限公司
    14000
    北京
  • 庞*
    非应届
    北京东**通事业部
    15000
    北京
  • 张*
    非应届
    猎**
    18000
    北京
  • 冯**
    非应届
    "北京***有限公司
    15000
    北京
  • 刘*
    非应届
    "央**有限公司
    12000
    北京
  • 王**
    非应届
    招**公司
    13000
    北京
  • 谢**
    非应届
    北京联**公司
    13000
    北京
  • 李**
    非应届
    "北京***有限公司
    13000
    北京
  • 吴**
    非应届
    马****融
    13000
    北京
  • 刘*
    非应届
    智**技有限公司
    14000
    北京
  • 朱**
    非应届
    加****
    12000
    北京
  • 祁**
    非应届
    博**软
    14000
    北京
  • 刘**
    非应届
    中***
    16000
    北京
  • 李**
    非应届
    北京影****科技有限公司
    15000
    北京
  • 冯**
    非应届
    天****
    12000
    北京
  • 毕**
    非应届
    招****有限公司
    13000
    北京
  • 李*
    非应届
    仁****通
    13000
    北京
  • 吴**
    非应届
    北****博
    14000
    北京
  • 赵**
    非应届
    中国****信息中心
    14000
    北京
  • 贾**
    非应届
    "亚****公司
    14000
    北京
  • 谭*
    非应届
    ****嘉科技
    16000
    北京
  • 刘**
    非应届
    "****辉科技有限公司
    14000
    北京
  • 张*
    非应届
    金******讯有限公司
    14000
    北京
  • 刘**
    非应届
    公司保密
    20000
    北京
  • 师**
    大学应届生
    公司保密
    12000
    北京
  • 严**
    大学应届生
    公司保密
    14000
    上海
  • 刘**
    非应届
    深圳****卡世纪
    15000
    深圳
  • 荣**
    非应届
    公司保密
    16000
    北京
  • 杨**
    大学应届生
    公司保密
    16000
    上海
  • 郭**
    大学应届生
    炎黄新********科技有限公司
    15000
    北京
  • 房**
    大学应届生
    中******国际
    14000
    北京
  • 纪**
    非应届
    东华******件
    14000
    北京
  • 孙**
    大学应届生
    中融****信
    13000
    北京
  • 刘**
    非应届
    京****东
    15000
    北京
  • 刘**
    非应届
    东****信
    16000
    上海
  • 梁**
    大学应届生
    寻****药网
    16000
    北京
  • 赵**
    非应届
    北京索为****统技术有限公司
    15000
    北京
  • 候**
    大学应届生
    电信****天翼
    16000
    北京
  • 肖**
    大学应届生
    深圳彩易****网络技术有限公司
    14000
    深圳
  • 李**  
    大学应届生
    即买送******有限责任公司
    15000
    北京
  • 徐**   
    大学应届生
    北京******博润科技 
    13000
    北京
  • 赵**
    非应届
    天****大数据   
    13000
    北京
  • 蔡**
    非应届
    北京集****聚合
    17000
    北京
  • 范**
    非应届
    蓝汛******科技
    13000
    北京
  • 张** 
    大学应届
    中恒****格科技 
    16000
    北京
  • 李**     
    大学应届
    北京华夏威***软件科技有限公司
    13000
    北京
  • 张**  
    非应届
    北京融***思惟科技发展有限公司
    14000
    北京
精心锤炼课程、精选实战项目,只为你能青出于蓝而胜于蓝!
JavaSE阶段
阶段 技术名称 技术内容
课程大纲 JavaSE JAVA 开发基础知识 | Eclipse 开发环境 | JavaSE 7.0 API | 多线程技术 | Socket 网络技术 | Regular Expression | Java反射技术 | Properties技术 | 各种实战设计模式| Java Debug技术 | 面向对象设计原则详解 | 实例解决面向对象设计
                实战数据结构
(面试中,经常碰到的数据结构和算法问题,怎么能不讲呢?良好的基础和素质,是企业看中应届大学生最重要的点!)
数据结构实战训练 | 数组、链表等常用数据结构实战
反射机制 JAVA的动态性、Reflection技术、JVM类加载器、Class对象、Method等
GOF 23种设计模式 创建型模式,共五种:工厂方法模式、抽象工厂模式、单例模式、建造者模式、原型模式
结构型模式,共七种:适配器模式、装饰器模式、代理模式、外观模式、桥接模式、组合模式、享元模式
行为型模式,共十一种:策略模式、模板方法模式、观察者模式、迭代子模式、责任链模式、命令模式、备忘录模式、状态模式、访问者模式、中介者模式、解释器模式
              实战项目
(实战化,才能塑造真功夫。尚学堂让你进入编程世界的第一天就开始接触实战项目。这是其他机构完全做不到的。)
              福彩双色球模拟
(简单的小项目,让大家开开荤,练练算法。顺便试试手气,看能不能中500万。^_^)
阶段技能 通过仿12306订票系统、福彩双色球模拟、美式普尔桌球三大项目的训练,学员掌握桌面应用软件的编程,能够单独写完10000行代码,深度熟悉JavaSE的多项特性,例如易于开发性、元数据、泛型、并发实用程序等,成为行业认证的“JavaSE工程师”,实现熟练操作数据库连接、接口定义、输入/输出、网络编程等技能,能够开发基于JAVA的数据库、网络应用等底层系统应用。月薪达到6000~8000元。
数据库阶段
阶段 技术名称 技术内容
课程大纲 ORACLE数据库 oracle 基础管理;SQL 语言,PL/SQL 语言;触发器、存储过程;
序列、索引、视图对象;数据备份与移植;多表连接难题详解;MySQL数据库的使用;
MYSQL数据库 Mysql5.5/5.6数据库、navigat客户端软件; 业界常见问题设计;数据库表的设计范式;
数据库设计 设计的三大范式;PowerDesigner的使用;
JDBC技术 JDBC基础;Statement、PreparedStatement、ResultSet结果集对象等。
数据库连接池技术 Pool池的思想;连接池技术;C3P0、proxool连接池等;使用设计模式开发连接池;详细扩展与测试池效率;
ORM对象关系映射基本思想 使用反射机制和ORM思想封装JDBC工具
SQL优化
数据库常见笔试题和面试题
web前端阶段
阶段 技术名称 技术内容
课程大纲 HTML5 & CSS3 & JavaScript JOHTML5 语言;
CSS 3语言; JavaScript 语言;作用域,闭包,继承,模块化编程,异步加载;
BOM浏览器对象模型; DOM文档对象模型;
JS操作CSS; JS操作DOM; ECMAScript; JS操作DIV;protoype;js基于对象编程;
HTML 5新技术特点;
webSocket,地理定位,canvas;
Firefox和chrome浏览器开发者工具;javascript控制台console;
CommonsJS, Requires.js javascript模块化开发
jqueryUI/jquery easyui
(选讲一个)
教授企业常用jquery ui和jquery easyui组件
Echart/fusioncharts/highcharts
报表工具(选讲一个)
报表统计、报表处理;图表处理;
JavaEE阶段
阶段 技术名称 技术内容
课程大纲 TCP/IP及Http协议深入讲解 深入理解协议内部机制;掌握TCP/IP协议与HTTP协议的通信标准
Servlet 和JSP Servlet 技术;JSP 技术; JSTL Tag Library 技术; Filter&Listener技术
报表系统; FileUploading; Tomcat 服务器技术;servlet 过滤器和AOP编程;servlet监听器
              Servlet 4 新特性
(讲解最新的技术,领先潮流。普通机构能做到吗?)
请求/响应复用;流的优先级;服务器推送
Http 2.0 新协议
HTML 5.1 CANVAS;SVG;GeoLocation;离线缓存;WebSocket通信协议
Git版本控制系统 深入学习git版本控制系统,并把自己的项目托管到github或其他git代码托管平台,尝试参与开源软件开发
XML 技术 XML + XSL + DTD/Schema;XML数据解析
Tomcat服务器 服务器使用; config配置详解; 高并发访问下的tomcat优化
AJAX技术 AJAX的原理,AJAX的开发步骤,AJAX的优化与兼容性问题
                   jQuery 3
(前端开发的利器,任何程序员都应掌握的一把瑞士军刀。别人再讲jQuery1的时候,我们已经再讲和企业同步的JQuery3了。培训机构必须迅速跟上企业的步伐,不然和大学还有什么分别?)
最新的JavaScript框架jQuery,2016年6月发布最新版3.0,更快的速度,更小的尺寸,更优越的设计
阶段技能 此阶段,学员掌握JavaEE这套全然不同于传统应用开发的技术架构,依托JavaEE的支持异构环境、高效的开发、可伸缩性等优势,结合虎峰物业收费系统、易人贷P2P互联网金融平台、尚学堂作业管理系统、速学堂四大项目的实战训练,熟练使用JavaEE的核心技术,例如EJB、JSP、JMS、JDBC、XML等;通过20000行代码训练,学员不仅能满足无需太多费用而又需要高可用性、高可靠性以及可扩展性的应用的需求,降低了开发多层应用的费用和复杂性,同时具备独立开发互联网网站及数据库工程的能力。薪资达到8000~10000元。
linux+搜索+hadoop体系
阶段 技术内容
Linux大纲 这章是基础课程,帮大家进入大数据领域打好Linux基础,以便更好地学习Hadoop,hbase,NoSQL,Spark,Storm,docker,kvm,openstack等众多课程。因为企业中无一例外的是使用Linux来搭建或部署项目。
1) Linux的介绍,Linux的安装:VMware Workstation虚拟软件安装过程、CentOS虚拟机安装过程
2) 了解机架服务器,采用真实机架服务器部署linux
3) Linux的常用命令:常用命令的介绍、常用命令的使用和练习
4) Linux系统进程管理基本原理及相关管理工具如ps、pkill、top、htop等的使用;
5) Linux启动流程,运行级别详解,chkconfig详解
6) VI、VIM编辑器:VI、VIM编辑器的介绍、VI、VIM扥使用和常用快捷键
7) Linux用户和组账户管理:用户的管理、组管理
8) Linux磁盘管理,lvm逻辑卷,nfs详解
9) Linux系统文件权限管理:文件权限介绍、文件权限的操作
10) Linux的RPM软件包管理:RPM包的介绍、RPM安装、卸载等操作
11) yum命令,yum源搭建
12) Linux网络:Linux网络的介绍、Linux网络的配置和维护
13) Shell编程:Shell的介绍、Shell脚本的编写
14) Linux上常见软件的安装:安装JDK、安装Tomcat、安装mysql,web项目部署
大型网站
高并发处理
通过本章的学习大家将会了解大数据的源头,数据从何而来,继而更好的了解大数据。并且通过学习何果处理大型网站高并发问题反向更深入的学习了Linux,同时站在了更高的角度去触探了架构。
1) 第四层负载均衡
    a) Lvs负载均衡
        i. 负载算法,NAT模式,直接路由模式(DR),隧道模式(TUN)
    b) F5负载均衡器介绍
2) 第七层负载均衡
    a) Nginx     b) Apache
3) Tomcat、jvm优化提高并发量
4) 缓存优化
    a) Java缓存框架
        i. Oscache,ehcache
    b) 缓存数据库
        i. Redis,Memcached
5) Lvs+nginx+tomcat+redis|memcache构建二层负载均衡千万并发处理
6) Haproxy
7) Fastdfs小文件独立存储管理
8) Redis缓存系统
    a) Redis基本使用     b) Redis sentinel高可用     c) Redis好友推荐算法
Lucene课程 在大数据里面文本数据的搜索是很重要的一块,特别是里面的分词技术,是后面机器学习里面文本挖掘的基石,我们需要深入学习java领域里面的搜索核心技术lucene,同时也可以了解到百度 google这样的搜索系统是怎么架构实现的。
1) Lucene介绍
2) Lucene 倒排索引原理
3) 建索引 IndexWriter
4) 搜索 IndexSearcher
5) Query
6) Sort和 过滤 (filter)
7) 索引优化和高亮
Solr课程 接着前面lucene技术搜索,如果把lucene技术比如为发动机,那solr就是一两成型的汽车了。学习完solr可以帮助你在企业里面快速的架构搜索系统。首先Solr是基于Lucene做的,Lucene是一套信息检索工具包,但并不包含搜索引擎系统,它包含了索引结构、读写索引工具、相关性工具、排序等功能,因此在使用Lucene时你仍需要关注搜索引擎系统,例如数据获取、解析、分词等方面的东西。而Solr的目标是打造一款企业级的搜索引擎系统,因此它更接近于我们认识到的搜索引擎系统,它是一个搜索引擎服务,通过各种API可以让你的应用使用搜索服务,而不需要将搜索逻辑耦合在应用中。而且Solr可以根据配置文件定义数据解析的方式,更像是一个搜索框架,它也支持主从、热换库等操作。还添加了飘红、facet等搜索引擎常见功能的支持。
1) 什么是solr
2) 为什么工程中要使用solr
3) Solr的原理
4) 如何在tomcat中运行solr
5) 如何利用solr进行索引与搜索
6) solr的各种查询
7) solr的Filter
8) solr的排序
9) solr的高亮
10) solr的某个域统计
11) solr的范围统计
12) solrcloud集群搭建
Hadoop
离线计算大纲
一、初识hadoop 听过大数据,必听过hadoop,此部分带领大家了解hadoop的用途,在大数据中的用途,以及快速搭建一个hadoop的实验环境,在本过程中不仅将用到前面的Linux知识,而且会对hadoop的架构有深入的理解,并为你以后架构大数据项目打下坚实基础。

 

1) Hadoop生态环境介绍
2) Hadoop云计算中的位置和关系
3) 国内外Hadoop应用案例介绍
4) Hadoop 概念、版本、历史
5) Hadoop 核心组成介绍及hdfs、mapreduce 体系结构
6) Hadoop 的集群结构
7) Hadoop 伪分布的详细安装步骤
8) 通过命令行和浏览器观察hadoop
二、 HDFS体系结构和shell以及java操作 详细剖析HDFS,从知晓原理到开发网盘的项目让大家打好学习大数据的基础,大数据之于分布式,分布式学习从学习分布式文件系统(HDFS)开始。
1) HDFS底层工作原理
2) HDFS datanode,namenode详解
3) Hdfs shell
4) Hdfs java api
三、 详细讲解Mapreduce Mapreduce可以说是任何一家大数据公司都会用到的计算框架,也是每个大数据工程师应该熟练掌握的,此处的学习除了老师详细的讲解理论外,会通过大量的案例让大家彻底掌握。
1) Mapreduce四个阶段介绍
2) Writable
3) InputSplit和OutputSplit
4) Maptask
5) Shuffle:Sort,Partitioner,Group,Combiner
6) Reducer
四、 Mapreduce案例案例
1) 二次排序
2) 倒排序索引
3) 最优路径
4) 电信数据挖掘之-----移动轨迹预测分析(中国棱镜计划)
5) 社交好友推荐算法
6) 互联网精准广告推送 算法
五、 Hadoop2.x集群搭建 前面带领大家开发了大量的MapReduce程序,此部分将带来大家让开发的程序运行在分布式集群中,并且运行在健壮高可用的集群中。
1) Hadoop2.x集群结构体系介绍
2) Hadoop2.x集群搭建
3) NameNode的高可用性(HA)
4) HDFS Federation
5) ResourceManager 的高可用性(HA)
6) Hadoop集群常见问题和解决方法
7) Hadoop集群管理
分布式数据库
Hbase
大数据中使用Hbase的案例多的举不胜举,也可凸显大家学习的必要性。即使工作多年的大数据工程师Hbase的优化也是需要好好学习的重点。
1) HBase定义
2) HBase与RDBMS的对比
3) 数据模型
4) 系统架构
5) HBase上的MapReduce
6) 表的设计
7) 集群的搭建过程讲解
8) 集群的监控
9) 集群的管理
10) HBase Shell以及演示
11) Hbase 树形表设计
12) Hbase 一对多 和 多对多 表设计
13) Hbase 微博 案例
14) Hbase 订单案例
15) Hbase表级优化
16) Hbase 写数据优化
17) Hbase 读数据优化
数据仓库Hive Hive是使用sql进行计算的hadoop框架,工作中最常用到的部分,也是面试的重点,此部分大家将从方方面面来学习Hive的应用,任何细节都将给大家涉及到。
1) 数据仓库基础知识
2) Hive定义
3) Hive体系结构简介
4) Hive集群
5) 客户端简介
6) HiveQL定义
7) HiveQL与SQL的比较
8) 数据类型
9) 外部表和分区表
10) ddl与CLI客户端演示
11) dml与CLI客户端演示
12) select与CLI客户端演示
13) Operators 和 functions与CLI客户端演示
14) Hive server2 与jdbc
15) 用户自定义函数(UDF 和 UDAF)的开发与演示
16) Hive 优化
数据迁移工具Sqoop sqoop适用于关系型数据库和HDFS分布式数据系统之间进行数据转换,在企业中,是构建数据仓库的一大工具。
1) 介绍 和 配置Sqoop
2) Sqoop shell使用
3) Sqoop-import
    a) DBMS-hdfs     b) DBMS-hive     c) DBMS-hbase
4) Sqoop-export
Flume分布式
日志框架
Flume最早是Cloudera提供的日志收集系统,目前是Apache下的一个孵化项目,Flume支持在日志系统中定制各类数据发送方,用于收集数据。大家学习完此节后不但可以掌握Flume的使用,而且可以进行对于Flume的开发。
1) flume简介-基础知识
2) flume安装与测试
3) flume部署方式
4) flume source相关配置及测试
5) flume sink相关配置及测试
6) flume selector 相关配置与案例分析
7) flume Sink Processors相关配置和案例分析
8) flume Interceptors相关配置和案例分析
9) flume AVRO Client开发
10) flume 和kafka 的整合
Zookeeper
开发
Zookeeper在分布式集群(Hadoop生态圈)中的地位越来越突出,对分布式应用的开发也提供了极大便利,这也是这里我们带领大家深入学习 Zookeeper的原因。本课程主要内容包括Zookeeper深入、客户端开发(Java编程,案例开发)、日常运维、Web界面监控。大家这里学好Zookeeper,对后面学习其他技术至关重要。
1) Zookeeper java api开发
2) Zookeeper rmi高可用分布式集群开发
3) Zookeeper redis高可用监控实现
4) Netty 异步io通信框架
5) Zookeeper实现netty分布式架构的高可用
项目实战 某大型电商日志分析和订单管理 在实战中学习,技术点非常多,怎么样实际运用这些点是我们在自学过程中体验不到的。电商日志分析包括:pv、uv,跳出率,二跳率、广告转化率、搜索引擎优化等,订单模块有:产品推荐,商家排名,历史订单查询,订单报表统计等。
项目技术架构体系:
a) Web项目和云计算项目的整合
b) Flume通过avro实时收集web项目中的日志
c) 数据的ETL
d) Hive 批量 sql执行
e) Hive 自定义函数
f) Hive和hbase整合。
g) Hbase 数据支持 sql查询分析
h) Mapreduce数据挖掘
i) Hbase dao处理
j) Sqoop 在项目中的使用。
k) Mapreduce 定时调用和监控
storm流式计算
阶段 技术内容
redis缓存
系统课程大纲
1) redis特点、与其他数据库的比较
2) 如何安装redis
3) 如何使用命令行客户端
4) redis的字符串类型
5) redis的散列类型
6) redis的列表类型
7) redis的集合类型
8) 如何使用java访问redis【a.python访问redis,scala访问redis】
9) redis的事务(transaction)
10) redis的管道(pipeline)
11) redis持久化(AOF+RDB)
12) redis优化
13) redis的主从复制
14) redis的sentinel高可用
15) twemproxy,codis实战
16) redis3.x集群安装配置
Kafka课程 Kafka是当下流行的队列,可以说是从数据采集到大数据计算承上启下的重要环节,大家在此部分将会详细学习它的架构,kafka在大家大数据的项目中几乎都会涉及到。
1) kafka是什么
2) kafka体系结构
3) kafka配置详解
4) kafka的安装
5) kafka的存储策略
6) kafka分区特点
7) kafka的发布与订阅
8) zookeeper协调管理
9) java编程操作kafka
10) scala编程操作kafka
11) flume 和kafka 的整合
12) Kafka 和storm 的整合
Storm
实时数据处理
本部分学习过后,大家将全面掌握Storm内部机制和原理,通过大量项目实战,让大家拥有完整项目开发思路和架构设计,掌握从数据采集到实时计算到数据存储再到前台展示,所有工作一个人搞定!譬如可以一个人搞定淘宝双11大屏幕项目!不光从项目的开发的层次去实现,并可以从架构的层次站在架构师的角度去完成一个项目。
项目技术架构体系:
1) Storm的基本概念
2) Storm的应用场景
3) Storm和Hadoop的对比
4) Storm集群的安装的linux环境准备
5) zookeeper集群搭建
6) Storm集群搭建
7) Storm配置文件配置项讲解
8) 集群搭建常见问题解决
9) Storm常用组件和编程API:Topology、 Spout、Bolt
10) Storm分组策略(stream groupings)
11) 使用Strom开发一个WordCount例子
12) Storm程序本地模式debug、Storm程序远程debug
13) Storm事物处理
14) Storm消息可靠性及容错原理
15) Storm结合消息队列Kafka:消息队列基本概念(Producer、Consumer、Topic、Broker等)、消息队列Kafka使用场景、Storm结合Kafka编程API
16) Storm Trident概念
17) Trident state 原理
18) Trident开发实例
19) Storm DRPC(分布式远程调用)介绍
20) Storm DRPC实战讲解
21) Storm和Hadoop 2.x的整合:Storm on Yarn
Storm开发实战: Kafka+Storm+Hbase+redis项目实战,以及多个案例
项目实战 项目技术架构体系:
Storm+hbase+kafka+flume+echarts
a) flume实时采集日志
b) kafka缓冲队列
c) storm实时处理
d) Hbase dao存储处理结果
e) 前端Web实时展示报表
spark内存计算
阶段 技术内容
Scala课程 在此部分内,将更注重scala的各种语言规则与简单直接的应用,而不在于其是如何具体实现,通过学习本课程能具备初步的Scala语言实际编程能力。本部分课程也可以视为大家下面学习Spark课程的铺垫,供大家扫盲熟悉Scala,提前进行热身运动。
1) scala解释器、变量、常用数据类型等
2) scala的条件表达式、输入输出、循环等控制结构
3) scala的函数、默认参数、变长参数等
4) scala的数组、变长数组、多维数组等
5) scala的映射、元组等操作
6) scala的类,包括bean属性、辅助构造器、主构造器等
7) scala的对象、单例对象、伴生对象、扩展类、apply方法等
8) scala的包、引入、继承等概念
9) scala的特质
10) scala的操作符
11) scala的高阶函数
12) scala的集合
13) scala数据库连接
Spark
大数据处理
本部分内容全面涵盖了Spark生态系统的概述及其编程模型,深入内核的研究,Spark on Yarn,Spark Streaming流式计算原理与实践,Spark SQL,Spark的多语言编程以及SparkR的原理和运行。不仅面向项目开发人员,甚至对于研究Spark的学员,此部分都是非常有学习指引意义的课程。
1) Spark介绍
2) Spark应用场景
3) Spark和Hadoop MR、Storm的比较和优势
4) RDD
5) Transformation
6) Action
7) Spark计算PageRank
8) Lineage
9) Spark模型简介
10) Spark缓存策略和容错处理
11) 宽依赖与窄依赖
12) Spark配置讲解
13) Spark集群搭建
14) 集群搭建常见问题解决
15) Spark原理核心组件和常用RDD
16) 数据本地性
17) 任务调度
18) DAGScheduler
19) TaskScheduler
20) Spark源码解读
21) 性能调优
22) Spark和Hadoop2.x整合:Spark on Yarn原理
Spark Streaming
实时计算
1) Spark Streaming:数据源和DStream
2) 无状态transformation与有状态transformation
3) Streaming Window的操作
4) sparksql 编程实战
5) spark的多语言操作
6) spark最新版本的新特性
项目实战