亿级电商实时数据分析平台构建实战(第一期) 亿级电商实时数据分析平台构建实战(第一期)
所属分类:数据分析
  课程名 : 亿级电商实时数据分析平台构建实战(第一期)【已结课】 总学费/人 : ¥400 (固定学费:¥100, 逆向学费:¥300) 开课时间 : 2020-08-22 09:00:00 
开课老师 : 友凡


课程简介:

基于Flink+ClickHouse构建亿级电商实时数据分析平台(PC、移动、小程序)


引用网络文章开启本课程的开篇: 

在大数据分析领域中,传统的大数据分析需要不同框架和技术组合才能达到最终的效果,在人力成本,技术能力和硬件成本上以及维护成本让大数据分析变得成为昂贵的事情。让很多中小型企业非常苦恼,不得不被迫租赁第三方大型公司的数据分析服务。 

ClickHouse开源的出现让许多想做大数据并且想做大数据分析的很多公司和企业耳目一新。ClickHouse 正是以不依赖Hadoop 生态、安装和维护简单、查询速度快、可以支持SQL等特点在大数据分析领域越走越远。 

本课程采用全新的大数据技术栈:Flink+ClickHouse,让你体验到全新技术栈的强大,感受时代变化的气息,通过学习完本课程可以节省你摸索的时间,节省企业成本,提高企业开发效率。本课程不仅告诉你如何做项目,还会告诉你如何验证系统如何支撑亿级并发,如何部署项目等等。希望本课程对一些企业开发人员和对新技术栈有兴趣的伙伴有所帮助,如对我录制的教程内容有建议请及时交流。

课程概述:
在这个数据爆发的时代,像大型电商的数据量达到百亿级别,我们往往无法对海量的明细数据做进一步层次的预聚合,大量的业务数据都是好几亿数据关联,并且我们需要聚合结果能在秒级返回。 

那么我们该如何实现这一需求呢?基于Flink+ClickHouse构建电商亿级实时数据分析平台课程,将带领大家一步一步从无到有实现一个高性能的实时数据分析平台,该系统以热门的互联网电商实际业务应用场景为案例讲解,对电商数据的常见实战指标以及难点实战指标进行了详尽讲解,具体指标包括:概况统计、全站流量分析、渠道分析、广告分析、订单分析、运营分析(团购、秒杀、指定活动)等,该系统指标分为分钟级和小时级多时间方位分析,能承载海量数据的实时分析,数据分析涵盖全端(PC、移动、小程序)应用。

本课程凝聚讲师多年一线大数据企业实际项目经验,大数据企业在职架构师亲自授课,全程实操代码,带你体验真实的大数据开发过程,代码现场调试。通过本课程的学习再加上老师的答疑,你完全可以将本案例直接应用于企业。 


项目截图


本课程包含的技术: 

开发工具为:IDEA、WebStorm 
Flink1.9.0 
ClickHouse
Hadoop2.6.0 
Hbase1.0.0 
Kafka2.1.0 
Hive1.0.0 
Jmeter(验证如何支撑亿级并发)
Docker (虚拟化部署)
HDFS、MapReduce 
Zookeeper 
SpringBoot2.0.2.RELEASE 
SpringCloud Finchley.RELEASE Binlog、
Canal 
MySQL 
Vue.js、Nodejs 
Highcharts 
Linux Shell编程 

课程亮点: 
1.与企业无缝对接、真实工业界产品 
2.ClickHouse高性能列式存储数据库 
3.大数据热门技术Flink新版本 
4.Flink join 实战 
5.Flink 自定义输出路径实战 
6.全链路性能压力测试 
7.虚拟化部署 
8.集成指标明细查询 
9.主流微服务后端系统 
10.分钟级别与小时级别多时间方位分析 
11.数据库实时同步解决方案 
12.涵盖主流前端技术VUE+jQuery+Ajax+NodeJS 
13.集成SpringCloud实现统一整合方案 
14.互联网大数据企业热门技术栈 
15.支持海量数据的实时分析 
16.支持全端实时数据分析 
17.全程代码实操,提供全部代码和资料 
18.提供答疑和提供企业技术方案咨询

企业一线架构师讲授,代码在老师的指导下企业可以复用,提供企业解决方案。  


课程大纲:
第一课:实时分析服务以及采集服务构建
1、课程说明免费
2、课程价值说明免费
3、数据采集服务构建免费
4、Spring Cloud Eureka构建服务注册中心
5、日志数据结构深度讲解
6、数据采集服务完善以及客户端数据上报实战
7、kafka环境搭建以及kafka联调测试
8、数据采集服务整合kafka
9、flink部署以及任务提交讲解
10、flink+kafka构建实时分析服务
11、flink+kafka构建实时分析服务联调测试以及效果演示

第二课:ClickHouse讲解和实战以及用户多终端多状态设计和开发
12、hadoop环境搭建
13、ClickHouse 初识讲解
14、ClickHouse安装详解以及简单使用讲解
15、ClickHouse数据类型以及常用操作实战
16、ClickHouse java使用讲解
17、ClickHouse java使用讲解
18、日志数据完善优化讲解
19、数据收集服务优化完善
20、hbase环境安装
21、hbase 工具类代码编写以及联调测试
22、用户状态设计讲解
23、数据收集服务业务处理
24、新增用户状态封装代码编写
25、用户多终端活跃状态封装代码编写
26、日期工具代码编写以及数据收集服务业务处理代码完善

第三课:全站流量多维度多时间方位分析
27、全站流量分析访问次数分钟级map代码编写
28、全站流量分析访问次数分钟级浏览量reduce以及sink代码编写
29、全站流量分析新增用户分钟级趋势代码编写
30、全站流量分析多时间周期活跃用户分钟级趋势代码编写
31、全站流量分析分钟级用户趋势以及分钟级用户去重代码编写
32、全站流量分析小时级趋势分析代码编写以及巧妙代码重构
33、全站流量趋势分析完善补充
34、全站流量分析时间间隔处理代码编写
35、flink自定义输出路径BucketingSink
36、flink事件数据规则自定义输出路径代码编写以及效果演示
37、flink自定义输出路径StreamingFileSink代码编写以及效果演示
38、全站流量分析之flink实现用户小时级明细map代码编写
39、全站流量分析之flink实现小时级明细reduce以及filesink代码编写
40、全站流量分析之flink实现小时级明细分区路径优化代码编写

第四课:用户指标明细以及渠道分析
41、hive安装实战
42、hive使用详解
43、Hive JsonSerde实战讲解
44、全站流量分析小时级用户明细联调测试
45、全站流量分析小时级用户明细bug调试以及问题解决实战讲解
46、hive 分区表实战讲解
47、linux shell编程讲解
48、linux crontab实战讲解
49、全站流量用户明细hive区分表以及添加分区实现
50、全站流量用户明细定时任务脚本编写以及定时任务设定
51、渠道分析数据以及指标讲解
52、渠道分析分钟级访问次数趋势代码编写
53、渠道分析分钟级新增以及活跃用户趋势代码编写
54、渠道分析小时级分析代码编写
55、渠道分析之小时级用户明细代码编写
56、渠道分析趋势代码完善
57、渠道分析之用户明细hive表构建以及定时任务脚本编写以及定时任务设定

第五课:业务数据实时同步设计和开发
58、业务数据结构讲解
59、业务数据同步之binlog讲解
60、业务数据同步之binlog日志查看
61、业务数据同步之canal讲解
62、业务数据同步之canal+kafka实时同步业务数据
63、业务数据同步之实战联调讲解1
64、业务数据同步之实战联调讲解2
65、业务数据同步之实战联调讲解3
66、flink+fastJson实时处理binlog数据代码编写
67、flink+反射技术实时业务数据提取和存储
68、kafka 工具类代码编写
69、业务数据重定向各个业务topic
70、业务数据实时重定向实战联调演示

第六课:广告多方位分析
71、广告分析之分钟级点击量趋势
72、广告分析之用户趋势实时分析代码编写
73、广告分析之小时级用户明细代码编写
74、广告分析之用户明细hive定时离线导入
75、flink之Join详解
76、flink之Join实战代码编写
77、flink之Join实战效果联调测试
78、广告分析之广告转化率实时分析代码编写1
79、广告分析之广告转化率实时分析代码编写2

第七课:Clickhouse工具封装、flink代码完善以及后端服务和前端vue项目构建
80、ClickHouse业务表构建
81、ClickHouse工具类封装数据转换sql代码编写
82、ClickHouse工具类封装数值类型特殊转换代码编写
83、ClickHouse工具类结合jdbc实战调试数据转换和数据存储
84、flink ClickHouseSink代码完善
85、spring boot 2.x 构建后端接口服务
86、vue.js构建前端项目1
87、vue.js构建前端项目2
88、vue 前端项目模板说明
89、前端系统之vue.js+highcharts构建图表实战

第八课:前端系统之Vue+highchart图表开发、后端接口服务开发、前后端联调及压力测试
90、前端系统之全站流量趋势新增用户趋势实战开发
91、前端系统之vue表格实战
92、前端系统之vue-resource实现后台交互实战
93、前端系统vue代码完善以及后端接口设计和代码编写
94、前端系统联调后端接口服务实战讲解
95、前端系统vue代码调试以及跨域问题解决
96、前端系统之highchart点击事件实战讲解
97、vue 动态参数传递以及页面内部跳转讲解
98、clickhouse表结构优化以及flink sink代码优化
99、flink日期特殊处理9
100、接口服务整合clickhouse代码编写
101、接口服务封装clickhouse查询结果以及数据联调效果演示
102、接口服务之map和set巧妙解决日期乱序数据日期不对称问题
103、接口服务之代码坑讲解以及解决
104、后端数据联调前端项目实战演示
105、接口服务整合hive之hive工具类代码编写
106、后端数据服务整合hive代码编写
107、压力测试jemeter详解
108、flink实时分析系统jemeter压测实战

第九课:全站流量以及广告分析前后端开发、实时分析服务docker化部署、订单分析开发
109、接口服务以及前端系统完善之全站点击量趋势
110、接口服务以及前端系统之全站流量用户数量趋势
111、接口服务以及前端系统之全站流量活跃用户趋势
112、接口服务以及前端系统完善之渠道分析
113、接口服务之广告分析点击趋势和用户趋势代码编写
114、广告分析之广告列表服务以vue 点击事件以及自定义函数及前端开发
115、广告分析之广告转化率接口以及前端代码编写
116、广告分析之广告用户明细接口以及前端代码编写
117、docker 部署实时分析服务之docker安装
118、docker 部署实时分析服务之dockerfile讲解
119、docker部署全流量分析服务实战
120、docker部署全流量分析服务实战
121、docker部署全流量分析服务实战
122、订单分析之订单量趋势分钟级代码编写
123、订单分析之订单量趋势小时级代码编写
124、订单分析之订单用户趋势代码编写
125、订单分析之客单价分析代码编写
126、订单分析完善之clickhouse建表补充

第十课:运营分析开发以及课程总结
127、运营分析表结构讲解
128、运营分析之团购商品类别趋势分钟级代码编写
129、运营分析之团购商品类别趋势小时级完善补充
130、运营分析之团购订单趋势代码编写
131、运营分析之团购用户趋势代码编写
132、运营分析之团购用户趋势代码编写补充讲解
133、运营分析之秒杀成交订单趋势分钟级代码编写
134、运营分析之秒杀成交订单趋势小时级代码编写
135、运营分析之秒杀支付类型趋势代码编写
136、运营分析之秒杀clickhouse表构建补充
137、运营分析之活动地域趋势分析代码编写
138、运营分析之指定活动订单趋势代码编写
139、订单分析后端服务之订单趋势以及用户趋势接口代码编写
140、订单分析后端服务之客单价接口代码编写
141、团购分析后端服务接口代码编写1
142、团购分析后端服务接口代码编写2
143、秒杀活动分析后端服务接口代码编写
144、指定活动分析后端服务接口代码编写
145、订单分析前端代码开发
146、团购分析前端代码开发
147、秒杀分析以及活动分析前端代码开发讲解
148、clickhouse实现实时概况统计实战
149、clickhouse实现实时概况统计实战
150、前端项目完善
151、前端项目完善
152、课程总结
153、项目最终效果演示



 

GMT+8, 2020-12-5 06:48 , Processed in 0.095571 second(s), 29 queries .