更新时间:2019-01-01 01:31:23
封面
版权信息
前言
第1章 Spark简介
1.1 初识Spark
1.2 Spark生态系统BDAS
1.3 Spark架构与运行逻辑
1.4 弹性分布式数据集
1.4.1 RDD简介
1.4.2 RDD算子分类
1.5 本章小结
第2章 Spark开发与环境配置
2.1 Spark应用开发环境配置
2.1.1 使用Intellij开发Spark程序
2.1.2 使用SparkShell进行交互式数据分析
2.2 远程调试Spark程序
2.3 Spark编译
2.4 配置Spark源码阅读环境
2.5 本章小结
第3章 BDAS简介
3.1 SQL on Spark
3.1.1 为什么使用Spark SQL
3.1.2 Spark SQL架构分析
3.2 Spark Streaming
3.2.1 Spark Streaming简介
3.2.2 Spark Streaming架构
3.2.3 Spark Streaming原理剖析
3.3 GraphX
3.3.1 GraphX简介
3.3.2 GraphX的使用简介
3.3.3 GraphX体系结构
3.4 MLlib
3.4.1 MLlib简介
3.4.2 MLlib中的聚类和分类
3.5 本章小结
第4章 Lamda架构日志分析流水线
4.1 日志分析概述
4.2 日志分析指标
4.3 Lamda架构
4.4 构建日志分析数据流水线
4.4.1 用Flume进行日志采集
4.4.2 用Kafka将日志汇总
4.4.3 用Spark Streaming进行实时日志分析
4.4.4 Spark SQL离线日志分析
4.4.5 用Flask将日志KPI可视化
4.5 本章小结
第5章 基于云平台和用户日志的推荐系统
5.1 Azure云平台简介
5.1.1 Azure网站模型
5.1.2 Azure数据存储
5.1.3 Azure Queue消息传递
5.2 系统架构
5.3 构建Node.js应用
5.3.1 创建Azure Web应用
5.3.2 构建本地Node.js网站
5.3.3 发布应用到云平台
5.4 数据收集与预处理
5.4.1 通过JS收集用户行为日志
5.4.2 用户实时行为回传到Azure Queue
5.5 Spark Streaming实时分析用户日志
5.5.1 构建Azure Queue的Spark Streaming Receiver
5.5.2 Spark Streaming实时处理Azure Queue日志
5.5.3 Spark Streaming数据存储于Azure Table
5.6 MLlib离线训练模型
5.6.1 加载训练数据
5.6.2 使用rating RDD训练ALS模型
5.6.3 使用ALS模型进行电影推荐
5.6.4 评估模型的均方差
5.7 本章小结
第6章 Twitter情感分析
6.1 系统架构
6.2 Twitter数据收集
6.2.1 设置
6.2.2 Spark Streaming接收并输出Tweet
6.3 数据预处理与Cassandra存储
6.3.1 添加SBT依赖
6.3.2 创建Cassandra Schema
6.3.3 数据存储于Cassandra
6.4 Spark Streaming热点Twitter分析
6.5 Spark Streaming在线情感分析
6.6 Spark SQL进行Twitter分析
6.6.1 读取Cassandra数据
6.6.2 查看JSON数据模式
6.6.3 Spark SQL分析Twitter
6.7 Twitter可视化
6.8 本章小结
第7章 热点新闻分析系统
7.1 新闻数据分析
7.2 系统架构
7.3 爬虫抓取网络信息
7.3.1 Scrapy简介
7.3.2 创建基于Scrapy的新闻爬虫
7.3.3 爬虫分布式化
7.4 新闻文本数据预处理
7.5 新闻聚类
7.5.1 数据转换为向量(向量空间模型VSM)
7.5.2 新闻聚类
7.5.3 词向量同义词查询
7.5.4 实时热点新闻分析
7.6 Spark Elastic Search构建全文检索引擎