搜书网
发现
标签
注册
登录
搜书网
发现
榜单
标签
注册
登录
Spark大数据处理：技术、应用与性能优化
文档评分：
4.0 （
0 个有效评分
）
文档语言：
中文
章节数量：
120
阅读人次：
3752
收藏数量：
0
内容来源：
高彦杰
整理分享：
豆瓣
阅读
收藏
下载
分享
阅读
收藏
下载
分享
文档标签
Spark
大数据
文档概述
《Spark大数据处理：技术、应用与性能优化》根据最新技术版本，系统、全面、详细讲解Spark的各项功能使用、原理机制、技术细节、应用方法、性能优化，以及BDAS生态系统的相关技术。 作为一个基于内存计算的大数据并行计算框架，Spark不仅很好地解决了数据的实时处理问题，而且保证了高容错性和高可伸缩性。具体来讲，它有如下优势： 打造全栈多计算范式的高效数据流水线 轻量级快速处理 易于使用，支持多语言 与HDFS等存储层兼容 社区活跃度高 ……
书籍目录
书籍评论 (
0
)
前言
第1章 Spark简介
1.1 Spark是什么
1.2 Spark生态系统BDAS
1.3 Spark架构
1.4 Spark分布式架构与单机多核架构的异同
1.5 Spark的企业级应用
1.5.1 Spark在Amazon中的应用
1.5.2 Spark在Yahoo！的应用
1.5.3 Spark在西班牙电信的应用
1.5.4 Spark在淘宝的应用
1.6 本章小结
第2章 Spark集群的安装与部署
2.1 Spark的安装与部署
2.1.1 在Linux集群上安装与配置Spark
2.1.2 在Windows上安装与配置Spark
2.2 Spark集群初试
2.3 本章小结
第3章 Spark计算模型
3.1 Spark程序模型
3.2 弹性分布式数据集
3.2.1 RDD简介
3.2.2 RDD与分布式共享内存的异同
3.2.3 Spark的数据存储
3.3 Spark算子分类及功能
3.3.1 Value型Transformation算子
3.3.2 Key-Value型Transformation算子
3.3.3 Actions算子
3.4 本章小结
第4章 Spark工作机制详解
4.1 Spark应用执行机制
4.1.1 Spark执行机制总览
4.1.2 Spark应用的概念
4.1.3 应用提交与执行方式
4.2 Spark调度与任务分配模块
4.2.1 Spark应用程序之间的调度
4.2.2 Spark应用程序内Job的调度
4.2.3 Stage和TaskSetManager调度方式
4.2.4 Task调度
4.3 Spark I/O机制
4.3.1 序列化
4.3.2 压缩
4.3.3 Spark块管理
4.4 Spark通信模块
4.4.1 通信框架AKKA
4.4.2 Client、Master和Worker间的通信
4.5 容错机制
4.5.1 Lineage机制
4.5.2 Checkpoint机制
4.6 Shuffle机制
4.7 本章小结
第5章 Spark开发环境配置及流程
5.1 Spark应用开发环境配置
5.1.1 使用Intellij开发Spark程序
5.1.2 使用Eclipse开发Spark程序
5.1.3 使用SBT构建Spark程序
5.1.4 使用Spark Shell开发运行Spark程序
5.2 远程调试Spark程序
5.3 Spark编译
5.4 配置Spark源码阅读环境
5.5 本章小结
第6章 Spark编程实战
6.1 WordCount
6.2 Top K
6.3 中位数
6.4 倒排索引
6.5 CountOnce
6.6 倾斜连接
6.7 股票趋势预测
6.8 本章小结
第7章 Benchmark使用详解
7.1 Benchmark简介
7.1.1 Intel Hibench与Berkeley BigDataBench
7.1.2 Hadoop GridMix
7.1.3 Bigbench、BigDataBenchmark与TPC-DS
7.1.4 其他Benchmark
7.2 Benchmark的组成
7.2.1 数据集
7.2.2 工作负载
7.2.3 度量指标
7.3 Benchmark的使用
7.3.1 使用Hibench
7.3.2 使用TPC-DS
7.3.3 使用BigDataBench
7.4 本章小结
第8章 BDAS简介
8.1 SQL on Spark[1]
8.1.1 使用Spark SQL的原因
8.1.2 Spark SQL架构分析
8.1.3 Shark简介
8.1.4 Hive on Spark
8.1.5 未来展望
8.2 Spark Streaming
8.2.1 Spark Streaming简介
8.2.2 Spark Streaming架构
8.2.3 Spark Streaming原理剖析
8.2.4 Spark Streaming调优
8.2.5 Spark Streaming实例
8.3 GraphX
8.3.1 GraphX简介
8.3.2 GraphX的使用
8.3.3 GraphX架构
8.3.4 运行实例
8.4 MLlib
8.4.1 MLlib简介
8.4.2 MLlib的数据存储
8.4.3 数据转换为向量（向量空间模型VSM）
8.4.4 MLlib中的聚类和分类
8.4.5 算法应用实例
8.4.6 利用MLlib进行电影推荐
8.5 本章小结
第9章 Spark性能调优
9.1 配置参数
9.2 调优技巧
9.2.1 调度与分区优化
9.2.2 内存存储优化
9.2.3 网络传输优化
9.2.4 序列化与压缩
9.2.5 其他优化方法
9.3 本章小结
相关书籍
鲜活的数据:数据可视化指南
驾驭大数据
大数据在中国
数据之美 : 解密优雅数据解决方案背后的故事
删除：大数据取舍之道
七周七数据库
算法技术手册
动手学大模型应用开发
利用Python进行数据分析
爆发：大数据时代预见未来的新思维 (湛庐文化•财富汇)
数据结构与算法/leetcode/lintcode题解/
决战大数据：驾驭未来商业的利器
×
分享，让知识传承更久远
×
文档下载
请下载您需要的格式的文档，随时随地，享受汲取知识的乐趣！
PDF
文档
EPUB
文档
MOBI
文档
