在使用之前需要定义表的一个模式
在表中存储相关联的数据
使用一个强声明性语言查询
提供足够的支持，专业技能和工具

将相关联的数据存储在类似JSON格式，名称-值
可以保存没有指定格式的数据
保证更新一个文档，但不是多个文档
提供出色的性能和可伸缩性
使用JSON数据对象查询
SQL数据存在特定结构的表中；
而NoSQL则更加灵活和可扩展，存储方式可以是JSON文档、哈希表或者其他方式。
b 表/集合数据的关系

SQL中，必须定义好表和字段结构后才能添加数据，例如定义表的主键(primary key)，索引(index),触发器(trigger),存储过程(stored procedure)等。表结构可以在被定义之后更新，但是如果有比较大的结构变更的话就会变得比较复杂。
在NoSQL中，数据可以在任何时候任何地方添加，不需要先定义表。
NoSQL也可以在数据集中建立索引。以MongoDB为例，会自动在数据集合创建后创建唯一值_id字段，这样的话就可以在数据集创建后增加索引。从这点来看，NoSQL可能更加适合初始化数据还不明确或者未定的项目中。
SQL中如果需要增加外部关联数据的话，规范化做法是在原表中增加一个外键，关联外部数据表。
NoSQL中除了这种规范化的外部数据表做法以外，我们还能用如下的非规范化方式把外部数据直接放到原数据集中，以提高查询效率。缺点也比较明显，更新审核人数据的时候将会比较麻烦。
SQL中可以使用JOIN表链接方式将多个关系数据表中的数据用一条简单的查询语句查询出来。
NoSQL未提供对多个数据集中的数据做查询。
SQL中不允许删除已经被使用的外部数据，例如审核人表中的"熊三"已经被分配给了借阅人熊大，那么在审核人表中将不允许删除熊三这条数据，以保证数据完整性。

而NoSQL中则没有这种强耦合的概念，可以随时删除任何数据。

2.内部表、外部表的区别及使用场景
3.讲一下hadoop生态圈的组件，说一下你对hadoop的认识程度（需要理解并背下来）
4.join需要注意的地方(hive查询中需要注意的地方及优化方法)
2.Hbase、Impala、Hive分别是用来干什么的，其中impala和hive的区别又是什么，优缺点各是什么
4.hive优化操作有哪些， 动态分区怎么添加，怎样修改表的列名
5.聊一下你平时用到的模型是怎么建立的，函数都有哪些参数，怎样优化的，是怎样得出的结果的 （口述模型设计流程）
6.linux查看占用端口情况
7.怎样改变文件夹所属的用户
11.场景：abc三个维度，用户id相同，怎么去重
2.hive都用到哪些函数
3.模型设计的整体流程，有没有具体的例子，为什么要用这种模型，有什么优点 （口述模型设计流程）
6.impala跟hive是怎么关联到一起的，怎么用
1.正则表达式中标点符号用什么表示
6.shell中怎样验证一条命令执行成功
9.主键索引，普通索引，怎么看一个索引是否成功
10.hive怎样按照表点符号切分字符串
11.在ETL中最重要的是什么（数据的准确性）
3.storm的ack机制怎样保证数据不会丢失
4.查看进程，端口，内存
6.两个无序的文件，怎样实现排序并高效
1.说一下数据仓库你们怎么建设的，都有哪些数据仓库
2.你们的事实表和维表都有哪些，是怎么个流程
1.画一下你们ETL的流程

1.你跳槽的原因是什么
2.你的职业发展规划是什么
3.你的期望薪资是多少（一般前面不顺畅的，也就不会到这个问题了）
5.你在工作中遇到最大的难题是什么，怎样解决的
6.你的缺点是什么，你的优点是什么
7.说一下让你成长最多的项目是什么

本文旨在为普通程序员（Java程序员最佳）提供一个入门级别的大数据技术学习路径，不适用于大数据工程师的进阶学习，也不适用于零编程基础的同学。

• 一、大数据相关的工作介绍
• 二、大数据工程师的技能要求
• 四、持续学习资源推荐（书籍，博客，网站）
• 五、项目案例分析（批处理+实时处理）

本人目前是一名大数据工程师，项目数据50T，日均数据增长20G左右，个人是从Java后端开发，经过3个月的业余自学成功转型大数据工程师。

大数据本质也是数据，但是又有了新的特征，包括数据来源广、数据格式多样化（结构化数据、非结构化数据、Excel文件、文本文件等）、数据量大（最少也是TB级别的、甚至可能是PB级别）、数据增长速度快等。

针对以上主要的4个特征我们需要考虑以下问题：

1. 数据来源广，该如何采集汇总？，对应出现了Sqoop，Cammel，Datax等工具。

2. 数据采集之后，该如何存储？，对应出现了GFS，HDFS，TFS等分布式文件存储系统。

3. 由于数据增长速度快，数据存储就必须可以水平扩展。

4. 数据存储之后，该如何通过运算快速转化成一致的格式，该如何快速运算出自己想要的结果？

   对应的MapReduce这样的分布式运算框架解决了这个问题；但是写MapReduce需要Java代码量很大，所以出现了Hive，Pig等将SQL转化成MapReduce的解析引擎；

   普通的MapReduce处理数据只能一批一批地处理，时间延迟太长，为了实现每输入一条数据就能得到结果，于是出现了Storm/JStorm这样的低时延的流式计算框架；

   但是如果同时需要批处理和流处理，按照如上就得搭两个集群，Hadoop集群（包括HDFS+MapReduce+Yarn）和Storm集群，不易于管理，所以出现了Spark这样的一站式的计算框架，既可以进行批处理，又可以进行流处理（实质上是微批处理）。

5. 而后Lambda架构，Kappa架构的出现，又提供了一种业务处理的通用架构。

6. 为了提高工作效率，加快运速度，出现了一些辅助工具：

7. Hue，Zepplin：图形化任务执行管理，结果查看工具。
8. Scala语言：编写Spark程序的最佳语言，当然也可以选择用Python。
9. Python语言：编写一些脚本时会用到。
10. Allluxio，Kylin等：通过对存储的数据进行预处理，加快运算速度的工具。

以上大致就把整个大数据生态里面用到的工具所解决的问题列举了一遍，知道了他们为什么而出现或者说出现是为了解决什么问题，进行学习的时候就有的放矢了。

一、大数据相关工作介绍

大数据方向的工作目前主要分为三个主要方向:

二、大数据工程师的技能要求

附上大数据工程师技能图：

1. Java高级(虚拟机、并发)
2. Hive(Hql基本操作和原理理解）

假设每天可以抽出3个小时的有效学习时间，加上周末每天保证10个小时的有效学习时间；

1）Linux学习（跟鸟哥学就ok了）—–20小时

1. Linux操作系统介绍与安装。
2. Linux常用软件安装。

2）Java 高级学习（《深入理解Java虚拟机》、《Java高并发实战》）—30小时

3）Zookeeper学习（可以参照这篇博客进行学习：）

1. Zookeeper分布式协调服务介绍。
2. Zookeeper的原理以及选举机制。

1. • HDFS的概念和特性。
2. MapTask并发数的决定机制。
3. MapReduce中的序列化框架及应用。
4. MapReduce中的自定义分区实现。
5. MapReduce利用数据压缩进行优化。

5）Hive（《Hive开发指南》）–20小时

1. Hive 与传统数据库对比。
2. Hive 的数据存储机制。
3. 在Hive 中如何实现高效的JOIN查询。
4. Hive 的内置函数应用。
5. Hive 常用参数配置。

6. Hive 执行过程分析及优化策略

中文入门文档： 

1. Scala编译器安装。
2. 数组、映射、元组、集合。
3. 类、对象、继承、特质。
4. 理解Scala高阶函数。
5. 理解Scala隐式转换。

1. 执行第一个Spark案例程序（求PI）。

这个部分一般工作中如果不是数据挖掘，机器学习一般用不到，可以等到需要用到的时候再深入学习。

中文文档（但是版本有点老）： 

10）自己用虚拟机搭建一个集群，把所有工具都装上，自己开发一个小demo —30小时

可以自己用VMware搭建4台虚拟机，然后安装以上软件，搭建一个小集群（本人亲测，I7，64位，16G内存，完全可以运行起来，以下附上我学习时用虚拟机搭建集群的操作文档）

第三阶段（辅助工具工学习阶段）

1. Sqoop原理及配置说明
2. Sqoop数据导入实战
3. Sqoop数据导出实战、
4. Sqoop批量作业操作

推荐学习博客： 

1. FLUME日志采集框架介绍。
2. FLUME参数配置说明。
3. FLUME采集nginx日志案例（案例一定要实践一下）

推荐学习博客： 

1. 任务调度系统概念介绍。
2. 常用任务调度工具比较。
3. Oozie的配置说明。

推荐学习博客： 

推荐学习博客： 

第四阶段（不断学习阶段）

每天都会有新的东西出现，需要关注最新技术动态，不断学习。任何一般技术都是先学习理论，然后在实践中不断完善理论的过程。

1）如果你觉得自己看书效率太慢，你可以网上搜集一些课程，跟着课程走也OK 。如果看书效率不高就很网课，相反的话就自己看书。

2）企业目前更倾向于使用Spark进行微批处理，Storm只有在对时效性要求极高的情况下，才会使用，所以可以做了解。重点学习Spark Streaming。

3）快速学习的能力、解决问题的能力、沟通能力**真的很重要。

4）要善于使用StackOverFlow和Google（遇到解决不了的问题，先Google，如果Google找不到解决方能就去StackOverFlow提问，一般印度三哥都会在2小时内回答你的问题）。

可以去万能的淘宝购买一些视频课程，你输入“大数据视频课程”，会出现很多，多购买几份（100块以内可以搞定），然后选择一个适合自己的。个人认为小象学院的董西成和陈超的课程含金量会比较高。

1. 至于书籍当当一搜会有很多，其实内容都差不多。

1）点击流日志项目分析（此处借鉴CSDN博主的文章，由于没有授权，所以就没有贴过来，下面附上链接）—-批处理

2）Spark Streaming在京东的项目实战（京东的实战案例值得好好研究一下，由于没有授权，所以就没有贴过来，下面附上链接）—实时处理 

最后但却很重要一点:每天都会有新的技术出现，要多关注技术动向，持续学习。

以上内容不保证一年以后仍适用。

1. 前端恶棍 · 大漠穷秋 ：《》
2. 前端颜值担当 · 余博伦：《》
3. 技术总监及合伙人 · 杨彪：《》
4. 混元霹雳手 · 江湖前端：《》
5. 知名互联网公司安卓工程师 · 张拭心：《》