sparksql入門

⑴ 大數據分析應該掌握哪些基礎知識

Java基礎語法

· 分支結構if/switch

· 循環結構for/while/do while

· 方法聲明和調用

· 方法重載

· 數組的使用

· 命令行參數、可變參數

IDEA

· IDEA常用設置、常用快捷鍵

· 自定義模板

· 關聯Tomcat

· Web項目案例實操

面向對象編程

· 封裝、繼承、多態、構造器、包

· 異常處理機制

· 抽象類、介面、內部類

· 常有基礎API、集合List/Set/Map

· 泛型、線程的創建和啟動

· 深入集合源碼分析、常見數據結構解析

· 線程的安全、同步和通信、IO流體系

· 反射、類的載入機制、網路編程

Java8/9/10/11新特性

· Lambda表達式、方法引用

· 構造器引用、StreamAPI

· jShell(JShell)命令

· 介面的私有方法、Optional加強

· 局部變數的類型推斷

· 更簡化的編譯運行程序等

Mysql

· DML語言、DDL語言、DCL語言

· 分組查詢、Join查詢、子查詢、Union查詢、函數

· 流程式控制制語句、事務的特點、事務的隔離級別等

JDBC

· 使用JDBC完成資料庫增刪改查操作

· 批處理的操作

· 資料庫連接池的原理及應用

· 常見資料庫連接池C3P0、DBCP、Druid等

Maven

· Maven環境搭建

· 本地倉庫&中央倉庫

· 創建Web工程

· 自動部署

· 持續繼承

· 持續部署

Linux

· VI/VIM編輯器

· 系統管理操作&遠程登錄

· 常用命令

· 軟體包管理&企業真題

Shell編程

· 自定義變數與特殊變數

· 運算符

· 條件判斷

· 流程式控制制

· 系統函數&自定義函數

· 常用工具命令

· 面試真題

Hadoop

· Hadoop生態介紹

· Hadoop運行模式

· 源碼編譯

· HDFS文件系統底層詳解

· DN&NN工作機制

· HDFS的API操作

· MapRece框架原理

· 數據壓縮

· Yarn工作機制

· MapRece案例詳解

· Hadoop參數調優

· HDFS存儲多目錄

· 多磁碟數據均衡

· LZO壓縮

· Hadoop基準測試

Zookeeper

· Zookeeper數據結果

· 內部原理

· 選舉機制

· Stat結構體

· 監聽器

· 分布式安裝部署

· API操作

· 實戰案例

· 面試真題

· 啟動停止腳本

HA+新特性

· HDFS-HA集群配置

Hive

· Hive架構原理

· 安裝部署

· 遠程連接

· 常見命令及基本數據類型

· DML數據操作

· 查詢語句

· Join&排序

· 分桶&函數

· 壓縮&存儲

· 企業級調優

· 實戰案例

· 面試真題

Flume

· Flume架構

· Agent內部原理

· 事務

· 安裝部署

· 實戰案例

· 自定義Source

· 自定義Sink

· Ganglia監控

Kafka

· 消息隊列

· Kafka架構

· 集群部署

· 命令行操作

· 工作流程分析

· 分區分配策略

· 數據寫入流程

· 存儲策略

· 高階API

· 低級API

· 攔截器

· 監控

· 高可靠性存儲

· 數據可靠性和持久性保證

· ISR機制

· Kafka壓測

· 機器數量計算

· 分區數計算

· 啟動停止腳本

DataX

· 安裝

· 原理

· 數據一致性

· 空值處理

· LZO壓縮處理

Scala

· Scala基礎入門

· 函數式編程

· 數據結構

· 面向對象編程

· 模式匹配

· 高階函數

· 特質

· 註解&類型參數

· 隱式轉換

· 高級類型

· 案例實操

Spark Core

· 安裝部署

· RDD概述

· 編程模型

· 持久化&檢查點機制

· DAG

· 運算元詳解

· RDD編程進階

· 累加器&廣播變數

Spark SQL

· SparkSQL

· DataFrame

· DataSet

· 自定義UDF&UDAF函數

Spark Streaming

· SparkStreaming

· 背壓機制原理

· Receiver和Direct模式原理

· Window原理及案例實操

· 7x24 不間斷運行&性能考量

Spark內核&優化

· 內核源碼詳解

· 優化詳解

Hbase

· Hbase原理及架構

· 數據讀寫流程

· API使用

· 與Hive和Sqoop集成

· 企業級調優

Presto

· Presto的安裝部署

· 使用Presto執行數倉項目的即席查詢模塊

Ranger2.0

· 許可權管理工具Ranger的安裝和使用

Azkaban3.0

· 任務調度工具Azkaban3.0的安裝部署

· 使用Azkaban進行項目任務調度，實現電話郵件報警

Kylin3.0

· Kylin的安裝部署

· Kylin核心思想

· 使用Kylin對接數據源構建模型

Atlas2.0

· 元數據管理工具Atlas的安裝部署

Zabbix

· 集群監控工具Zabbix的安裝部署

DolphinScheler

· 任務調度工具DolphinScheler的安裝部署

· 實現數倉項目任務的自動化調度、配置郵件報警

Superset

· 使用SuperSet對數倉項目的計算結果進行可視化展示

Echarts

· 使用Echarts對數倉項目的計算結果進行可視化展示

Redis

· Redis安裝部署

· 五大數據類型

· 總體配置

· 持久化

· 事務

· 發布訂閱

· 主從復制

Canal

· 使用Canal實時監控MySQL數據變化採集至實時項目

Flink

· 運行時架構

· 數據源Source

· Window API

· Water Mark

· 狀態編程

· CEP復雜事件處理

Flink SQL

· Flink SQL和Table API詳細解讀

Flink 內核

· Flink內核源碼講解

· 經典面試題講解

Git&GitHub

· 安裝配置

· 本地庫搭建

· 基本操作

· 工作流

· 集中式

ClickHouse

· ClickHouse的安裝部署

· 讀寫機制

· 數據類型

· 執行引擎

DataV

· 使用DataV對實時項目需求計算結果進行可視化展示

sugar

· 結合Springboot對接網路sugar實現數據可視化大屏展示

Maxwell

· 使用Maxwell實時監控MySQL數據變化採集至實時項目

ElasticSearch

· ElasticSearch索引基本操作、案例實操

Kibana

· 通過Kibana配置可視化分析

Springboot

· 利用Springboot開發可視化介面程序

⑵ 怎樣進行大數據的入門級學習

一、整體了解數據分析——5小時
新人們被」大數據「、」人工智慧「、」21世紀是數據分析師的時代「等等信息吸引過來，立志成為一名數據分析師，於是問題來了，數據分析到底是干什麼的?數據分析都包含什麼內容?
市面上有很多講數據分析內容的書籍，在此我推薦《深入淺出數據分析》，此書對有基礎人士可稱消遣讀物， 但對新人們還是有一定的作用。閱讀時可不求甚解，重點了解數據分析的流程、應用場景、以及書中提到的若干數據分析工具，無需糾結分析模型的實現。5個小時，足夠你對數據分析工作建立初步的印象，消除陌生感。
二、了解統計學知識——10小時
15個小時只夠你了解一下統計學知識，作為入門足夠，但你要知道，今後隨著工作內容的深入，需要學習更多的統計知識。
本階段推薦書籍有二：《深入淺出統計學》《統計學：從數據到結論》，要了解常用數理統計模型(描述統計指標、聚類、決策樹、貝葉斯分類、回歸等)，重點放在學習模型的工作原理、輸入內容和輸出內容，至於具體的數學推導，學不會可暫放一邊，需要用的時候再回來看。
三、學習初級工具——20小時
對於非技術類數據分析人員，初級工具只推薦一個：EXCEL。推薦書籍為《誰說菜鳥不會數據分析》，基礎篇必須學習，提高篇不一定學(可用其他EXCEL進階書籍)，也可以學習網上的各種公開課。
本階段重點要學習的是EXCEL中級功能使用(數據透視表，函數，各類圖表適用場景及如何製作)，如有餘力可學習VBA。
四、提升PPT能力——10小時
作為數據分析人員，PPT製作能力是極其重要的一項能力，因此需要花一點時間來了解如何做重點突出，信息明確的PPT，以及如何把各類圖表插入到PPT中而又便於更新數據。10個小時並不算多，但已經足夠(你從來沒做過PPT的話，需要再增加一些時間)。具體書籍和課程就不推薦了，網上一抓一大把，請自行搜索。
五、了解資料庫和編程語言——10小時
這個階段有兩個目標：學習基礎的資料庫和編程知識以提升你將來的工作效率，以及測試一下你適合學習哪一種高級數據分析工具。對於前者，資料庫建議學MySQL(雖然Hadoop很有用但你不是技術職位，初期用不到)，編程語言建議學Python(繼續安利《深入淺出Python》，我真沒收他們錢……)。資料庫學到聯合查詢就好，性能優化、備份那些內容用不到;Python則是能學多少學多少。
六、學習高級工具——10小時
雖然EXCEL可以解決70%以上的問題，但剩下30%還是需要高級工具來做(不信用EXCEL做個聚類)。高級分析工具有兩個選擇：SPSS和R。雖然R有各種各樣的好處，但我給的建議是根據你在上一步中的學習感覺來定學哪一個工具，要是學編程語言學的很痛苦，就學SPSS，要是學的很快樂，就學R。不管用哪一種工具，都要把你學統計學時候學會的重點模型跑一遍，學會建立模型和小幅優化模型即可。
七、了解你想去的行業和職位——10+小時
這里我在時間上寫了個」+「號，因為這一步並不一定要用整塊時間來學習，它是貫穿在你整個學習過程中的。數據分析師最需要不斷提升的能力就是行業和業務知識，沒有之一。你將來想投入哪個行業和哪個職位的方向，就要去學習相關的知識(比如你想做網站運營，那就要了解互聯網背景知識、網站運營指標體系、用戶運營知識等內容)。
八、做個報告——25小時
你學習了那麼多內容，但現在出去的話你還是找不到好工作。所有的招聘人員都會問你一句話：你做過哪些實際項目?(即使你是應屆生也一樣) 如果你有相關的項目經驗或者實習經驗，當然可以拿出來，但是如果沒有，怎麼辦?答案很簡單，做個報告給他們看，告訴招聘者：我已經有了數據分析入門級(甚至進階級)職位的能力。同時，做報告也會是你將來工作的主要內容，因此也有可能出現另外一種情況：你費盡心血做了一個報告，然後發現這不是你想要的生活，決定去干別的工作了……這也是件好事，有數據分析能力的人做其他工作也算有一項優勢。

⑶ 大數據培訓哪家靠譜

全國很多家大數據培訓機構，地域跨度太大，問題很難回答。就說一下成都加米穀大數據培訓的課程情況：
第一階段：靜態網頁基礎
1、學習Web標准化網頁製作，必備的HTML標記和屬性
2、學習HTML表格、表單的設計與製作
3、學習CSS、豐富HTML網頁的樣式
4、通過CSS布局和定位的學習、讓HTML頁面布局更加美觀
5、復習所有知識、完成項目布置
第二階段：JavaSE+JavaWeb
1、掌握JAVASE基礎語法
2、掌握JAVASE面向對象使用
3、掌握JAVASEAPI常見操作類使用並靈活應用
4、熟練掌握MYSQL資料庫的基本操作，SQL語句
5、熟練使用JDBC完成資料庫的數據操作
6、掌握線程，網路編程，反射基本原理以及使用
7、項目實戰 + 擴充知識：人事管理系統
第三階段：前端UI框架
1、JAVASCRIPT
2、掌握Jquery基本操作和使用
3、掌握註解基本概念和使用
4、掌握版本控制工具使用
5、掌握easyui基本使用
6、項目實戰+擴充知識：項目案例實戰 POI基本使用和通過註解封裝Excel、druid連接池資料庫監聽,日誌Log4j/Slf4j
第四階段：企業級開發框架
1、熟練掌握spring、spring mvc、mybatis/
2、熟悉struts2
3、熟悉Shiro、redis等
4、項目實戰：內容管理系統系統、項目管理平台流程引擎activity，爬蟲技術nutch,lucene，webService CXF、Tomcat集群 熱備 MySQL讀寫分離
以上Java課程共計384課時，合計48天！

大數據開發工程師課程體系——大數據部分
第五階段：大數據前傳
大數據前篇、大數據課程體系、計劃介紹、大數據環境准備&搭建
第六階段：CentOS課程體系
CentOS介紹與安裝部署、CentOS常用管理命令解析、CentOS常用Shell編程命令、CentOS階段作業與實戰訓練
第七階段：Maven課程體系
Maven初識:安裝部署基礎概念、Maven精講:依賴聚合與繼承、Maven私服:搭建管理與應用、Maven應用:案列分析、Maven階段作業與實戰訓練
第八階段：HDFS課程體系
Hdfs入門:為什麼要HDFS與概念、Hdfs深入剖析:內部結構與讀寫原理、Hdfs深入剖析:故障讀寫容錯與備份機制、HdfsHA高可用與Federation聯邦、Hdfs訪問API介面詳解、HDFS實戰訓練、HDFS階段作業與實戰訓練
第九階段：MapRece課程體系
MapRece深入剖析:執行過程詳解、MapRece深入剖析:MR原理解析、MapRece深入剖析:分片混洗詳解、MapRece編程基礎、MapRece編程進階、MapRec階段作業與實戰訓練
第十階段：Yarn課程體系
Yarn原理介紹:框架組件流程調度
第十一階段：Hbase課程體系
Yarn原理介紹:框架組件流程調度、HBase入門:模型坐標結構訪問場景、HBase深入剖析:合並分裂數據定位、Hbase訪問Shell介面、Hbase訪問API介面、HbaseRowkey設計、Hbase實戰訓練
第十二階段：MongoDB課程體系
MongoDB精講:原理概念模型場景、MongoDB精講:安全與用戶管理、MongoDB實戰訓練、MongoDB階段作業與實戰訓練
第十三階段：Redis課程體系
Redis快速入門、Redis配置解析、Redis持久化RDB與AOF、Redis操作解析、Redis分頁與排序、Redis階段作業與實戰訓練
第十四階段：Scala課程體系
Scala入門:介紹環境搭建第1個Scala程序、Scala流程式控制制、異常處理、Scala數據類型、運算符、Scala函數基礎、Scala常規函數、Scala集合類、Scala類、Scala對象、Scala特徵、Scala模式匹配、Scala階段作業與實戰訓練
第十五階段：Kafka課程體系
Kafka初窺門徑:主題分區讀寫原理分布式、Kafka生產&消費API、Kafka階段作業與實戰訓練
第十六階段：Spark課程體系
Spark快速入門、Spark編程模型、Spark深入剖析、Spark深入剖析、SparkSQL簡介、SparkSQL程序開發光速入門、SparkSQL程序開發數據源、SparkSQL程序開DataFrame、SparkSQL程序開發DataSet、SparkSQL程序開發數據類型、SparkStreaming入門、SparkStreaming程序開發如何開始、SparkStreaming程序開發DStream的輸入源、SparkStreaming程序開發Dstream的操作、SparkStreaming程序開發程序開發--性能優化、SparkStreaming程序開發容錯容災、SparkMllib
解析與實戰、SparkGraphX 解析與實戰
第十七階段：Hive課程提體系
體系結構機制場景、HiveDDL操作、HiveDML操作、HiveDQL操作、Hive階段作業與實戰訓練
第十八階段：企業級項目實戰
1、基於美團網的大型離線電商數據分析平台
2、移動基站信號監測大數據
3、大規模設備運維大數據分析挖掘平台
4、基 於互聯網海量數據的輿情大數據平台項目
大數據部分共計學習656課時，合計82天！
0基礎學員估計學習1040課時，130天！

⑷ 學大數據需要什麼基礎知識和能力

1.計算機基本理論知識

了解計算機的基本原理，計算機的發展歷史等計算機的基本常識和理論。

示例說明

總結:以上條件並不是一定要達到很高的標准，只要基本都熟悉，都有印象，能夠簡單運用即可。

⑸ spark sql 正則表達式嗎

正則化如果不太了解，請看正則表達式30分鍾入門教程
文件內容大致為：
CREATE TABLE IF NOT EXISTS `rs_user` (
`id` mediumint(8) unsigned NOT NULL AUTO_INCREMENT,
`uid` mediumint(8) unsigned DEFAULT NULL,
`url` varchar(255) DEFAULT NULL,
`title` varchar(1024) DEFAULT NULL,
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=gbk AUTO_INCREMENT=59573

⑹ 如何自學成為數據分析師

數據分析師的基本工作流程：

1.定義問題

確定需要的問題，以及想得出的結論。需要考慮的選項有很多，要根據所在業務去判斷。常見的有：變化趨勢、用戶畫像、影響因素、歷史數據等。

2.數據獲取

數據獲取的方式有很多種：

一是直接從企業資料庫調取，需要SQL技能去完成數據提取等的資料庫管理工作。

二是獲取公開數據，政府、企業、統計局等機構有。

三是通過Python編寫網頁爬蟲。

3.數據預處理

對殘缺、重復等異常數據進行清洗。

4.數據分析與建模

這個部分需要了解基本的統計分析方法、數據挖掘演算法，了解不同統計方法適用的場景和適合的問題。

5.數據可視化和分析報告撰寫

學習一款可視化工具，將數據通過可視化最直觀的展現出來。

數據分析入門需要掌握的技能有：

1. SQL（資料庫）：

怎麼從資料庫取數據？怎麼取到自己想要的特定的數據？等這些問題就是你首要考慮的問題，而這些問題都是通過SQL解決的，所以SQL是數據分析的最基礎的技能。

2. excel

分析師更多的時候是在分析數據，分析數據時需要把數據放到一個文件里，就是excel。

熟練excel常用公式，學會做數據透視表，什麼數據畫什麼圖等。

3.Python或者R的基礎：

必備項，也是加分項，在數據挖掘方向是必備項，語言相比較工具更加靈活也更加實用。

4.學習一個可視化工具

如果你想往更高層次發展，上面的東西頂多隻佔20%，剩下的80%則是業務理解能力，目標拆解能力，根據數據需求更多新技能的學習能力。

⑺ 大數據入門需學習哪些基礎知識

前言，學大數據要先換電腦：

保證電腦4核8G內存64位操作系統，盡量有ssd做系統盤，否則卡到你喪失信心。硬碟越大越好。
1，語言要求

java剛入門的時候要求javase。

scala是學習spark要用的基本使用即可。

後期深入要求：
java NIO，netty，多線程，ClassLoader，jvm底層及調優等，rpc。
2，操作系統要求
linux 基本的shell腳本的使用。

crontab的使用，最多。

cpu，內存，網路，磁碟等瓶頸分析及狀態查看的工具。

scp，ssh，hosts的配置使用。

telnet，ping等網路排查命令的使用
3，sql基本使用
sql是基礎，hive，sparksql等都需要用到，況且大部分企業也還是以數據倉庫為中心，少不了sql。

sql統計，排序，join，group等，然後就是sql語句調優，表設計等。

4，大數據基本了解
Zookeeper，hadoop，hbase，hive，sqoop，flume，kafka，spark，storm等這些框架的作用及基本環境的搭建，要熟練，要會運維，瓶頸分析。

5，maprece及相關框架hive，sqoop
深入了解maprece的核心思想。尤其是shuffle，join，文件輸入格式，map數目，rece數目，調優等。
6，hive和hbase等倉庫
hive和hbase基本是大數據倉庫的標配。要回用，懂調優，故障排查。

hbase看浪尖hbase系列文章。hive後期更新。

7，消息隊列的使用
kafka基本概念，使用，瓶頸分析。看浪尖kafka系列文章。

8，實時處理系統
storm和spark Streaming

9，spark core和sparksql
spark用於離線分析的兩個重要功能。

10，最終方向決策
a),運維。（精通整套系統及故障排查，會寫運維腳本啥的。）

b),數據分析。（演算法精通）

c),平台開發。（源碼精通）

自學還是培訓？
無基礎的同學，培訓之前先搞到視頻通學一遍，防止盲目培訓跟不上講師節奏，浪費時間，精力，金錢。
有基礎的盡量搞點視頻學基礎，然後跟群里大牛交流，前提是人家願意，
想辦法跟大牛做朋友才是王道。

⑻ 大數據如何入門

首先我們要了解Java語言和Linux操作系統，這兩個是學習大數據的基礎，學習的順序不分前後。

大數據

Java ：只要了解一些基礎即可，做大數據不需要很深的Java 技術，學java SE 就相當於有學習大數據基礎。

Linux：因為大數據相關軟體都是在Linux上運行的，所以Linux要學習的扎實一些，學好Linux對你快速掌握大數據相關技術會有很大的幫助，能讓你更好的理解hadoop、hive、hbase、spark等大數據軟體的運行環境和網路環境配置，能少踩很多坑，學會shell就能看懂腳本這樣能更容易理解和配置大數據集群。還能讓你對以後新出的大數據技術學習起來更快。

Hadoop：這是現在流行的大數據處理平台幾乎已經成為大數據的代名詞，所以這個是必學的。Hadoop裡麵包括幾個組件HDFS、MapRece和YARN，HDFS是存儲數據的地方就像我們電腦的硬碟一樣文件都存儲在這個上面，MapRece是對數據進行處理計算的，它有個特點就是不管多大的數據只要給它時間它就能把數據跑完，但是時間可能不是很快所以它叫數據的批處理。

Zookeeper：這是個萬金油，安裝Hadoop的HA的時候就會用到它，以後的Hbase也會用到它。它一般用來存放一些相互協作的信息，這些信息比較小一般不會超過1M，都是使用它的軟體對它有依賴，對於我們個人來講只需要把它安裝正確，讓它正常的run起來就可以了。

Mysql：我們學習完大數據的處理了，接下來學習學習小數據的處理工具mysql資料庫，因為一會裝hive的時候要用到，mysql需要掌握到什麼層度那?你能在Linux上把它安裝好，運行起來，會配置簡單的許可權，修改root的密碼，創建資料庫。這里主要的是學習SQL的語法，因為hive的語法和這個非常相似。

Sqoop：這個是用於把Mysql里的數據導入到Hadoop里的。當然你也可以不用這個，直接把Mysql數據表導出成文件再放到HDFS上也是一樣的，當然生產環境中使用要注意Mysql的壓力。

Hive：這個東西對於會SQL語法的來說就是神器，它能讓你處理大數據變的很簡單，不會再費勁的編寫MapRece程序。有的人說Pig那?它和Pig差不多掌握一個就可以了。

Oozie：既然學會Hive了，我相信你一定需要這個東西，它可以幫你管理你的Hive或者MapRece、Spark腳本，還能檢查你的程序是否執行正確，出錯了給你發報警並能幫你重試程序，最重要的是還能幫你配置任務的依賴關系。我相信你一定會喜歡上它的，不然你看著那一大堆腳本，和密密麻麻的crond是不是有種想屎的感覺。

Hbase：這是Hadoop生態體系中的NOSQL資料庫，他的數據是按照key和value的形式存儲的並且key是唯一的，所以它能用來做數據的排重，它與MYSQL相比能存儲的數據量大很多。所以他常被用於大數據處理完成之後的存儲目的地。

Kafka：這是個比較好用的隊列工具，隊列是干嗎的?排隊買票你知道不?數據多了同樣也需要排隊處理，這樣與你協作的其它同學不會叫起來，你干嗎給我這么多的數據(比如好幾百G的文件)我怎麼處理得過來，你別怪他因為他不是搞大數據的，你可以跟他講我把數據放在隊列里你使用的時候一個個拿，這樣他就不在抱怨了馬上灰流流的去優化他的程序去了，因為處理不過來就是他的事情。而不是你給的問題。當然我們也可以利用這個工具來做線上實時數據的入庫或入HDFS，這時你可以與一個叫Flume的工具配合使用，它是專門用來提供對數據進行簡單處理，並寫到各種數據接受方(比如Kafka)的。

Spark：它是用來彌補基於MapRece處理數據速度上的缺點，它的特點是把數據裝載到內存中計算而不是去讀慢的要死進化還特別慢的硬碟。特別適合做迭代運算，所以演算法流們特別稀飯它。它是用scala編寫的。Java語言或者Scala都可以操作它，因為它們都是用JVM的。

⑼ 大數據需要掌握哪些技能

大數據技術體系龐大，包括的知識較多

1、學習大數據首先要學習Java基礎

Java是大數據學習需要的編程語言基礎，因為大數據的開發基於常用的高級語言。而且不論是學hadoop，

2、學習大數據必須學習大數據核心知識

Hadoop生態系統;HDFS技術;HBASE技術;Sqoop使用流程;數據倉庫工具HIVE;大數據離線分析Spark、Python語言;數據實時分析Storm;消息訂閱分發系統Kafka等。

3、學習大數據需要具備的能力

數學知識，數學知識是數據分析師的基礎知識。對於數據分析師，了解一些描述統計相關的內容，需要有一定公式計算能力，了解常用統計模型演算法。而對於數據挖掘工程師來說，各類演算法也需要熟練使用，對數學的要求是最高的。

4、學習大數據可以應用的領域

大數據技術可以應用在各個領域，比如公安大數據、交通大數據、醫療大數據、就業大數據、環境大數據、圖像大數據、視頻大數據等等，應用范圍非常廣泛。