大數(shù)據(jù)分析挖掘-基于Hadoop/Mahout/MLlib的大數(shù)據(jù)挖掘

培訓(xùn)受眾:

1.系統(tǒng)架構(gòu)師、系統(tǒng)分析師、高級(jí)程序員、資深開發(fā)人員。

2.牽涉到大數(shù)據(jù)處理的數(shù)據(jù)中心運(yùn)行、規(guī)劃、設(shè)計(jì)負(fù)責(zé)人。

3.政府機(jī)關(guān).金融保險(xiǎn)、移動(dòng)和互聯(lián)網(wǎng)等大數(shù)據(jù)來源單位的負(fù)責(zé)人。

4.高校、科研院所牽涉到大數(shù)據(jù)與分布式數(shù)據(jù)處理的項(xiàng)目負(fù)責(zé)人。

課程收益:

1.全面了解大數(shù)據(jù)處理技術(shù)的相關(guān)知識(shí)。

2.學(xué)習(xí)Hadoop/Yarn/Spark的核心數(shù)據(jù)分析技術(shù)

3.深入學(xué)習(xí)Mahout/MLlib挖掘工具在大數(shù)據(jù)中的使用。

4.掌握Storm流處理技術(shù)和Docker等技術(shù)與大數(shù)據(jù)挖掘結(jié)合的方法。

培訓(xùn)目標(biāo)

1.全面了解大數(shù)據(jù)處理技術(shù)的相關(guān)知識(shí)。

2.學(xué)習(xí)Hadoop/Yarn/Spark的核心數(shù)據(jù)分析技術(shù)

3.深入學(xué)習(xí)Mahout/MLlib挖掘工具在大數(shù)據(jù)中的使用。

4.掌握Storm流處理技術(shù)和Docker等技術(shù)與大數(shù)據(jù)挖掘結(jié)合的方法。

學(xué)員基礎(chǔ)

1.對(duì)IT系統(tǒng)設(shè)計(jì)有一定的理論與實(shí)踐經(jīng)驗(yàn)。

2.數(shù)據(jù)倉(cāng)庫(kù)與數(shù)據(jù)挖掘處理有一定的基礎(chǔ)知識(shí)。

3.對(duì)Hadoop/Yarn/Spark大數(shù)據(jù)技術(shù)有一定的了解。

培訓(xùn)要點(diǎn)

本課程從大數(shù)據(jù)挖掘分析技術(shù)實(shí)戰(zhàn)的角度.結(jié)合理論和實(shí)踐.全方位地介紹Mahout和 MLlib等大數(shù)據(jù)挖掘工具的開發(fā)技巧。本課程涉及的主題包括：大數(shù)據(jù)挖掘及其背景.Mahout和 MLlib大數(shù)據(jù)挖掘工具.推薦系統(tǒng)及電影推薦案例.分類技術(shù)及聚類分析.以及與流挖掘和Docker技術(shù)的結(jié)合.分析了大數(shù)據(jù)挖掘前景分析。

本課程教學(xué)過程中還提供了案例分析來幫助學(xué)員了解如何用Mahout和 MLlib挖掘工具來解決具體的問題.并介紹了從大數(shù)據(jù)中挖掘出有價(jià)值的信息的關(guān)鍵。

本課程不是一個(gè)泛泛的理論性、概念性的介紹課程.而是針對(duì)問題討論Mahout和 MLlib解決方案的深入課程。對(duì)于上述領(lǐng)域有深入的理論研究與實(shí)踐經(jīng)驗(yàn).在課程中將會(huì)針對(duì)這些問題與學(xué)員一起進(jìn)行研究.在關(guān)鍵點(diǎn)上還會(huì)搭建實(shí)驗(yàn)環(huán)境進(jìn)行實(shí)踐研究.以加深對(duì)于這些解決方案的理解。通過本課程學(xué)習(xí).希望推動(dòng)大數(shù)據(jù)分析挖掘項(xiàng)目開發(fā)上升到一個(gè)新水平。

培訓(xùn)內(nèi)容

第一講大數(shù)據(jù)挖掘及其背景

1)數(shù)據(jù)挖掘定義

2)Hadoop相關(guān)技術(shù)

3)大數(shù)據(jù)挖掘知識(shí)點(diǎn)

第二講 MapReduce/DAG計(jì)算模式

1）分布式文件系統(tǒng)DFS

2）MapReduce計(jì)算模型介紹

3）使用MR進(jìn)行算法設(shè)計(jì)

4）DAG及其算法設(shè)計(jì)

第三講 云挖掘工具M(jìn)ahout/MLib

1）Hadoop中的Mahoutb介紹

2）Spark中的Mahout/MLib介紹

3）推薦系統(tǒng)及其Mahout實(shí)現(xiàn)方法

4）信息聚類及其MLlib實(shí)現(xiàn)方法

5）分類技術(shù)在Mahout/MLib中的實(shí)現(xiàn)方法

第四講 推薦系統(tǒng)及其應(yīng)用開發(fā)

1）一個(gè)推薦系統(tǒng)的模型

2）基于內(nèi)容的推薦

3）協(xié)同過濾

4）基于Mahout的電影推薦案例

第五講 分類技術(shù)及其應(yīng)用

1）分類的定義

2）分類主要算法

3）Mahout分類過程

4）評(píng)估指標(biāo)以及評(píng)測(cè)

5）貝葉斯算法新聞分類實(shí)例

第六講 聚類技術(shù)及其應(yīng)用

1）聚類的定義

2）聚類的主要算法

3）K-Means、Canopy及其應(yīng)用示例

4）Fuzzy K-Means、Dirichlet及其應(yīng)用示例

5）基于MLlib的新聞聚類實(shí)例

第七講 關(guān)聯(lián)規(guī)則和相似項(xiàng)發(fā)現(xiàn)

1）購(gòu)物籃模型

2）Apriori算法

3）抄襲文檔發(fā)現(xiàn)

4）近鄰搜索的應(yīng)用

第八講 流數(shù)據(jù)挖掘相關(guān)技術(shù)

1）流數(shù)據(jù)挖掘及分析

2）Storm和流數(shù)據(jù)處理模型

3）流處理中的數(shù)據(jù)抽樣

4）流過濾和Bloom filter

第九講 云環(huán)境下大數(shù)據(jù)挖掘應(yīng)用

1）與Hadoop/Yarn集群應(yīng)用的協(xié)作

2）與Docker等其它云工具配合

3）大數(shù)據(jù)挖掘行業(yè)應(yīng)用展望