大數據培訓專家介紹淘寶大數據

大數據 電子商務 Hadoop MySQL 渥瑞達 2017-04-27

大數據就是互聯網發展到現今階段的一種表象或特徵而已,沒有必要神話它或對它保持敬畏之心,在以雲計算為代表的技術創新大幕的襯托下,這些原本很難收集和使用的數據開始容易被利用起來了,通過各行各業的不斷創新,大數據會逐步為人類創造更多的價值。淘寶的海量數據產品技術架構分為五個層次,從上至下來看它們分別是:數據源,計算層,存儲層,查詢層和產品層。

數據來源層:存放著淘寶各店的交易數據。在數據源層產生的數據,通過DataX,DbSync和Timetunel準實時的傳輸到下面第2點所述的“雲梯”。

計算層:在這個計算層內,淘寶採用的是Hadoop集群,這個集群,我們暫且稱之為雲梯,是計算層的主要組成部分。在雲梯上,系統每天會對數據產品進行不同的MapReduce計算。

存儲層:在這一層,淘寶採用了兩個東西,一個使MyFox,一個是Prom。MyFox是基於MySQL的分佈式關係型數據庫的集群,Prom是基於Hadoop Hbase技術的一個NoSQL的存儲集群。

查詢層:在這一層中,Glider是以HTTP協議對外提供restful方式的接口。數據產品通過一個唯一的URL來獲取到它想要的數據。同時,數據查詢即是通過MyFox來查詢的。

最後一層是產品層,這個就不用解釋了。

渥瑞達在大數據研究和實踐的方面有著豐富的經驗,擁有專門的大數據教學視頻和實例,可以幫助你快速入門大數據。

相關推薦

推薦中...