大數據時代,關於大數據你知道多少?

大數據 雲計算 物聯網 數據挖掘 鼎酷IOT部落 2017-06-08

大數據時代,關於大數據你知道多少?

大數據時代的生活令人嚮往,你對客觀世界的認識更進一步,所做的決策也不再僅僅依賴主觀判斷,基於你的一個習慣動作、你的一次消費行為、你的一份就診記錄,都在被巨大的數字網絡串聯起來。

《大數據時代:生活、工作與思維的大變革》一書的作者維克托·邁爾·舍恩伯格如是說:“如果你是一個個人,如果你拒絕的話,可能會失去生命,如果是一個國家的話,拒絕大數據時代的話,可能失去這個國家的未來,失去一代人的未來。”

瞭解大數據、如何利用巨量資料,成為人人關心的重點議題,對於大數據的定義現在沒有統一的定論,但身處大數據領域裡的人都同意一點:大數據絕不僅僅是指更多資料而已。

【怎麼利用信息技術等手段處理非結構化和半結構化數據】

大數據=結構化數據+非結構化數據

大數據中,結構化數據只佔 15% 左右,其餘的 85% 都是非結構化的數據,它們大量存在於社交網絡、互聯網和電子商務等領域。另一方面,也許有 90% 的數據來自開源數據,其餘的被存儲在數據庫中。大數據的不確定性表現在高維、多變和強隨機性等方面。股票交易數據流是不確定性大數據的一個典型例子。

大數據刺激了大量研究問題。非結構化和半結構化數據的個體表現、一般性特徵和基本原理尚不清晰,這些都需要通過包括數學、經濟學、社會學、計算機科學和管理科學在內的多學科交叉來研究和討論。給定一種半結構化或非結構化數據,比如圖像,如何把它轉化成多維數據表、面向對象的數據模型或者直接基於圖像的數據模型?值得注意的是,大數據每一種表示形式都僅呈現數據本身的側面表現,並非全貌。

由於大數據所具有的半結構化和非結構化特點,基於大數據的數據挖掘所產生的結構化的“粗糙知識”(潛在模式)也伴有一些新的特徵。這些結構化的粗糙知識可以被主觀知識加工處理並轉化,生成半結構化和非結構化的智能知識。尋求“智能知識”反映了大數據研究的核心價值。

【大數據的4V特點】

大數據的4V特點:Volume(大量)、Velocity(高速)、Variety(多樣)、Veracity(精確)。網絡的發展引起了信息量的飛速增長,大數據技術的戰略意義不在於掌握龐大的數據信息,而在於對這些含有意義的數據進行專業化處理。換言之,如果把大數據比作一種產業,那麼這種產業實現盈利的關鍵,在於提高對數據的“加工能力”,通過“加工”實現數據的“增值”

【大數據與數據倉庫、OLAP、數據挖掘技術的關係】

大數據技術指的是對大量信息進行專業處理、獲取具有指導意義的信息以幫助決策的技術,而數據倉庫、OLAP(聯機分析處理)、數據挖掘技術就是處理和分析“大數據”的主要方法。也就是說,實現大數據的分析和利用需要以數據倉庫、OLAP、數據挖掘技術為手段。

具體來說,當海量數據擺在眼前,針對用戶可能關注的方面,按照一定的主題域進行組織,形成數據倉庫;再通過聯機分析處理(OLAP)對信息的多種可能的觀察形式進行快速、穩定一致和交互性的存取,形成多個維度的信息;再通過數據挖掘技術,發現數據內部隱含的規律並展示給用戶,以指導用戶決策。關係圖如下:

大數據時代,關於大數據你知道多少?

【雲計算和大數據的關係】

雲計算,再一次改變了數據的存儲和訪問方式。在雲計算出現之前,數據大多分散存儲在每個人的個人電腦、每家企業的服務器中。雲計算,尤其是公用雲計算,把所有的數據集中存儲到“數據中心”,也即所謂的“雲端”,用戶通過瀏覽器或者專用應用程序來訪問。

一些大型的網站,通過提供基於“雲”的服務,積累了大量的數據,成為事實上的“數據中心”。“數據”是這些大型網站最為核心的資產,他們不惜花費高昂的費用,付出巨大的努力,來存儲這些數據,谷歌公司甚至購買了單獨的水力發電站,為其龐大的數據中心提供充足的電力。根據一些公開資料顯示,谷歌在全球分佈著大約36個數據中心。

近幾年,國內各地興起了建設雲計算基地的風潮,客觀上為“大數據”的誕生準備了必備的儲存空間和訪問渠道。各大銀行、電信運營商、大型互聯網公司、政府各部委等都擁有各自的“數據中心”。絕大多數的銀行、電信、互聯網公司都已經實現了全國級的數據集中的工作。

雲計算是大數據誕生的前提和必要條件。沒有云計算,就會缺少數據集中採集和存儲的商業基礎,而云計算為大數據提供了存儲空間和訪問渠道;大數據則是雲計算的靈魂和必然的升級方向。

大數據時代已經來臨,你可不要落後哦!


鼎酷IOT部落(dkiot888)是由鼎易鴻基&萬酷電子聯合出品,專注於為大家提供物聯網精髓的新媒體平臺。我們關注物聯網行業最新動態,專注做您的物聯網口袋知識庫,旨在搭建共同學習的知識平臺,讓您學得方便,聊得暢快;鼎酷IOT部落用心做大家的“良僕”。各項內容鼎酷IOT 部落微信公眾號同步。物聯網行業頂尖產品諮詢也歡迎留言。

相關推薦

推薦中...