Chip123 科技應用創新平台

 找回密碼
 申請會員

QQ登錄

只需一步,快速開始

Login

用FB帳號登入

搜索
1 2 3 4

大數據分析專用的新一代平台 Linux on OpenPOWER

2016-6-15 03:57 PM| 發佈者: SophieWeng@G| 查看: 976| 評論: 0|來自: linuxpilot

摘要: 全球數據量正在以幾何級數增長,但大數據分析平台的處理能力卻漸漸追不上,市場分析指出到 2020 年,電子數據存儲量,將在 2009 年的基礎上增加 44 倍,達到 35 萬億 GB。從前預測晶片上電晶體數量每兩年翻倍的摩爾 ...
全球數據量正在以幾何級數增長,但大數據分析平台的處理能力卻漸漸追不上,市場分析指出到 2020 年,電子數據存儲量,將在 2009 年的基礎上增加 44 倍,達到 35 萬億 GB。從前預測晶片上電晶體數量每兩年翻倍的摩爾定律已經失效,業界必須用其他方法,提升硬體處理能力的增長速度。

再者,數據的性質亦有所改變,相對於以往結搆化數據,非結搆化數據如網站日誌、社交網路的互動資料、網路搜尋索引、客服中心呼叫記錄等不斷增加,分析數據的平台除了一般的垂直擴展(Scale-up) 外,亦需要水平擴展 (Scale-out),更要配合不同數據的性質提供不同的分析能力。面對以上挑戰,傳統伺服器架構經已不能解決應用需要。而 OpenPOWER 平台正正是為了滿足未來大數據及物聯網應用需要而誔生。

Hadoop 的應用案例
眾所周知,Hadoop 是一個能夠對大數據進行分佈式儲存和處理的框架,它具有高可靠性、高擴展性、容錯、高效、低成本的特點,一度廣受互聯網公司青睞,而越來越多企業用戶也開始接受 Hadoop。但凡事總有兩面,Hadoop 是非常耗費計算資源的。IBM POWER 伺服器產品非常適合 Hadoop 應用,IBM 針對 Hadoop 來對硬體的性能進行優化,是用化整為零的方式將各種資源池化,檔案被分割成不同層面,通過節點實現並行化 I/O。透過對 Linux 核心參數進行微調,更可提高作業的運行效率。

互聯網巨頭如 Google、Facebook 和 LinkedIn,在 Hadoop 應用的探究之路上已有許多成功案例,例如利用 Hadoop 進行分析,並根據用戶的個人資料和行為數據匹配和推薦用戶、產品和服務。LinkedIn 使用此方法,增強其「你可能認識的人」這一功能,而亞馬遜利用該方法為網上消費者推薦相關產品。企業更可以將 Hadoop 與先進的文字分析工具結合,分析在 Twitter 和 Facebook 等社交網路發佈的非結構化文字,從而了解用戶對特定公司、品牌或產品的情緒,有關分析既可以專注於宏觀層面的情緒,也可以細分到個人用戶的情緒。另外財務公司、金融機構及銀行等也開始使用 Hadoop 建立風險管理模型、營銷活動分析、客戶流失分析、社交圖譜分析、用戶體驗分析和網路監控等等。

在大數據環境中,基於 Linux 的群集式解決方案,是架設大數據應用的最基本結構。IBM 針對大數據應用發佈一系列 POWER 伺服器新品 LC 系列。LC 系列針對不同數據需求有不同的方案,如儲存密集型、計算密集型等不同的解決方案。第一代LC系列產品包含兩款,一款針對 Spark 和 Hadoop 等記憶體和儲存密集型工作負載的 S812LC,具有高頻寬、大儲存特性。另一款為計算密集型應用設計,具備最多 20 個核心,並支援 GPU 運算的 S822LC,適用於商業運算及高性能運算。

隨著 OpenPOWER 基金會的成立,POWER 已經進入全新的 OpenPOWER 時代,支持開放源碼的 Hadoop、NoSQL,OpenStack 等技術,以營造廣泛的POWER8生態系統。隨著 POWER8 LC 系列的發布,令 IBM POWER 硬體平台變身成更立體化的產品線,現在的 Power Systems,不僅支援傳統 UNIX 所強調的 OLTP 工作負載等關鍵任務,更支援新興 Linux 在雲端運算、大數據、移動互聯網、社交媒體等新興工作負載。IBM 發佈的 POWER8 是業界第一款針對大數據的 CPU,它大幅提升了緩存、線程等指標,並引入了 CAPI (Coherent Accelerator Processor Interface) 等新技術,顯著提升了大數據相關應用的性能。

相關閱讀

您對這篇文章有任何想法嗎?歡迎留言給我們。
您的姓名:
您的電子郵件:
標題:
內容:



首頁|手機版|Chip123 科技應用創新平台 |新契機國際商機整合股份有限公司

GMT+8, 2024-3-28 11:00 PM , Processed in 0.075004 second(s), 16 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

返回頂部