音影先锋亚洲天堂网|电影世界尽头的爱完整版播放|国产 熟女 91|高清无码免费观看欧美日韩|韩国一区二区三区黄色录像|美女亚洲加勒比在线|亚洲综合网 开心五月|7x成人在线入口|成人网站免费日韩毛片区|国产黄片?一级?二级?三级

內(nèi)存計(jì)算在DSP領(lǐng)域的應(yīng)用前景分析

出處:woodpaul 發(fā)布于:2011-07-08 10:43:00

  引言

  對(duì)海量數(shù)據(jù)進(jìn)行實(shí)時(shí)分析處理,一直是數(shù)據(jù)倉庫、OLTP/OLAP、商業(yè)智能等領(lǐng)域的軟件廠商所普遍關(guān)心的課題。前不久,SAP推出了一款面向?qū)崟r(shí)商業(yè)智能領(lǐng)域的高性能分析應(yīng)用軟件(SAP High-Performance Analytic Appliance ,簡稱SAP HANA)。其中,受到業(yè)界廣泛關(guān)注的是,SAP HANA采用了以往大家很少聽說過的“內(nèi)存計(jì)算(In-Memory Computing)”技術(shù)。而且在IBM、戴爾等廠商推出的HANA解決方案中,無一例外地使用了基于英特爾至強(qiáng)E7平臺(tái)的服務(wù)器

  下面我們來分析一下,到底什么是內(nèi)存計(jì)算,它在企業(yè)級(jí)關(guān)鍵業(yè)務(wù)領(lǐng)域有著怎樣的應(yīng)用前景,然后看看英特爾至強(qiáng)E7為什么能夠很好地支持這類應(yīng)用,從而一起為海量數(shù)據(jù)實(shí)時(shí)處理打造一條寬廣的“高速公路”。

  1 內(nèi)存計(jì)算:對(duì)海量數(shù)據(jù)進(jìn)行實(shí)時(shí)處理

  今天,許多企業(yè)已經(jīng)面臨越來越多的數(shù)據(jù)要處理,而且對(duì)這些數(shù)據(jù)需要進(jìn)行實(shí)時(shí)的分析。為此,SAP一直在重新構(gòu)想數(shù)據(jù)倉庫的運(yùn)行模式,并提出了內(nèi)存計(jì)算的理念。那么什么是內(nèi)存計(jì)算呢,我們不妨從兩個(gè)角度來理解。

  首先,從計(jì)算存儲(chǔ)技術(shù)的角度看,由于服務(wù)器在處理數(shù)據(jù)時(shí),CPU首先會(huì)從其緩存中找數(shù)據(jù),緩存中找不到,再從內(nèi)存中找,內(nèi)存里沒有,再從硬盤上讀取。在傳統(tǒng)數(shù)據(jù)庫查詢中,磁盤訪問時(shí)間是一個(gè)主要的瓶頸。研究發(fā)現(xiàn),如果讓查詢在讀寫速度快很多倍的內(nèi)存中進(jìn)行,而不用訪問物理磁盤,將會(huì)大大提升處理性能。試想一下,對(duì)于商業(yè)智能應(yīng)用而言,由于數(shù)據(jù)庫一般都較大,少則幾個(gè)GB,多則成百上千個(gè)GB,如果把整個(gè)數(shù)據(jù)庫都搬到內(nèi)存中去運(yùn)行,又會(huì)怎樣呢?

  因此,所謂“內(nèi)存計(jì)算”,實(shí)質(zhì)上就是CPU直接從內(nèi)存而不是硬盤上讀取數(shù)據(jù),進(jìn)行計(jì)算、分析,是對(duì)傳統(tǒng)數(shù)據(jù)處理方式的一種加速。內(nèi)存計(jì)算非常適合處理海量的數(shù)據(jù),以及需要實(shí)時(shí)獲得結(jié)果的數(shù)據(jù),比如可以將一個(gè)企業(yè)近十年幾乎所有的財(cái)務(wù)、營銷、市場等各方面的數(shù)據(jù)性地保存在內(nèi)存里,并在此基礎(chǔ)上進(jìn)行數(shù)據(jù)的分析。當(dāng)企業(yè)需要做快速的賬務(wù)分析,或要對(duì)市場進(jìn)行分析時(shí),內(nèi)存計(jì)算就能夠快速的按照需求完成。

  其次,從應(yīng)用的角度來看,在商業(yè)智能方案中,在線交易處理(OLTP)和在線分析處理(OLAP)是兩種不同的應(yīng)用,其中OLTP系統(tǒng)需要對(duì)發(fā)生的業(yè)務(wù)進(jìn)行實(shí)時(shí)記錄,因此要處理的是大量簡單、小規(guī)模、同時(shí)發(fā)生的交易;而OLAP系統(tǒng)是對(duì)OLTP提供的數(shù)據(jù)進(jìn)行分析,以支持業(yè)務(wù)決策,因此處理的交易數(shù)量相對(duì)較少,但更為復(fù)雜。使用內(nèi)存計(jì)算的SAP HANA的交易型和分析型引擎能夠同時(shí)應(yīng)對(duì)這兩種應(yīng)用,內(nèi)存計(jì)算技術(shù)實(shí)際上是把現(xiàn)在交易型的數(shù)據(jù)庫和分析型的數(shù)據(jù)庫合并為一個(gè)內(nèi)存數(shù)據(jù)庫,其結(jié)構(gòu)如下圖所示:

  談到SAP HANA的具體應(yīng)用場景,SAP中國區(qū)技術(shù)官張俠曾對(duì)媒體舉過這樣一個(gè)例子:航空公司。航空公司的主要特點(diǎn)就是信息量大,且有很多實(shí)時(shí)信息,一般會(huì)有這樣兩個(gè)系統(tǒng):一是客戶相關(guān)的系統(tǒng),里面有各種客戶的信息,如誰是金卡會(huì)員,誰希望坐在靠窗或者靠走道的座位,商務(wù)旅客與私人休閑旅客的不同偏好等等;另一個(gè)是定票系統(tǒng),定票系統(tǒng)會(huì)把每個(gè)航班對(duì)應(yīng)的飛機(jī)型號(hào)、座位數(shù)量、飛機(jī)維修、天氣等等信息綜合在一起。高速的內(nèi)存計(jì)算技術(shù)能夠綜合所有以上這些情況,根據(jù)不同場景進(jìn)行更好的匹配。比如,利用高速分析的能力對(duì)航班晚點(diǎn)的情況進(jìn)行調(diào)配,通過分析發(fā)現(xiàn)某些型號(hào)的飛機(jī)可以在某個(gè)飛機(jī)轉(zhuǎn)場。這樣就能把天氣等各種影響降至,使客戶盡可能坐在他喜歡坐的位置上,并設(shè)計(jì)好定價(jià)策略做到既能滿足客戶的需求,又能為航空公司帶來更好效益。

  據(jù)了解,SAP BusinessObjects戰(zhàn)略性人力規(guī)劃是HANA中的款新產(chǎn)品,使企業(yè)管理者可以實(shí)時(shí)模擬相關(guān)業(yè)務(wù)場景,快速分析復(fù)雜數(shù)據(jù)關(guān)系并審視被建議的組織結(jié)構(gòu)調(diào)整對(duì)企業(yè)業(yè)務(wù)產(chǎn)生的影響。企業(yè)管理者和人力資源高管可以使用預(yù)測性建模功能模擬企業(yè)人員總數(shù)需怎樣增長、人員配置應(yīng)如何變化等,這使他們能就人員配置或調(diào)整做出基于數(shù)據(jù)的明智決策,尤其是在企業(yè)一項(xiàng)收購行為完成以后或者是當(dāng)企業(yè)要進(jìn)入一個(gè)新市場領(lǐng)域的時(shí)期。

  2 X86服務(wù)器如何滿足內(nèi)存計(jì)算需求

  通過上面的分析,我們知道,為優(yōu)化海量數(shù)據(jù)實(shí)時(shí)處理的內(nèi)存計(jì)算模式對(duì)于底層服務(wù)器提出了更高的要求:CPU夠不夠快?內(nèi)存夠不夠大?系統(tǒng)夠不夠穩(wěn)定可靠?實(shí)際上,英特爾與SAP早在10多年前就已經(jīng)開始合作,不斷共同推動(dòng)IA架構(gòu)服務(wù)器上SAP應(yīng)用的性能。下面我們就來看看的英特爾至強(qiáng)E7又是如何針對(duì)SAP HANA進(jìn)行優(yōu)化的。

  2.1 處理器的性能

  早期處理器性能的提升主要依賴于主頻的提高,即CPU在每個(gè)時(shí)鐘周期內(nèi)可以執(zhí)行更多的指令。但由于能耗與散熱條件的限制,這種方法在2005年左右碰到了障礙。于是業(yè)界開始轉(zhuǎn)向多核處理器的設(shè)計(jì),即每個(gè)處理器內(nèi)包含多個(gè)相互獨(dú)立的計(jì)算內(nèi)核。在多核處理器之前,英特爾開發(fā)了超線程技術(shù),允許一個(gè)處理內(nèi)核可以在同一時(shí)間執(zhí)行兩條指令線程,從而更好地利用CPU的片上資源。今天,多核、多線程、高可擴(kuò)展的SMP架構(gòu),為x86服務(wù)器奠定了運(yùn)行SAP應(yīng)用的基礎(chǔ)。

  與上一代至強(qiáng)7500相比,至強(qiáng)E7的內(nèi)核數(shù)量由8核(16線程)增加到了10核(20線程);同時(shí)得益于QPI總線架構(gòu),基于至強(qiáng)E7的服務(wù)器可以從雙路擴(kuò)展到四路、八路,直至256路。這些技術(shù)進(jìn)步使得SAP HANA可以在單一系統(tǒng)內(nèi)獲得更多的計(jì)算資源,其性能指標(biāo)可以隨硬件升級(jí)而線性擴(kuò)展,用戶甚至可以通過部署1000以上內(nèi)核的系統(tǒng)實(shí)現(xiàn)更復(fù)雜的實(shí)時(shí)分析。

  2.2 內(nèi)存的性能

  對(duì)于SAP內(nèi)存計(jì)算應(yīng)用來說,內(nèi)存子系統(tǒng)的性能是否強(qiáng)壯顯得非常重要。一方面,64位操作系統(tǒng)的普及,使得今天的x86服務(wù)器內(nèi)存可以超過32位的4個(gè)GB,理論上達(dá)到幾乎無限制的18 Exabyte(即180億GB);另一方面,隨著平臺(tái)技術(shù)的發(fā)展,以及每GB內(nèi)存價(jià)格的下降,服務(wù)器系統(tǒng)內(nèi)存容量越來越大。今天服務(wù)器的內(nèi)存容量已經(jīng)可以用TB來計(jì)算,每1TB即1000GB。

  具體到至強(qiáng)E7來看,則主要通過大容量緩存、更高內(nèi)存帶寬、以及更大容量的內(nèi)存來滿足這一需求。比如,至強(qiáng)7500的三級(jí)緩存是24MB,至強(qiáng)E7達(dá)到了30MB,這使得SAP HANA應(yīng)用中,CPU計(jì)算內(nèi)核可以直接從緩存中讀取更多的數(shù)據(jù),訪問速度因此更快。在內(nèi)存方面,以四路服務(wù)器為例,至強(qiáng)7500系統(tǒng)可以支持16GB內(nèi)存條,內(nèi)存容量為1TB,而至強(qiáng)E7系統(tǒng)可以支持32GB的內(nèi)存條,系統(tǒng)內(nèi)存容量擴(kuò)大到2TB。

  當(dāng)然,在SAP HANA應(yīng)用中,快速的I/O也很關(guān)鍵,至強(qiáng)E7通過QPI互連總線,大大提高CPU與內(nèi)存之間、CPU與CPU之間以及節(jié)點(diǎn)之間的數(shù)據(jù)傳輸速率,降低延遲。

  2.3 高可用性

  面向海量數(shù)據(jù)進(jìn)行實(shí)時(shí)分析的系統(tǒng),其對(duì)穩(wěn)定可靠性的要求是不言而喻的。在這方面,新的至強(qiáng)E7服務(wù)器平臺(tái)在安全可靠性(RAS)方面也提供了更多的支持。比如Double Device Data Correction(DDDC)就對(duì)SAP HANA非常有用,允許當(dāng)內(nèi)存同時(shí)出現(xiàn)兩個(gè)錯(cuò)誤時(shí),也可以恢復(fù)。又比如Machine Check Architecture Recovery(MCA Recovery)技術(shù)使得SAP HANA可以與操作系統(tǒng)一起,從許多無法糾正的內(nèi)存錯(cuò)誤中恢復(fù),在許多場合下可以不用停機(jī)就能恢復(fù)數(shù)據(jù)。在至強(qiáng)E7中,類似這樣的RAS技術(shù)還有20多條。

  在一個(gè)針對(duì)32億條POS機(jī)銷售記錄的復(fù)雜模型中,英特爾與SAP進(jìn)行了聯(lián)合測試,測試表明,跟上一代的至強(qiáng)7500相比,至強(qiáng)E7的性能提高了1.37倍。另外,同樣基于至強(qiáng)E7平臺(tái),英特爾超線程技術(shù)性能提升1.21倍,NUMA技術(shù)提供1.07倍,睿頻加速(Turbo Boost)技術(shù)性能提升1.04倍,如下圖所示:

  3 內(nèi)存計(jì)算的前景展望

  據(jù)了解,在SAP HANA的研發(fā)過程中,得到了IBM、惠普、思科、富士通、英特爾等硬件廠商的支持,同時(shí)也有可口可樂(希臘)、未來集團(tuán)(Future Group)、喜利得(Hilti)在參與。比如喜利得(Hilti)是一家為建筑市場提供設(shè)備和技術(shù)的企業(yè),擁有2萬名員工,其中三分之二直接從事與客戶打交道的銷售與工程工作,因此每天會(huì)發(fā)生超過20萬次客戶接觸。通過SAP HANA,該公司將交易與分析系統(tǒng)進(jìn)行了融合,在早期測試中,搜索和分析5300萬條客戶數(shù)據(jù)記錄的時(shí)間從原來的2-3個(gè)小時(shí),降低到了2-3秒。

  許多服務(wù)器廠商也已經(jīng)推出了基于英特爾至強(qiáng)E7處理器的服務(wù)器,并針對(duì)SAP HANA開發(fā)了相應(yīng)的解決方案,如IBM的x3690 x5、x3850 x5服務(wù)器,戴爾的PowerEdge R910服務(wù)器等。IBM宣稱,其SAP HANA工作負(fù)載優(yōu)化方案可以使基于SAP的ERP數(shù)據(jù)分析應(yīng)用達(dá)到每秒處理1.3TB的數(shù)據(jù)量,以及每小時(shí)進(jìn)行10000次復(fù)雜的組合查詢分析。

  未來,隨著新型內(nèi)存技術(shù)如相變內(nèi)存(Phase Change Memory,PCM)、英特爾虛擬化技術(shù)、硬件圖形加速技術(shù)、更多CPU內(nèi)核技術(shù)的發(fā)展,以及內(nèi)存價(jià)格越來越低,內(nèi)存計(jì)算想必會(huì)為我們在做數(shù)據(jù)挖掘與分析、商業(yè)智能分析時(shí)提供一條更寬、更廣、更快捷的“高速公路”。

 

關(guān)鍵詞:內(nèi)存計(jì)算

版權(quán)與免責(zé)聲明

凡本網(wǎng)注明“出處:維庫電子市場網(wǎng)”的所有作品,版權(quán)均屬于維庫電子市場網(wǎng),轉(zhuǎn)載請(qǐng)必須注明維庫電子市場網(wǎng),http://m.58mhw.cn,違反者本網(wǎng)將追究相關(guān)法律責(zé)任。

本網(wǎng)轉(zhuǎn)載并注明自其它出處的作品,目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)或證實(shí)其內(nèi)容的真實(shí)性,不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。其他媒體、網(wǎng)站或個(gè)人從本網(wǎng)轉(zhuǎn)載時(shí),必須保留本網(wǎng)注明的作品出處,并自負(fù)版權(quán)等法律責(zé)任。

如涉及作品內(nèi)容、版權(quán)等問題,請(qǐng)?jiān)谧髌钒l(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系,否則視為放棄相關(guān)權(quán)利。

廣告
OEM清單文件: OEM清單文件
*公司名:
*聯(lián)系人:
*手機(jī)號(hào)碼:
QQ:
有效期:

掃碼下載APP,
一鍵連接廣大的電子世界。

在線人工客服

買家服務(wù):
賣家服務(wù):
技術(shù)客服:

0571-85317607

網(wǎng)站技術(shù)支持

13606545031

客服在線時(shí)間周一至周五
9:00-17:30

關(guān)注官方微信號(hào),
第一時(shí)間獲取資訊。

建議反饋

聯(lián)系人:

聯(lián)系方式:

按住滑塊,拖拽到最右邊
>>
感謝您向阿庫提出的寶貴意見,您的參與是維庫提升服務(wù)的動(dòng)力!意見一經(jīng)采納,將有感恩紅包奉上哦!