我國基于云計算數(shù)據(jù)庫的研究


時間:2014-05-09





  “云”和“大數(shù)據(jù)”是當(dāng)今IT圈當(dāng)之無愧的最熱的兩個關(guān)鍵詞,云和大數(shù)據(jù)之間有著千絲萬縷的聯(lián)系,兩者相互促進(jìn),共同發(fā)展。隨著云計算的發(fā)展,數(shù)據(jù)量呈現(xiàn)爆炸式增長,海量的數(shù)據(jù)除了在本地存儲,也可以在云上開辟新的空間。結(jié)構(gòu)化數(shù)據(jù)、半結(jié)構(gòu)化數(shù)據(jù)或者非結(jié)構(gòu)化數(shù)據(jù),云數(shù)據(jù)庫都提供了相應(yīng)的產(chǎn)品,協(xié)助用戶管理和消費數(shù)據(jù),將他們從繁瑣的硬件配置和管理中解脫出來。

  1.云計算概述

  云計算已經(jīng)成為當(dāng)前全社會關(guān)注的熱點,被看著繼個人計算機變革和互聯(lián)網(wǎng)變革后的第三次IT浪潮。云計算的出現(xiàn)可以上溯到上世紀(jì)60年代,麥卡錫曾經(jīng)提出將計算能力作為一種和水電一樣的公用事業(yè)提供給用戶的理念,這可以算作云計算思想的起源。隨著IT計算的發(fā)展,在網(wǎng)格計算、虛擬化技術(shù)、SOA、SaaS等技術(shù)的支撐下,云計算作為一種新的資源使用和交付模式,逐漸的得到認(rèn)可和推廣。

  對于眾多IT廠商來說,云計算更多的是一種營銷傘。目前被廣泛認(rèn)可的云計算的定義是美國國家標(biāo)注與技術(shù)研究院對云計算的定義:云計算是一種按使用量付費的模式,這種模式提供可用的、便捷的、按需的網(wǎng)絡(luò)訪問,進(jìn)入可配置的計算資源共享池(資源包括網(wǎng)絡(luò),服務(wù)器,存儲,應(yīng)用軟件,服務(wù)),這些資源能夠被快速提供,只需投入很少的管理工作,或與服務(wù)供應(yīng)商進(jìn)行很少的交互。

  云計算主要有資源配置自動化、需求服務(wù)自動化、以網(wǎng)絡(luò)為中心、服務(wù)可記量化以及資源的池化和透明化等特點。

  鑒于云計算的各種特點,近年來國內(nèi)外各知名IT企業(yè)都在大力開發(fā)和推進(jìn)云計算,如Google推出Google Apps服務(wù),亞馬遜推遲彈性計算云(EC2)服務(wù),IBM推出“藍(lán)云”計劃,國內(nèi)浪潮推出面向云計算的“云?!辈僮飨到y(tǒng)。

  2.云數(shù)據(jù)庫

  2.1 數(shù)據(jù)庫概述

  信息系統(tǒng)都需要對各種數(shù)據(jù)進(jìn)行計算,然后存放在數(shù)據(jù)庫系統(tǒng)中。云計算系統(tǒng)同樣如此,在云計算中,可以把數(shù)據(jù)庫簡單的劃分為三種:傳統(tǒng)的關(guān)系數(shù)據(jù)庫,NoSql數(shù)據(jù)庫和云數(shù)據(jù)庫(DBaaS)。

  傳統(tǒng)數(shù)據(jù)庫主要是關(guān)系型數(shù)據(jù)庫,有商用和開源兩種。商用關(guān)系型數(shù)據(jù)庫經(jīng)過多年的發(fā)展,已經(jīng)非常的穩(wěn)定可靠,諸如oracle、sql server等,但價格比較昂貴。開源數(shù)據(jù)庫在穩(wěn)定性方便不及商用數(shù)據(jù)庫,但在價格方面有較大優(yōu)勢,如mysql、postgresql等開源數(shù)據(jù)庫在業(yè)界也有廣泛的應(yīng)用。對于傳統(tǒng)的關(guān)系數(shù)據(jù)庫,在高并發(fā)和海量數(shù)據(jù)的情況下,對數(shù)據(jù)庫配置管理以及應(yīng)用系統(tǒng)的開發(fā),都有較高要求,在維護成本和維護人員方面需求較高。對于很多中小型企業(yè),這方面的費用過于昂貴。

  NoSql是Carlo Strozzi開發(fā)的一個輕量、開源、不提供SQL功能的數(shù)據(jù)庫,有時也稱作Not Only SQL的簡寫,是對不同于傳統(tǒng)的關(guān)系型數(shù)據(jù)庫的數(shù)據(jù)庫管理系統(tǒng)的統(tǒng)稱。NoSql數(shù)據(jù)庫和傳統(tǒng)的關(guān)系型數(shù)據(jù)庫存在很多不同點,最重要的一個是NoSql不使用SQL作為查詢語言。NoSql的結(jié)構(gòu)通常提供弱一致性的保證,如最終一致性,或者僅限于單個的數(shù)據(jù)項。但多數(shù)NoSql系統(tǒng)都部署了分布式結(jié)構(gòu),使用分散式雜湊表將數(shù)據(jù)以冗余的方式保存在多臺服務(wù)器上,以此提供了高可用性和高擴展性。

  而云數(shù)據(jù)庫通常是指運行在云計算平臺上的數(shù)據(jù)庫系統(tǒng)。是指在SaaS模式下發(fā)展起來的一種云計算技術(shù),是一種基于云的數(shù)據(jù)存儲,提供數(shù)據(jù)的變更、查詢、計算服務(wù),對應(yīng)用程序而言只需要提交一個數(shù)據(jù)庫連接字符串即可訪問的服務(wù),且云數(shù)據(jù)庫的用戶不能直接控制運行原始數(shù)據(jù)庫的主機。它增強了數(shù)據(jù)庫的管理及運維能力,同時消除了用戶、硬件和軟件的重復(fù)配置,并且虛擬化了許多后端的功能,使軟硬件的升級變的更容易和簡單。

  2.2 云數(shù)據(jù)庫的現(xiàn)狀

  根據(jù)IDC的研究報告,企業(yè)對結(jié)構(gòu)化數(shù)據(jù)的存儲每年都有很大的增加,而對非結(jié)構(gòu)化數(shù)據(jù)的存儲需求增加的更快更多,小規(guī)模的應(yīng)用,系統(tǒng)負(fù)載變化可以由系統(tǒng)的空閑資源來進(jìn)行處理,但在大規(guī)模應(yīng)用的情況下,存在海量的數(shù)據(jù)存儲需求,而且應(yīng)用對資源的需求也是動態(tài)變化的,這就意味著大量虛擬服務(wù)器的增加和減少,對于這樣情況,傳統(tǒng)的關(guān)系數(shù)據(jù)庫已經(jīng)無法滿足這些需求,云數(shù)據(jù)庫成了必然的選擇,也就是說,海量數(shù)據(jù)存儲催生了云數(shù)據(jù)庫,并推動他不斷向前發(fā)展。

  隨著云計算的興起,有眾多的IT公司都參與了云數(shù)據(jù)庫的開發(fā),雖然在DBaaS中仍存在許多問題,尤其是關(guān)于存儲在云的敏感信息,以及服務(wù)中斷的問題,還有包括向云端數(shù)據(jù)庫遷移困難,沒有足夠成熟的案例等問題,不過,云數(shù)據(jù)庫和工具這一新興市場仍在加速發(fā)展中,云數(shù)據(jù)庫仍然是未來發(fā)展的大勢。

  目前云數(shù)據(jù)庫市場上主要有Google的Bigtable和Amazon的SimpleDB,10G也開發(fā)了自己的MongoDB,微軟利用其SQL Server技術(shù)研發(fā)的Azure,以及甲骨文的開源的BekelyDB等新型開源數(shù)據(jù)庫。但是Google和Amazon幾乎占領(lǐng)了整個市場。



  2.3 云數(shù)據(jù)庫的特點

  云數(shù)據(jù)庫與傳統(tǒng)的關(guān)系型數(shù)據(jù)庫存在著根本的不同,云數(shù)據(jù)庫主要對分布的、海量的數(shù)據(jù)進(jìn)行存儲,必須能夠高效的管理大量的數(shù)據(jù)。相比傳統(tǒng)的關(guān)系型數(shù)據(jù)庫,云數(shù)據(jù)庫具有以下幾個特點:

  1) 動態(tài)可擴展

  因為面臨出來海量數(shù)據(jù)的需求,從理論上來說,云數(shù)據(jù)庫具有無限可擴展性,以滿足不斷增長的數(shù)據(jù)存儲需求。在面對不斷變化的需求時,云數(shù)據(jù)庫能表現(xiàn)出更好的彈性。如需要分配額外的數(shù)據(jù)庫存儲資源來處理一些新增加的需求,在云數(shù)據(jù)庫中這個過程只需幾分鐘,當(dāng)需求降低的時候,也可以很方便的釋放這些資源。

  2) 高可用性

  對云數(shù)據(jù)庫來說,不存在單點失效的問題,如果某一個節(jié)點失效,剩余的節(jié)點就會接管該節(jié)點未完成的事務(wù)。而且在云數(shù)據(jù)庫中,通常數(shù)據(jù)都是復(fù)制的,在地理分布上也是如此。各大型云計算服務(wù)提供商如Google、Amazon和IBM等都有分布在全球范圍內(nèi)的數(shù)據(jù)中心,通過在不同地理空間進(jìn)行數(shù)據(jù)復(fù)制,可以提供高水平的容錯能力。

  3) 使用代價較低

  云數(shù)據(jù)庫通常是采用多租戶(multi-tenancy)的形式,這種資源共享的方式對于用戶來說,可以節(jié)省很多的開銷,而且采用按需付費的方式來使用云計算環(huán)境下的各種軟硬件資源,不會產(chǎn)生各種不必要的資源浪費。同時,云數(shù)據(jù)庫的底層存儲通常是采用大量廉價的商業(yè)服務(wù)器,可以更一步降低成本。

  4) 易用性

  云數(shù)據(jù)庫對用戶隱藏了底層的所有信息,所有的底層信息對用戶程序來說都是絕對透明的。云數(shù)據(jù)庫的用戶不用控制運行原始數(shù)據(jù)庫的服務(wù)器,也不必了解其他任何信息,只需要一個有效的鏈接字符串就可以方便的使用云數(shù)據(jù)庫。使用云數(shù)據(jù)庫的服務(wù),如數(shù)據(jù)庫的管理維護、備份、監(jiān)控、服務(wù)器優(yōu)化等日常工作,數(shù)據(jù)庫主機的維護管理等工作都將由云數(shù)據(jù)庫平臺的自動化工具來完成,用戶可以將時間和精力都花費在用戶程序的優(yōu)化和管理上面。

  5) 支持大規(guī)模的并行處理

  在云計算系統(tǒng)中,由于處理的是海量的數(shù)據(jù),為了效率和有效的使用云計算系統(tǒng)的所有資源,數(shù)據(jù)庫必須能夠支持大規(guī)模的并行運算。而對于用戶來說,他們看到的數(shù)據(jù)庫只是一個虛擬的數(shù)據(jù)庫,數(shù)據(jù)庫管理平臺會根據(jù)策略把用戶的數(shù)據(jù)進(jìn)行分拆存儲到不同的物理主機或者虛擬機上,因此云數(shù)據(jù)能夠有效的提供大規(guī)模的并行處理的服務(wù)。

  3.實例研究

  下面以Google的云數(shù)據(jù)庫產(chǎn)品為例,介紹云數(shù)據(jù)庫的實現(xiàn)和使用。Google研發(fā)的大規(guī)模數(shù)據(jù)庫系統(tǒng)Google BigTable[8]只能滿足弱一致性要求,它設(shè)計的目的是為了出來Google內(nèi)部的海量的格式化和半格式化數(shù)據(jù)。它允許客戶端進(jìn)行數(shù)據(jù)部署以及對格式進(jìn)行動態(tài)的控制。

  BigTable的實現(xiàn)是構(gòu)建在Google其他幾個基礎(chǔ)設(shè)施之上的,它使用了Google的分布式文件系統(tǒng)GFS存儲數(shù)據(jù)和日志文件,它還依賴一個持久性的、高可用的分布式鎖服務(wù)Chubby,最后它還要依靠簇管理系統(tǒng)來調(diào)度作業(yè)、調(diào)度共享服務(wù)器上面的資源、處理服務(wù)器故障和監(jiān)控服務(wù)器的狀態(tài)。

  BigTable提供了一個和以往不同的簡單動態(tài)的非關(guān)系型數(shù)據(jù)模型,采用的是鍵/值數(shù)據(jù)模型。一個BigTable實際上就可以看作一個永久的分布式的稀疏的多維排序圖,采用row key、column key及timestamp來對該圖進(jìn)行索引,其中每個值都是一個未經(jīng)解釋的字節(jié)數(shù)組。

  在BigTable中,行列和時間戳都是保存在表格的單元里,然后里面的內(nèi)容按行劃分,多個行組成一個tablet(小表),然后被保存到一個服務(wù)器節(jié)點中。在一個數(shù)據(jù)簇中,存儲有許多表,而沒個表都是一個tablet集合。在最初,一個表只有一個table,隨著表的增長,會分解成多個tablet,系統(tǒng)使用類似于B+樹的一個3層的架構(gòu)來存儲這些tablet的信息。因為系統(tǒng)采用了鍵/值數(shù)據(jù)模型,表之間不存在關(guān)聯(lián)操作,使得數(shù)據(jù)的分區(qū)操作相對比較簡單。

  在BigTable的訪問數(shù)據(jù),首先是由客戶端向管理器獲取一份分區(qū)映射圖,然后再圖中根據(jù)鍵值搜尋數(shù)據(jù)的存儲位置,然后向改數(shù)據(jù)節(jié)點請求數(shù)據(jù),最后由改節(jié)點向客戶端返回相應(yīng)的數(shù)據(jù)。在實際應(yīng)用中,為了提升性能,也是為了緩解在管理器端的性能瓶頸,客戶端通常會緩存一份常用的分區(qū)映射圖。

  4.總結(jié)及未來展望

  云數(shù)據(jù)庫隨著云計算技術(shù)的發(fā)展,越來越受到業(yè)界的關(guān)注,當(dāng)前,很多IT公司都參與到云計算當(dāng)中來,云數(shù)據(jù)庫的影響也日趨擴大,主要體現(xiàn)在以下幾個方面,包括改變了很多企業(yè)的數(shù)據(jù)管理的方式,促使數(shù)據(jù)庫技術(shù)的發(fā)展,重新分配數(shù)據(jù)庫市場的份額等。

  隨著市場的發(fā)展,以及云數(shù)據(jù)庫的成熟,云數(shù)據(jù)庫在未來一段時間是數(shù)據(jù)庫技術(shù)的發(fā)展趨勢,云數(shù)據(jù)庫的相關(guān)問題也是將來數(shù)據(jù)庫研究的重點內(nèi)容。

來源:CIO時代網(wǎng)



  版權(quán)及免責(zé)聲明:凡本網(wǎng)所屬版權(quán)作品,轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”,違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章,不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系:010-65363056。

延伸閱讀

熱點視頻

第六屆中國報業(yè)黨建工作座談會(1) 第六屆中國報業(yè)黨建工作座談會(1)

熱點新聞

熱點輿情

特色小鎮(zhèn)

版權(quán)所有:中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)京ICP備11041399號-2京公網(wǎng)安備11010502003583