大數據中心採用的資料庫

1. 大數據分析系統平台方案有哪些

大數據分析系統平台方案有很多，其中就有廣州思邁特軟體Smartbi的大數據分析系統平台方案。大數據分析系統平台方案深度洞察用戶數據,幫企業用數據驅動產品改進及運營監控，思邁特軟體Smartbi是企業級商業智能和大數據分析品牌，經過多年持續自主研發，凝聚大量商業智能最佳實踐經驗，整合了各行業的數據分析和決策支持的功能需求。滿足最終用戶在企業級報表、數據可視化分析、自助探索分析、數據挖掘建模、AI智能分析等大數據分析需求。
Smartbi產品功能設計全面，涵蓋數據提取、數據管理、數據分析、數據共享四個環節，幫助客戶從數據的角度描述業務現狀，分析業務原因，預測業務趨勢，推動業務變革。
思邁特軟體Smartbi是國家認定的「高新技術企業」，廣東省認定的「大數據培育企業」， 廣州市認定的「兩高四新企業」，獲得了來自國家、地方政府、國內外權威分析機構、行業組織、知名媒體的高度關注和認可，斬獲「大數據百強企業」、「中國十佳商業智能方案商」、「中國科技創新企業100強」等100+榮譽獎項！
憑借NLP和數據挖掘功能入選Gartner「中國AI創業公司代表廠商（2020）」，憑借思邁特軟體Smartbi入選「Gartner?增強分析2020代表廠商」。

2. 數據中心是什麼其系統結構和工作原理是怎樣的呢

一直想整理一下這塊內容，既然是漫談，就想起什麼說什麼吧。我一直是在互聯網行業，就以互聯網行業來說。
先大概列一下互聯網行業數據倉庫、數據平台的用途：

• 整合公司所有業務數據，建立統一的數據中心；

• 提供各種報表，有給高層的，有給各個業務的；

• 為網站運營提供運營上的數據支持，就是通過數據，讓運營及時了解網站和產品的運營效果；

• 為各個業務提供線上或線下的數據支持，成為公司統一的數據交換與提供平台；

• 分析用戶行為數據，通過數據挖掘來降低投入成本，提高投入效果；比如廣告定向精準投放、用戶個性化推薦等；

• 開發數據產品，直接或間接為公司盈利；

• 建設開放數據平台，開放公司數據；

• 。。。。。。



• 上面列出的內容看上去和傳統行業數據倉庫用途差不多，並且都要求數據倉庫/數據平台有很好的穩定性、可靠性；但在互聯網行業，除了數據量大之外，越來越多的業務要求時效性，甚至很多是要求實時的 ，另外，互聯網行業的業務變化非常快，不可能像傳統行業一樣，可以使用自頂向下的方法建立數據倉庫，一勞永逸，它要求新的業務很快能融入數據倉庫中來，老的下線的業務，能很方便的從現有的數據倉庫中下線；


• 其實，互聯網行業的數據倉庫就是所謂的敏捷數據倉庫，不但要求能快速的響應數據，也要求能快速的響應業務；


• 建設敏捷數據倉庫，除了對架構技術上的要求之外，還有一個很重要的方面，就是數據建模，如果一上來就想著建立一套能兼容所有數據和業務的數據模型，那就又回到傳統數據倉庫的建設上了，很難滿足對業務變化的快速響應。應對這種情況，一般是先將核心的持久化的業務進行深度建模（比如：基於網站日誌建立的網站統計分析模型和用戶瀏覽軌跡模型；基於公司核心用戶數據建立的用戶模型），其它的業務一般都採用維度+寬表的方式來建立數據模型。這塊是後話。


• 整體架構下面的圖是我們目前使用的數據平台架構圖，其實大多公司應該都差不多：


• 邏輯上，一般都有數據採集層、數據存儲與分析層、數據共享層、數據應用層。可能叫法有所不同，本質上的角色都大同小異。


• 我們從下往上看：


• 數據採集數據採集層的任務就是把數據從各種數據源中採集和存儲到數據存儲上，期間有可能會做一些簡單的清洗。



• 數據源的種類比較多：



• 網站日誌：



• 作為互聯網行業，網站日誌占的份額最大，網站日誌存儲在多台網站日誌伺服器上，


• 一般是在每台網站日誌伺服器上部署flume agent，實時的收集網站日誌並存儲到HDFS上；



• 業務資料庫：



• 業務資料庫的種類也是多種多樣，有Mysql、Oracle、SqlServer等，這時候，我們迫切的需要一種能從各種資料庫中將數據同步到HDFS上的工具，Sqoop是一種，但是Sqoop太過繁重，而且不管數據量大小，都需要啟動MapRece來執行，而且需要Hadoop集群的每台機器都能訪問業務資料庫；應對此場景，淘寶開源的DataX，是一個很好的解決方案（可參考文章 《異構數據源海量數據交換工具-Taobao DataX 下載和使用》），有資源的話，可以基於DataX之上做二次開發，就能非常好的解決，我們目前使用的DataHub也是。


• 當然，Flume通過配置與開發，也可以實時的從資料庫中同步數據到HDFS。



• 來自於Ftp/Http的數據源：



• 有可能一些合作夥伴提供的數據，需要通過Ftp/Http等定時獲取，DataX也可以滿足該需求；



• 其他數據源：



• 比如一些手工錄入的數據，只需要提供一個介面或小程序，即可完成；



• 數據存儲與分析毋庸置疑，HDFS是大數據環境下數據倉庫/數據平台最完美的數據存儲解決方案。



• 離線數據分析與計算，也就是對實時性要求不高的部分，在我看來，Hive還是首當其沖的選擇，豐富的數據類型、內置函數；壓縮比非常高的ORC文件存儲格式；非常方便的SQL支持，使得Hive在基於結構化數據上的統計分析遠遠比MapRece要高效的多，一句SQL可以完成的需求，開發MR可能需要上百行代碼；


• 當然，使用Hadoop框架自然而然也提供了MapRece介面，如果真的很樂意開發Java，或者對SQL不熟，那麼也可以使用MapRece來做分析與計算；Spark是這兩年非常火的，經過實踐，它的性能的確比MapRece要好很多，而且和Hive、Yarn結合的越來越好，因此，必須支持使用Spark和SparkSQL來做分析和計算。因為已經有Hadoop Yarn，使用Spark其實是非常容易的，不用單獨部署Spark集群，關於Spark On Yarn的相關文章，可參考：《Spark On Yarn系列文章》


• 實時計算部分，後面單獨說。


• 數據共享這里的數據共享，其實指的是前面數據分析與計算後的結果存放的地方，其實就是關系型資料庫和NOSQL資料庫；



• 前面使用Hive、MR、Spark、SparkSQL分析和計算的結果，還是在HDFS上，但大多業務和應用不可能直接從HDFS上獲取數據，那麼就需要一個數據共享的地方，使得各業務和產品能方便的獲取數據；和數據採集層到HDFS剛好相反，這里需要一個從HDFS將數據同步至其他目標數據源的工具，同樣，DataX也可以滿足。


• 另外，一些實時計算的結果數據可能由實時計算模塊直接寫入數據共享。



• 數據應用

• 業務產品
  



• 業務產品所使用的數據，已經存在於數據共享層，他們直接從數據共享層訪問即可；



• 報表



• 同業務產品，報表所使用的數據，一般也是已經統計匯總好的，存放於數據共享層；



• 即席查詢



• 即席查詢的用戶有很多，有可能是數據開發人員、網站和產品運營人員、數據分析人員、甚至是部門老大，他們都有即席查詢數據的需求；


• 這種即席查詢通常是現有的報表和數據共享層的數據並不能滿足他們的需求，需要從數據存儲層直接查詢。


• 即席查詢一般是通過SQL完成，最大的難度在於響應速度上，使用Hive有點慢，目前我的解決方案是SparkSQL，它的響應速度較Hive快很多，而且能很好的與Hive兼容。


• 當然，你也可以使用Impala，如果不在乎平台中再多一個框架的話。



• OLAP



• 目前，很多的OLAP工具不能很好的支持從HDFS上直接獲取數據，都是通過將需要的數據同步到關系型資料庫中做OLAP，但如果數據量巨大的話，關系型資料庫顯然不行；


• 這時候，需要做相應的開發，從HDFS或者HBase中獲取數據，完成OLAP的功能；


• 比如：根據用戶在界面上選擇的不定的維度和指標，通過開發介面，從HBase中獲取數據來展示。



• 其它數據介面
  



• 這種介面有通用的，有定製的。比如：一個從Redis中獲取用戶屬性的介面是通用的，所有的業務都可以調用這個介面來獲取用戶屬性。



• 實時計算現在業務對數據倉庫實時性的需求越來越多，比如：實時的了解網站的整體流量；實時的獲取一個廣告的曝光和點擊；在海量數據下，依靠傳統資料庫和傳統實現方法基本完成不了，需要的是一種分布式的、高吞吐量的、延時低的、高可靠的實時計算框架；Storm在這塊是比較成熟了，但我選擇Spark Streaming，原因很簡單，不想多引入一個框架到平台中，另外，Spark Streaming比Storm延時性高那麼一點點，那對於我們的需要可以忽略。


• 我們目前使用Spark Streaming實現了實時的網站流量統計、實時的廣告效果統計兩塊功能。


• 做法也很簡單，由Flume在前端日誌伺服器上收集網站日誌和廣告日誌，實時的發送給Spark Streaming，由Spark Streaming完成統計，將數據存儲至Redis，業務通過訪問Redis實時獲取。


• 任務調度與監控在數據倉庫/數據平台中，有各種各樣非常多的程序和任務，比如：數據採集任務、數據同步任務、數據分析任務等；



• 這些任務除了定時調度，還存在非常復雜的任務依賴關系，比如：數據分析任務必須等相應的數據採集任務完成後才能開始；數據同步任務需要等數據分析任務完成後才能開始；這就需要一個非常完善的任務調度與監控系統，它作為數據倉庫/數據平台的中樞，負責調度和監控所有任務的分配與運行。


• 前面有寫過文章，《大數據平台中的任務調度與監控》,這里不再累贅。


• 總結在我看來架構並不是技術越多越新越好，而是在可以滿足需求的情況下，越簡單越穩定越好。目前在我們的數據平台中，開發更多的是關注業務，而不是技術，他們把業務和需求搞清楚了，基本上只需要做簡單的SQL開發，然後配置到調度系統就可以了，如果任務異常，會收到告警。這樣，可以使更多的資源專注於業務之上。

3. 大數據用什麼資料庫

大數據現在通常採用的都是雲資料庫。

4. 大數據中心全系列產品是什麼

大數據產品按照功能大致可劃分:
分布式批處理平台、分布式流處理平台、分布式分析型資料庫、分布式事務型資料庫、關系型雲資料庫等

5. 大數據中心是幹嘛的

大數據中心是國家電網數據管理的專業機構和數據共享、服務、創新平台。以國家大數據中心為例，位於貴州的大資料庫災備中心機房內有一根網路虛擬專線。這條專線跨越北京與貴州之間的距離，實現了國家與貴州災備中心數據的同步傳輸和異地備份。

大數據中心是幹嘛的

中國大數據有八大節點和三大核心節點。中國網路的核心層由北京、上海、廣州、沈陽、南京、武漢、成都、西安等核心節點組成。

核心層的功能主要是提供與國際internet的互聯，以及提供大區之間信息交換的通路。

核心節點之間為不完全網狀結構。以北京、上海、廣州為中心的三中心結構，其它核心節點分別以至少兩條高速ATM鏈路與三個中心相連。

6. 大量數據用什麼資料庫

http://www.yesky.com/323/93823.shtml
http://hi..com/supersi_pumc/blog/item/6232a17ba79a26f10bd18724.html
比較SQL Server與Oracle、DB2
出處：不祥
關鍵詞：Sql Server, Oracle, 其他

1．選擇一個好的資料庫是非常重要的。

2．如何選擇一個好的資料庫

開放性:
SQL Server
只能在windows 上運行，沒有絲毫的開放性，操作系統的系統的穩定對資料庫是十分重要的。Windows9X系列產品是偏重於桌面應用，NT server只適合中小型企業。而且windows平台的可靠性，安全性和伸縮性是非常有限的。它不象unix那樣久經考驗，尤其是在處理大數據量的關鍵業務時.

Oracle
能在所有主流平台上運行（包括 windows）。完全支持所有的工業標准。採用完全開放策略。可以使客戶選擇最適合的解決方案。對開發商全力支持。

DB2
能在所有主流平台上運行（包括windows）。最適於海量數據。DB2在企業級的應用最為廣泛,在全球的500家最大的企業中,幾乎85%以上用DB2資料庫伺服器,而國內到97年約佔5%.

可伸縮性,並行性
SQL server
DB2
並行實施和共存模型並不成熟。很難處理日益增多的用戶數和數據卷。伸縮性有限。

Oracle
平行伺服器通過使一組結點共享同一簇中的工作來擴展windownt的能力,提供高可用性和高伸縮性的簇的解決方案。
如果windowsNT不能滿足需要, 用戶可以把資料庫移到UNIX中。

DB2
DB2具有很好的並行性。DB2把資料庫管理擴充到了並行的、多節點的環境.
資料庫分區是資料庫的一部分，包含自己的數據、索引、配置文件、和事務日
志。資料庫分區有時被稱為節點或資料庫節點

安全性
SQL server
沒有獲得任何安全證書。

Oracle Server
獲得最高認證級別的ISO標准認證。

DB2
獲得最高認證級別的ISO標准認證。

性能
SQL Server
多用戶時性能不佳

Oracle
性能最高， 保持windowsNT下的TPC-D和TPC-C的世界記錄。

DB2
適用於數據倉庫和在線事物處理性能較高。

客戶端支持及應用模式
SQL Server
C/S結構，只支持windows客戶，可以用ADO,DAO,OLEDB,ODBC連接.

Oracle
多層次網路計算，支持多種工業標准，可以用ODBC,JDBC,OCI等網路客戶連接

DB2
跨平台，多層結構，支持ODBC,JDBC等客戶

操作簡便
SQL Server
操作簡單,但只有圖形界面.

Oracle
較復雜, 同時提供GUI和命令行，在windowsNT和unix下操作相同

DB2
操作簡單,同時提供GUI和命令行，在windowsNT和unix下操作相同

使用風險
SQL server
完全重寫的代碼，經歷了長期的測試，不斷延遲，許多功能需要時間來證明。並不十分兼容早期產品。使用需要冒一定風險。

Oracle
長時間的開發經驗，完全向下兼容。得到廣泛的應用。完全沒有風險。

DB2
在巨型企業得到廣泛的應用，向下兼容性好。風險小。

7. 常見的基於列存儲的大數據資料庫有哪些

目前大數據存儲有兩種方案可供選擇：行存儲和列存儲。業界對兩種存儲方案有很多爭持，集中焦點是:誰能夠更有效地處理海量數據，且兼顧安全、可靠、完整性。從目前發展情況看，關系資料庫已經不適應這種巨大的存儲量和計算要求，基本是淘汰出局。在已知的幾種大數據處理軟體中，Hadoop的HBase採用列存儲，MongoDB是文檔型的行存儲，Lexst是二進制型的行存儲。在這里，我不討論這些軟體的技術和優缺點，只圍繞機械磁碟的物理特質，分析行存儲和列存儲的存儲特點，以及由此產生的一些問題和解決辦法。

8. 有哪些類型大資料庫

資料庫劃分
小型資料庫：access,foxbase
中型資料庫：mysql,sql server,Informix
大型資料庫：sysbase,oracle,db2

如何考慮用什麼類型的資料庫（小型資料庫）
1. 項目的規模
a. 負載量多大，用戶多大
b. 成本
c. 安全性
負載量小 100人內
比如留言板，信息系統 選用小型資料庫
成本在千元以內，對安全性要求不高。

中型資料庫
比如在負載，日訪問量 5000—15000
成本在萬元內
比如 電子商務網站

大型資料庫
負載可以處理 少量資料庫
Sybase < Oracle < db2
安全性能高，價格昂貴

9. 大數據時代需要哪些資料庫技術

"大數據"是一個體量特別大，數據類別特別大的數據集，並且這樣的數據集無法用傳統資料庫工具對其內容進行抓取、管理和處理。 "大數據"首先是指數據體量(volumes)?大，指代大型數據集，一般在10TB?規模左右，但在實際應用中，很多企業用戶把多個數據集放在一起，已經形成了PB級的數據量；其次是指數據類別(variety)大，數據來自多種數據源，數據種類和格式日漸豐富，已沖破了以前所限定的結構化數據范疇，囊括了半結構化和非結構化數據。接著是數據處理速度（Velocity）快，在數據量非常龐大的情況下，也能夠做到數據的實時處理。最後一個特點是指數據真實性（Veracity）高，隨著社交數據、企業內容、交易與應用數據等新數據源的興趣，傳統數據源的局限被打破，企業愈發需要有效的信息之力以確保其真實性及安全性。