① 大數據時代需要什麼樣的存儲
眾多專家認為,大數據時代的存儲,應當是分布式的存儲,並呈現出與計算融合的趨勢。當然,不同專家對融合的理解也有所區別。 SNIA-China技術委員會主席雷濤表示,在當前的大數據時代,由於數據量TB、PB級的急劇膨脹,傳統的數據搬移工作已經不現實,因而存儲伺服器出現新的融合趨勢。在這樣的架構中,數據不再移動,寫入以後分散在STORAGE,它的計算節點融合在數據旁邊的CPU,數據越來越貼近計算。 雷濤補充說,大數據只談商業分析的數據支持,這是小數據思維,從金融、運營商、政府行業我們做的項目裡面發現,大數據是嵌入到整個行業裡面,替換以前的存儲和計算的系統架構的過程。 華為存儲產品線Marketing部長經寧認為,大數據帶來的三大變化,包括從集中式走向分布式,從水平走向縱向,從計算為中心轉向以數據為中心,總結一句話,即在大數據下架構方向走向分布式存儲的架構。 2013年,華為存儲產品線把理念進行升級,變成「存以致用,融以致遠」。經寧表示,融合架構是我們面對大數據挑戰一個很好的選擇。華為更多的希望把數據智能用起來產生價值,通過融合架構實現計算存儲融合,可以帶來更高的管理效率更高效能,大大降低我們管理上的開銷。 中橋國際調研咨詢公司首席分析師王叢女士則從虛擬化、雲計算數據保護和融合架構三個維度談了中國數據中心的發展變化。她表示,具有高可移動性的虛擬機用於生產,掉了鏈子就很難判斷是哪個物理環境,這就驅動了融合架構。融合架構避免了整合的時間和網路問題判斷的時間,能夠實現統一集中透明管理,可以根據工作負載去實時動態配置資源,也可以實時監控哪裡出了問題,怎麼解決問題。 王叢還指出,融合架構有不同的形態,其中一種是在原來硬體基礎上用一個軟體罩上,然後形成融合架構,實現目的是可以在線擴展,所有動態可以負載均衡,在最大限度提高部署效率前提下,又能夠降低因為硬體問題而導致的應用性能降低和應用的不穩定。 老牌存儲廠商NetApp同樣對存儲架構很有體會。NetApp公司北方區及電信事業部技術總監劉煒表示,在今天把數據存起來不是很難的問題,買一個移動硬碟就可以存儲數據,但是在上面存儲享受的服務級別不同的,不同於放在數據中心和網路雲上面的服務級別的。 為了不讓數據成為整個企業發展的負擔,而是成為真正的價值點,從資料變成資產,基礎架構需要快速、安全地支持一些新的技術手段。劉煒認為,應用級別和服務級別怎麼定義需要有很好存儲架構。NetApp集群存儲系統,並不是簡單地迎合新概念,而是面向實際的應用設計。NetApp做了很多IT架構的設計,滿足應用分級、資源分層的需求,你可以用虛擬化,也可以不用。 Fusion-io大中國區技術總監Tonny Ai與英特爾公司通信和存儲基礎架構事業部存儲部市場總監 Christine M Rice女士談到了SSD在大數據時代數據中心的應用。Tonny Ai表示,讓包括非結構化數據的大量數據快速變成信息,不僅僅是伺服器要快,存儲速度也要跟上CPU的速度,快閃記憶體正是針對當前網路存儲速度落後的解決方案,能夠有效提高存儲的性能。 同時,Tonny Ai認為,在雲計算、大數據時代,集中式存儲需要的管理和維護非常困難,分布式存儲模型是大勢所趨。在這其中,Fusion-io提供了PCIe快閃記憶體卡、全快閃記憶體陣列以及SDK工具,支持提升各種應用的性能。 Christine M Rice女士指出,SSD不只是讓數據變快。她認為,通過SSD在數據中心的使用,能夠幫助節約成本,降低延遲,加快訪問數據的速度,同時還能夠提供非常高的可靠性和管理級別,結合了DRM的使用進行軟體分層管理。 戴爾亞太存儲技術總監許良謀則強調了SSD的利用要在成本和性能之間的平衡,如何更好地應對大數據——快閃記憶體的成本和壽命讓很多企業對它愛恨交加。許良謀認為,大數據需要一個高容量高速度的共享存儲,戴爾的流動數據架構就是一個讓數據平滑遷移的平台。 戴爾實現了一個新的技術突破,即快速SLC和eMLC大容量盤可以用到流動架構裡面,再加上普通的大容量盤,兩級固態盤優化和流動數據架構的配合,這種方案可以比普通純快閃記憶體的方式實現75%以上的成本節約。 許良謀介紹到,戴爾一直通過收購、合作等方式,在自身產品線中不斷引入新的存儲技術,力圖把最好的存儲產品以最經濟的方式提供給用戶。
② 大數據時代下存儲新價值
大數據時代下存儲新價值
大數據正在成為眾多企業單位的重要的工具,而隨著數據本身的加速增長,用戶們所部屬的存儲變得越來越重要。而由於用戶面臨的各種挑戰,比如實施分析工具和掌控大型數據文件等,用戶首先需要了解大數據與存儲的關系。
惠普亞太和日本地區存儲產品部某專家為記者分析了二者之間的關系,主要包括兩個方面:第一是對象存儲這個全新的概念,主要涉及到社交媒體以及設備相關的存儲方式;第二是大數據最重要的問題-搜索和發現數據,如果你無法高效地搜索到數據,存儲的價值也盪然無存。
大數據激發「對象存儲」潛能
而談到大數據中重要的非結構化數據,其表示,這需要具體區分為半結構化數據和非結構化數據,這些都直接影響到了用戶數據的存儲方式和架構。
這就需要提到「對象存儲」,解釋了「對象存儲」對大數據的意義,非結構化數據特別是基於雲服務數據的屬性大部分是靜態的,生成之後很長一段時間不會發生變化。但經常讀取大量靜態數據對存儲需求變革的發展帶來很多的影響,這就產生了「對象存儲」的概念。「對象存儲」是一種傳統的文件格式,但不斷地適應目前對象性的數據的變化。對象性的數據可以幫助我們克服過去文件系統技術的局限。我們看到大數據很多產生於各種各樣的社交媒體以及數字感測器,也就是終端設備,包括智能手機、平板電腦以及監控攝像頭等,這些設備都帶來了大數據的增長,也催生了「對象存儲」的巨大需求,所以「對象存儲」對大數據的影響很大。
他最後表示,要讓大數據真正實現價值,必須提高搜索和發現能力。即通過搜索相關的索引或者元數據的標簽這樣的工具來發現和搜索數據。用一個小故事來說明,人們原來花65000秒在草堆裡面找到了一根銀針(代指數據的價值),類似於中國的「大海撈針」,而現在通過大數據的分析能力,能在幾秒,甚至不到一秒鍾內快速地發現數據並獲得價值。
③ 新數據需要新存儲,浪潮存儲有什麼應對發展措施嗎
新數據時代,數字經濟正飛速發展,數據作為新生產要素,其類型越來越豐富、數據量的規模也越來越大,需要從采、存、管、用進行全生命周期提速。新的數據時代,需要新的存儲理念,也給浪潮存儲等企業帶來了全新的發展機遇。對此,浪潮存儲提出了「雲存智用、運籌新數據」的存儲理念,聚焦極致技術、存儲即平台、數據「系」存儲基礎設施的打造,希望通過「理念、技術、產品、方案」四個關鍵要素的閉環,幫助企業徹底釋放數據價值。如今,浪潮存儲正全面推進端到端NVMe、智能運維、多雲對接等新興技術在存儲產品中的應用,驅動企業數字化轉型,伴隨著數字經濟市場的擴大,浪潮存儲也將迎來越來越好的發展。
④ 在新數據時代的今天,浪潮存儲應對的全新挑戰聚集在哪些方面
浪潮存儲對容量要求極大,以清華大學RUSH腦科學研究為例,通過28台2500萬像素的高清攝像機在3天不間斷觀測大腦活動變化,每小時就能夠產生72TB數據,3天實驗周期可以產生5PB數據。與過去相比,當前越來越多應用所產生的數據量提升了10-100倍,海量數據的產生使得越來越多用戶對於存儲容量有著極大的需求。
對於數據存儲性能的要求越來越高,比如健康碼,每天有幾十億次的查詢,需要底層存儲具備足夠強大的性能,來滿足上層應用的快速響應需求;對於數據的共享、使用和管理需要更加順暢和便捷。隨著5G、物聯網、AI等數字技術加速普及與商用,數據的產生量、產生方式、處理方式正在發生巨大變化,未來可能面對的不再是數據沼澤,而是數據「死海」,如果存儲不能很好地將數據共享和管理起來,將會給上層智慧應用帶來極大的挑戰。
⑤ 大數據時代,數據的存儲與管理有哪些要求
數據時代的到來,數據的存儲有以下主要要求:
首先,海量數據被及時有效地存儲。根據現行技術和預防性法規和標准,系統採集的信息的保存時間不少於30天。數據量隨時間的增加而線性增加。
其次,數據存儲系統需要具有可擴展性,不僅要滿足海量數據的不斷增長,還要滿足獲取更高解析度或更多採集點的數據需求。
第三,存儲系統的性能要求很高。在多通道並發存儲的情況下,它對帶寬,數據容量,高速緩存等有很高的要求,並且需要針對視頻性能進行優化。
第四,大數據應用需要對數據存儲進行集中管理分析。
⑥ 大數據存儲需要具備什麼
大數據之大大是相對而言的概念。例如,對於像SAPHANA那樣的內存資料庫來說,2TB可能就已經是大容量了;而對於像谷歌這樣的搜索引擎,EB的數據量才能稱得上是大數據。大也是一個迅速變化的概念。HDS在2004年發布的USP存儲虛擬化平台具備管理32PB大數據存儲需要具備什麼?
⑦ 在新數據時代,浪潮存儲的核心發展方向是什麼
新數據時代有著更高存儲容量、存儲性能以及數據共享與使用的需求,浪潮存儲的新存儲之道核心是聚焦極致技術、存儲即平台、數據「系」存儲基礎設施的打造,計劃通過「理念、技術、產品、方案」四個關鍵要素的閉環,加速數據流動、數據處理、數據共享和數據在線和數據安全,從而能夠以更高的性能以及產品技術能力,幫助企業在新數據時代迎接挑戰,並徹底地釋放出數據的真正價值。
⑧ 大數據、高性能環境對存儲的需求
大數據、高性能環境對存儲的需求
一直以來,高性能計算的主要目的就是提高運算速度,來解決大規模科學計算和海量數據的處理問題。高性能計算每秒萬億次級的強大計算能力,使其成為石油、生物勘探、氣象預測、生命科學研究等領域的重要技術選擇。但是隨著數據量以及數據價值的不斷增長,金融、電信、互聯網等領域對高性能計算的需求不斷加大。隨著技術的發展,高性能計算系統的處理能力越來越強,任務的計算時間越來越短,對業務的價值不斷提高。但是,要想實現快速的任務計算處理,高性能計算系統的存儲能力是關鍵。因為在計算開始,要從存儲系統中讀取數據;計算結束時,要向存儲系統中寫入計算後的結果。如果這之間的讀取和寫入速度不匹配,不僅會拖延高性能項目的完成周期,低延遲還會嚴重影響高性能創造價值的能力。通常,高性能計算要求存儲系統能夠滿足性能、可擴展性要求,保護投資回報:吞吐量達到幾個甚至幾十個GB/s,容量能擴展至PB級;透明的訪問和數據共享;集中式的智能化管理,高性價比;可按需獨立擴展容量和性能等。中橋分析師在深圳華大基因研究院實地測試了EMC Isilon 產品在其HPC 環境下的運行情況,並記錄下其結果。
背景
高性能計算(High Performance Computing—HPC )指通常使用很多處理器(作為單個機器的一部分)或者某一集群組織中幾台計算機(作為單個計算資源操作)的計算系統和環境。長期以來,高性能計算應用的主要領域是科學與工程計算,諸如高能物理、核爆炸模擬、氣象預報、石油勘探、地震預報、地球模擬、葯品研製、CAD 設計中的模擬與建模、流體力學的計算等。如今,像金融證券、政府信息化、電信行業、教育、企業、網路游戲等領域對HPC的需求也在迅猛增長。
高性能計算的應用
高性能計算有著廣泛的行業應用基礎,下面列舉幾個行業對高性能計算的應用需求:
1. 航空航天行業
在航空航天行業,隨著中國航空航天事業的快速發展,尤其是載人航天技術的巨大成功,我國科技人員對空氣動力學的數值模擬研究提出了越來越多的需求,常規的計算能力遠遠無法滿足復雜的大型飛行器設計所帶來的巨大需求。在航空航天企業的設計過程中,研究人員往往需要把飛機表面分成幾百萬甚至幾千萬個離散型的網格點,然後通過高性能計算平台求解方程,得出每個網格點的溫度、速度、摩擦力等各種參數,並模擬出連續型的曲線,進而為飛機設計提供寶貴的參考資料。對這類計算來說,網格點分割得越細密,計算結果的精確度也就越好。但是這些大規模設計計算問題不但單個作業計算量龐大,且需不斷調整、重復計算,因此高性能在航天航空行業中占據著舉足輕重的地位。
2. 能源行業
石油能源作為國家戰略資源,對於國家經濟、安全、軍事等各方面都具有非常重要的戰略意義。石油勘探承擔著尋找儲油構造、確定井位的重要任務。目前的主流做法就是人為的製造相應規模的地震(視勘探地區面積與深度不同),同時在相應的地層遍布若干震波收集點。由於不同材料的地質環境對地震波的影響是有規可循的,所以藉助這一點,通過相關的演算法,即可以通過對地震波的傳遞演算來「計算出」地質結構,從而找出我們所需要的能源位置。這種計算量無疑是異常龐大的,由於地震波法勘探收集的數據通常都以TB計,近年來海洋油氣勘探所採集的數據甚至開始向PB規模發展。為此,只有藉助高性能計算,才能在最短的時間內處理這些海量數據。
3. 生命科學
在現代生命科學領域,以數據為驅動力的改變正引發著巨大的變革。海量生物數據的分析將會增強疾病的實時監控能力和對潛在流行病做出反應的能力,但海量數據的挖掘、處理、存儲卻面臨著前所未有的挑戰。特別是隨著新一代測序技術的迅猛發展,基因組學研究產生的海量數據正以每12- 18個月10倍的速度增長,已遠超越著名的摩爾定律,這使得眾多生物企業和科研機構面臨強大的數據分析和存儲需求。
在國內,生物基因行業的發展勢頭也不可小覷。2011年1 月30日,國家發改委已批復同意深圳依託華大基因研究院組建國家基因庫,這是中國首次建立國家級基因庫,首期投資為1500萬元。深圳國家基因庫是一個服務於國家戰略需求的國家級公益性創新科研及產業基礎設施建設項目,是目前我國唯一一個獲批籌建的國家級基因庫,是全球僅次美國、日本和歐洲三個國家級基因庫之後的世界第四個國家級基因庫。現在,該國家基因庫已經收集了100萬GB的生物數據,包含基因組、轉錄組、蛋白質組、代謝組及表型的數據,同時也積累了約四十萬份生物樣本。預計該基因庫最終將達到10億GB級別的數據容量。深圳國家基因庫和國際上已有的基因庫相比,它的特點是既有「濕庫」也有「干庫」:前者把千萬種實體的動植物、微生物和人類組織細胞等資源和樣本納入網路;後者匯集巨量的核酸、基因表達、蛋白、表型等多類數據信息,成為「大數據」生物學時代研究生物生長發育、疾病、衰老、死亡以及向產業化推廣的利器。
4. 金融行業
金融說到底就是數據。在金融市場中,擁有速度就意味著更高的生產力和更多的市場份額。金融計算模型相當復雜,數據收集越多,計算結果越精確。金融分析師都迫切地需要一個能模擬復雜現實環境,並進行精確處理的金融計算程序,以便對每個投資產品及時地評估投資收益,衡量投資風險,以期獲得更好的投資回報。也正因此,高性能計算已經越來越多地應用到全球資本市場,以期在最短時間內實現對市場的動態響應與轉換。
5. 氣象預報
世紀二十年代初,天氣預報方程已基本建立。但只有在計算機出現以後,數值天氣預報才成為可能。而在使用並行計算機系統之前,由於受處理能力的限制,只能做到24小時天氣預報。高性能計算是解決數值預報中大規模科學計算必要手段。採用高性能計算技術,可以從提高解析度來提高預報精度。
6. 游戲動漫和影視產業
隨著3D、4D電影的興起和高清動漫趨熱,由高性能計算(HPC )集群構成的「渲染農場」已經成為三維動畫、影視特效公司不可或缺的生產工具。動漫渲染基於一套完整的程序進行計算,從而通過模型、光線、材質、陰影等元素的組合設定,將動漫設計轉化為具體圖像。以《玩具總動員》為例,如果僅使用單台工作站(單一處理器)進行動畫渲染,這部長達77分鍾的影片的渲染時間將會是43年,而採用集群渲染系統,只需約80天。
⑨ 大數據對存儲平台有哪些特殊要求
伴隨著安防大數據時代的來臨,安防行業原有的存儲技術已經無法滿足行業發展新需求,尤其是公共安全視頻監控建設聯網應用工作對數據聯網共享提出了更高的要求,同時以「實戰」為根本的公安業務中,大數據深度挖掘極度依賴數據存儲系統對非結構化數據分析再處理。雲存儲技術的出現,在安防行業大數據發展時代無異於革命性的應用,不斷地解決了安防存儲難題,同時也為視頻監控的深度應用與發展提供強大的驅動力。
當今世界,每個人的一言一行都在產生著數據,並且被記錄著。各行各業爆炸式增長的數據,正推動人類進入大數據時代。根據相關統計,2017年全球的數據總量為21.6ZB,目前全球數據的增長速度在每年40%左右,預計到2020年全球的數據總量將達到40ZB。數據增長在安防行業表現得尤為明顯,在近兩年「平安城市」、「 智能交通」、「 雪亮工程」等不斷開展和深入的過程中,以視頻監控為核心代表的行業發展正朝著超高清、智能化和融合應用的方向邁進,系統性工程中現有視頻監控系統數據採集量正在呈線性增長。海量數據的出現對高效、及時的存儲和處理的要求不斷提升。
從目前行業來看,大數據時代的到來,系統性工程中視頻監控系統對存儲主要有以下幾方面的需求:
一是海量數據及時高效存儲,根據現行的技防法規及標准,一般應用領域視頻監控系統數據採集是7x24小時不間斷的,系統採集的音視頻信息資料留存時限不得少於30日,針對案(事)件信息以及一些特殊應用領域視音頻資料存放時間更長,甚至長期保留,數據量隨時間增加呈線性增長。
二是監控數據存儲系統需要具備可擴展性,不但滿足海量數據持續增加,還需要滿足採集更高解析度或更多採集點的數據需要。
三是對存儲系統的性能要求高。與其他領域不同,視頻監控主要是視頻碼流的存儲,在多路並發存儲的情況下,對帶寬、數據能力、緩存等都有很高的要求,需要有專門針對視頻性能的優化處理。
四是大數據應用需要數據存儲的集中管理分析。但現實情況卻恰恰相反,一方面是系統性工程在分期建設的過程中,采購的設備並不能保證為同一品牌,實際項目中多種品牌、多種型號比比皆是,給視頻監控的存儲集中管理帶來很大難度。同時,在一些大型的項目中,例如特大城市「天網工程」,高速公路中道路監控所跨區域較大,集中存儲較為困難。另外,受網路帶寬及老舊設備影響,系統難以形成統一存儲、統一監控的中心體系架構,導致數據在應用中調取不及時。
總體來看,隨著系統性安防項目的深入開展以及物聯網建設初露崢嶸,大規模聯網監控的建設和高清監控的逐步普及,海量視頻數據已經呈現井噴式地增長,並沖擊著傳統的存儲系統,遺憾的是原有的存儲系統無法滿足大數據時代提出的新要求,亟需新的存儲技術支撐現有業務模式,同時為人工智慧技術在安防領域施展拳腳拓展新的空間。