當前位置:首頁 » 服務存儲 » 大數據對信息存儲的挑戰
擴展閱讀
webinf下怎麼引入js 2023-08-31 21:54:13
堡壘機怎麼打開web 2023-08-31 21:54:11

大數據對信息存儲的挑戰

發布時間: 2022-05-27 09:53:29

Ⅰ 大數據安全的六大挑戰

大數據安全的六大挑戰_數據分析師考試

大數據的價值為大家公認。業界通常以4個「V」來概括大數據的基本特徵——Volume(數據體量巨大)、Variety(數據類型繁多)、Value(價值密度低)、Velocity(處理速度快)。當你准備對大數據所帶來的各種光鮮機遇大加利用的同時,請別忘記大數據也會引入新的安全威脅,存在於大數據時代「潘多拉魔盒」中的魔鬼可能會隨時出現。

挑戰一:大數據的巨大體量使得信息管理成本顯著增加

4個「V」中的第一個「V」(Volume),描述了大數據之大,這些巨大、海量數據的管理問題是對每一個大數據運營者的最大挑戰。在網路空間,大數據是更容易被「發現」的顯著目標,大數據成為網路攻擊的第一演兵場所。一方面,大量數據的集中存儲增加了泄露風險,黑客的一次成功攻擊能獲得比以往更多的數據量,無形中降低了黑客的進攻成本,增加了「攻擊收益」;另一方面,大數據意味著海量數據的匯集,這裡面蘊藏著更復雜、更敏感、價值巨大的數據,這些數據會引來更多的潛在攻擊者。

在大數據的消費者方面,公司在未來幾年將處理更多的內部生成的數據。然而在許多組織中,不同的部門像財務、工程、生產、市場、IT等之間的信息仍然是孤立的,各部門之間相互設防,造成信息無法共享。那些能夠在不破壞壁壘和部門現實優勢的前提下更透明地溝通的公司將更具競爭優勢。

【解決方案】 首先要找到有安全管理經驗並受過大數據管理所需要技能培訓的人員,尤其是在今天人力成本和培訓成本不斷上升的節奏中,這一定足以讓許多CEO肝顫,但這些針對大數據管理人員的巨額教育和培訓成本,是一種非常必要的開銷。

與此同時,在流程的設計上,一定要將數據分散存儲,任何一個存儲單元被「黑客」攻破,都不可能拿到全集,同時對於不同安全域要進行准確的評估,像關鍵信息索引的保護一定要加強,「好鋼用在刀刃上」,作為數據保全,能夠應對部分設施的災難性損毀。

挑戰二:大數據的繁多類型使得信息有效性驗證工作大大增加

4個「V」中的第二個「V」(Variety),描述了數據類型之多,大數據時代,由於不再拘泥於特定的數據收集模式,使得數據來自於多維空間,各種非結構化的數據與結構化的數據混雜在一起。

未來面臨的挑戰將會是從數據中提取需要的數據,很多組織將不得不接受的現實是,太多無用的信息造成的信息不足或信息不匹配。我們可以考慮這樣的邏輯:依託於大數據進行演算法處理得出預測,但是如果這些收集上來的數據本身有問題又該如何呢?也許大數據的數據規模可以使得我們無視一些偶然非人為的錯誤,但是如果有個敵手故意放出干擾數據呢?現在非常需要研究相關的演算法來確保數據來源的有效性,尤其是比較強調數據有效性的大數據領域。

正是因為這個原因,對於正在收集和儲存大量客戶數據的公司來說,最顯而易見的威脅就是在過去的幾年裡,存放於企業資料庫中數以TB計,不斷增加的客戶數據是否真實可靠,依然有效。

眾所周知,海量數據本身就蘊藏著價值,但是如何將有用的數據與沒有價值的數據進行區分看起來是一個棘手的問題,甚至引發越來越多的安全問題。

【解決方案】 嘗試盡可能使數據類型具體化,增加對數據更細粒度的了解,使數據本身更加細化,縮小數據的聚焦范圍,定義數據的相關參數,數據的篩選要做得更加精緻。與此同時,進一步健全特徵庫,加強數據的交叉驗證,通過邏輯沖突去偽存真。

挑戰三:大數據的低密度價值分布使得安全防禦邊界有所擴展

4個「V」中的第三個「V」(Value),描述了大數據單位數據的低價值。這種廣種薄收似的價值量度,使得信息效能被攤薄了,大數據的安全預防與攻擊事件的分析過程更加復雜,相當於安全管理范圍被放大了。

大數據時代的安全與傳統信息安全相比,變得更加復雜,具體體現在三個方面:一方面,大量的數據匯集,包括大量的企業運營數據、客戶信息、個人的隱私和各種行為的細節記錄,這些數據的集中存儲增加了數據泄露風險;另一方面,因為一些敏感數據的所有權和使用權並沒有被明確界定,很多基於大數據的分析都未考慮到其中涉及的個體隱私問題;再一方面,大數據對數據完整性、可用性和秘密性帶來挑戰,在防止數據丟失、被盜取、被濫用和被破壞上存在一定的技術難度,傳統的安全工具不再像以前那麼有用。

【解決方案】 確立有限管理邊界,依據保護要求,加強重點保護,構建一體化的數據安全管理體系,遵循網路防護和數據自主預防並重的原則,並不是實施了全面的網路安全護理就能徹底解決大數據的安全問題,數據不丟失只是傳統的邊界網路安全的一個必要補充,我們還需要對大數據安全管理的盲區進行監控,只有將二者結合在一起,才是一個全面的一體化安全管理的解決方案

挑戰四:大數據的快速處理要求使得獨立決策的比例顯著降低

「4個「V」中最後一個「V」(Velocity),決定了利用海量數據快速得出有用信息的屬性。

大數據時代,對事物因果關系的關注,轉變為對事物相關關系的關注。如果大數據系統只是一種輔助決策系統,這還不是最可怕的。事實上,今天大數據分析日益成為一項重要的業務決策流程,越來越多的決策結果來自於大數據的分析建議,對於領導者最艱難的事情之一,是讓我的邏輯思考來做決定,還是由機器的數據分析做決定,可怕的是,今天看來,機器往往是正確的,這不得不讓我們產生依賴。試想一下,如果收集的數據已經被修正過,或是系統邏輯已經被控制了呢!但是面對海量的數據收集、存儲、管理、分析和共享,傳統意義上的對錯分析和奇偶較驗已失去作用。

【解決方案】 在依靠大數據進行分析、決策的同時,還應輔助其他的傳統決策支持系統,盡可能明智地使用數據所告訴我們的結果,讓大數據為我們所用。但絕對不要片面地依賴於大數據系統。

挑戰五:大數據獨特的導入方式使得攻防雙方地位的不對等性大大降低

在大數據時代,數據加工和存儲鏈條上的時空先後順序已被模糊,可擴展的數據聯系使得隱私的保護更加困難。過去傳統的安全防護工作,是先紮好籬笆、築好牆,等待「黑客」的攻擊,我們雖然不知道下一個「黑客」是誰,但我們一定知道,它是通過尋求新的漏洞,從前面逐層進入。守方在明處,但相比攻方有明顯的壓倒性優勢。而在大數據時代,任何人都可以是信息的提供者和維護者,這種由先天的結構性導入設計所帶來的變化,你很難知道「它」從哪裡進來,「哪裡」才是前沿。這種變化,使得攻、防雙方的力量對比的不對等性大大下降。

同時,由於這種不對等性的降低,在我們用數據挖掘和數據分析等大數據技術獲取有價值信息的同時,「黑客」也可以利用這些大數據技術發起新的攻擊。「黑客」會最大限度地收集更多有用信息,比如社交網路、郵件、微博、電子商務、電話和家庭住址等信息,大數據分析使「黑客」的攻擊更加精準。此外,「黑客」可能會同時控制上百萬台傀儡機,利用大數據發起僵屍網路攻擊。

【解決方案】 面對大數據所帶來新的安全問題,有針對性地更新安全防護手段,增加新型防護手段,混合生產數據和經營數據,多種業務流並行,增加特徵標識建設內容,增強對數據資源的管理和控制。

挑戰六:大數據網路的相對開放性使得安全加固策略的復雜性有所降低

在大數據環境下,數據的使用者同時也是數據的創造者和供給者,數據間的聯系是可持續擴展的,數據集是可以無限延伸的,上述原因就決定了關於大數據的應用策略要有新的變化,並要求大數據網路更加開放。大數據要對復雜多樣的數據存儲內容做出快速處理,這就要求很多時候,安全管理的敏感度和復雜度不能定得太高。此外,大數據強調廣泛的參與性,這將倒逼系統管理者調低許多策略的安全級別。

當然,大數據的大小也影響到安全控制措施能否正確地執行,升級速度無法跟上數據量非線性增長的步伐,就會暴露大數據安全防護的漏洞。

【解決方案】 使用更加開放的分布式部署方式,採用更加靈活、更易於擴充的信息基礎設施,基於威脅特徵建立實時匹配檢測,基於統一的時間源消除高級可持續攻擊(APT)的可能性,精確控制大數據設計規模,削弱「黑客」可以利用的空間。

大數據時代已經到來,大數據已經產生出巨大影響力,並對我們的社會經濟活動帶來深刻影響。充分利用大數據技術來挖掘信息的巨大價值,從而實現並形成強有力的競爭優勢,必將是一種趨勢。面對大數據時代的六種安全挑戰,如果我們能夠予以足夠重視,採取相應措施,將可以起到未雨綢繆的作用。

以上是小編為大家分享的關於大數據安全的六大挑戰的相關內容,更多信息可以關注環球青藤分享更多干貨

Ⅱ 大數據量數據存儲問題

杉岩數據專注數據存儲解決方案,面對大數據,人工智慧帶來的海量數據存儲挑戰,杉岩海量對象存儲MOS提供完美解決方案,
SandStone MOS是兼具企業級存儲能力和智能檢索處理能力的對象存儲產品。新一代的存儲引擎基於標准伺服器構建一個可以線性擴展、幾乎沒有容量上限的跨地域存儲架構,在提供高可靠和高可用服務能力的同時,集成了數據智能處理和分析能力,簡化了海量數據處理所需的基礎設施,以大幅提升數據處理的效率。

Ⅲ 大數據時代所面臨的挑戰

大數據時代所面臨的挑戰

大數據時代臨近,企業數據呈現爆炸式增長,如何為了更大的發掘企業數據價值將是很多公司必須要面對的挑戰。首當其沖的是大數據的快速發展對我們原有的IT基礎設施提供了更高的挑戰,原有的IT基礎設施以及很難滿足大數據時代的需求。發現價值的過程離不開基礎平台技術的創新與發展。

基礎平台的改變

首先大數據挑戰的就是企業的存儲系統,大數據爆炸式的增長使得存儲系統的容量、擴展能力、傳輸瓶頸等方面都面臨著挑戰。與之相連的還有伺服器的計算能力,內存的存儲能力等等都面臨著新的技術攻關。目前快閃記憶體技術的發展以及英特爾、IBM等公司在大數據方面都已經投入相當大的資金進行研發,主要也是為了解決大數據對基礎平台所帶來的挑戰。

同樣,大數據分析同樣面臨著軟體方面的挑戰,同時也引發資料庫、數據倉庫、數據挖掘、商業智能、人工智慧、內容/知識管理等領域的技術變革。Hadoop是近年大家經常提到了一個能夠對大量數據進行分布式處理的軟體框架,用戶可以輕松地在Hadoop上開發和運行處理海量數據的應用程序。

商業模式的挑戰

大數據具有強大的數據價值,當我們可以利用大數據挖掘到需要信息的時候,則需要我們根據得到的信息對企業的商業模型、產品和服務等方面進行創新,這樣才能夠真正的讓大數據的價值得到體現。

如何利用大數據信息來改變商業模式最終實現價值呢,這里我們引用Tesco為案例。Tesco收集了海量的顧客數據,並且通過對每位顧客海量數據的分析,Tesco對每位顧客的信用程度和相關風險都會有一個極為准確的評估。在這個基礎上,Tesco推出了自己的信用卡,未來Tesco還有野心推出自己的存款服務。

以上是小編為大家分享的關於大數據時代所面臨的挑戰的相關內容,更多信息可以關注環球青藤分享更多干貨

Ⅳ 大數據時代的安防數據存儲安全

大數據時代的安防數據存儲安全

近幾年隨著平安城市、智能交通、智能樓宇等行業的快速發展,大集成、大聯網推動安防行業進入了大數據時代。安防行業大數據的存在已經被越來越多的人熟知,特別是安防行業海量的非結構化視頻數據,以及飛速增長的特徵數據(卡口過車數據、人像抓拍數據、異常行為數據等),帶動了大數據的數據安全一系列問題,吸引著行業的關注。

大數據引發監控數據安全性問題突出

大數據的本質是系統通過處理採集到的所有數據,去提取其特徵和共性的信息。通過大數據的處理使得所有的數據都有價值。通過大數據的處理,把傳統認為沒有價值的信息也能夠產生非常有價值的信息,這就叫做數據挖掘。同樣的數據擺在我們面前不同的挖掘方法,不同的挖掘目標可以為各種各樣的業務的應用產生有價值的信息。對於安防行業,監控技術如今正面臨日新月異的變革,模擬視頻監控正在向IP網路監控轉變,巨大轉變的同時對安全性也提出了更高的要求。我們探討數據安全,包括產品本身的物理安全和產生數據的安全。所以,大數據時代引發監控數據安全性問題有以下幾點:

1、基礎設備的風險:包括監控中心的存儲設備、伺服器和前端節點設備的安全性、網路設備的安全性、傳輸線纜的安全性等。設備的安全可靠是整個大數據安防系統安全運行的基礎。

2、信息存取的風險:包括用戶非法訪問、數據丟失、數據被篡改等。系統信息的安全,主要運用各種加密技術、存儲技術、及備份方案來達到系統信息的安全。

3、信息在網路上傳輸的風險:包括視頻信息、錄像數據信息、用戶信息等在傳輸過程中保密性、完整性的保障以及傳輸鏈路上的節點設備的安全。另外還包括前端採集設備、社會監控資源接入公安監控專網的安全。

4、系統運行的風險:包括接入設備的識別和認證、設備運行故障、軟體病毒、惡意代碼、以及設備控制的優先順序調度等。系統運行時的風險控制主要依靠視頻監控軟體平台來保障,該軟體平台可以完成設備管理、故障監控、訪問控制、用戶管理、鑒權機制等一系列的功能來保障整個系統的安全運行。

基於以上4點,從存儲設備的角度我們主要談及前面兩點。

大數據也催生監控存儲方式變革

在一個時代下,必然會發生諸多變革。

視頻監控的存儲技術和介質從VCR模擬存儲、DVR數字存儲,逐漸向NVR、NAS、SAN等網路存儲發展。而在存儲方式上,主要有集中式存儲和分布式存儲兩種。大數據意味著海量的數據,也意味著更復雜、更敏感的數據,這些數據會吸引更多的潛在攻擊者。為此,我們關注點是,大數據下的信息安全問題將衍生新的機遇,提升安防的價值。

隨著安防形勢的復雜多變和大數據時代的來臨,對視頻錄像文件分析的需求越來越多。視頻監控系統中也越來越多的使用了高級的數據存儲設備和系統,例如專業的磁碟陣列系統等等。同理,安防行業使用這些專業存儲設備時,需要充分了解這些軟硬體的特性,而不要僅僅把它們當作超級外接大硬碟來使用。在系統設計和實施過程中可以充分利用這些設備中自帶的一些數據保護軟體來保護自己的數據。常用和流行的數據安全保護技術主要有以下七種:

磁碟陣列:磁碟陣列是指把多個類型、容量、介面甚至品牌一致的專用磁碟或普通硬碟連成一個陣列,使其以更快的速度、准確、安全的方式讀寫磁碟數據,從而加快數據讀取速度、提高數據保存的安全性。

SAN:SAN允許伺服器在共享存儲裝置的同時仍能高速傳送數據。這一方案具有帶寬高、可用性高、容錯能力強的優點,而且它可以輕松升級,容易管理,有助於改善整個系統的總體成本狀況。我們推薦FCSAN方案,它能為大數據時代的視頻監控,相較於IPSAN方案,大幅減少存儲設備台數,從而大幅降低成本,在數據安全方面由於自身設備超高的穩定性和性能來得以保障。

數據備份:備份管理包括數據備份的計劃,自動操作,備份日誌的保存。

雙機容錯:雙機容錯的目的在於保證系統數據和服務的在線性,即當某一系統發生故障時,仍然能夠正常的向網路系統提供數據和服務,使得系統不至於停頓,雙機容錯的目的在於保證數據不丟失和系統不停機。

NAS解決方案通常配置為作為文件服務的設備,由工作站或伺服器通過網路協議和應用程序來進行文件訪問,大多數NAS鏈接在工作站客戶機和NAS文件共享設備之間進行。這些鏈接依賴於企業的網路基礎設施來正常運行;NAS提供視頻監控系統後期視頻文件批量處理分析的基本可能。

數據遷移:由在線存儲設備和離線存儲設備共同構成一個協調工作的存儲系統,該系統在在線存儲和離線存儲設備間動態的管理數據,使得訪問頻率高的數據存放於性能較高的在線存儲設備中,而訪問頻率低的數據存放於較為廉價的離線存儲設備中;視頻錄像的歸檔可以充分利用高級存儲設備的數據遷移手段;分層存儲有效降低存儲系統的整體成本。

異地容災:以異地實時備份為基礎的、高效的、可靠的遠程數據存儲,在各單位的IT系統中,必然有核心部分,通常稱之為生產中心。往往給生產中心配備一個備份中心,改備份中心是遠程的,並且在生產中心的內部已經實施了各種各樣的數據保護。不管怎麼保護,當火災、地震這種災難發生時,一旦生產中心癱瘓了,備份中心會接管生產,繼續提供服務;視頻監控的多中心配置越來越多,各個中心的系統和數據容災應該借鑒IT的容災技術考慮。

結束語

大數據是繼雲計算、物聯網之後信息產業當前科技創新、產業政策及國家安全領域的又一次知識新增長點。在大數據的背景下信息安全面臨著很多的挑戰,特別是現階段視頻監控已有的信息安全手段已經不能滿足大數據時代的信息安全的實際要求,因此研究大數據時代視頻監控所面臨的信息安全問題具有重要意義。

以上是小編為大家分享的關於大數據時代的安防數據存儲安全的相關內容,更多信息可以關注環球青藤分享更多干貨