公務員期刊網 精選范文 大數(shù)據(jù)庫建設方案范文

大數(shù)據(jù)庫建設方案精選(九篇)

前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的大數(shù)據(jù)庫建設方案主題范文,僅供參考,歡迎閱讀并收藏。

大數(shù)據(jù)庫建設方案

第1篇:大數(shù)據(jù)庫建設方案范文

關鍵詞:NoSQL 3.20工程 研判分析

一、前言

當今世界是一個信息高速發(fā)展的時代,隨著網民參與互聯(lián)網產品和應用的程度越來越深,互聯(lián)網將更加智能,互聯(lián)網的數(shù)據(jù)量也將呈爆炸式增長??梢灶A見公安行業(yè)信息化發(fā)展在未來幾年里,數(shù)據(jù)將以每年 30%到50%的速度爆炸式增長。

在大數(shù)據(jù)時代下對系統(tǒng)又提出了新的需求:1、高并發(fā)讀寫的需求,高并發(fā)、實時動態(tài)獲取和更新數(shù)據(jù)。2、海量數(shù)據(jù)的高效率存儲和訪問的需求,類似SNS網站,海量用戶信息的高效率實時存儲和查詢。3、高可擴展性和高可用性的需求,需要擁有快速橫向擴展能力、提供7*24小時不間斷服務。

物聯(lián)網發(fā)展和互聯(lián)網應用帶來了多源海量數(shù)據(jù)的存貯、管理、處理、融合、整合和挖掘分析問題,傳統(tǒng)的關系數(shù)據(jù)庫管理系統(tǒng)(SQL數(shù)據(jù)庫管理系統(tǒng))已不能完全適應這些海量數(shù)據(jù)的管理與計算要求,NoSQL數(shù)據(jù)庫管理系統(tǒng)應運而生。NoSQL數(shù)據(jù)庫主要有鍵-值存貯(key-value stores)、 BigTable、文件存貯數(shù)據(jù)庫(document store databases)和圖形數(shù)據(jù)庫(graph databases)等類型,相關的數(shù)據(jù)庫軟件主要memcached, Redis, MongoDB, CouchDB, Apache Cassandra和HBase等等,都是開源的。

NoSQL數(shù)據(jù)庫與傳統(tǒng)的關系數(shù)據(jù)庫管理系統(tǒng)相結合,為智慧城市數(shù)據(jù)管理提供整體解決方案,應用NoSQL并不是全盤否定SQL數(shù)據(jù)庫,而應該是NoJustSQL依賴于SQL。

二、傳統(tǒng)數(shù)據(jù)庫在大數(shù)據(jù)處理中存在的問題

傳統(tǒng)數(shù)據(jù)庫,主要指關系型數(shù)據(jù)庫,在長期的實踐中體現(xiàn)出性能好、穩(wěn)定性高等特點,在使用上也比較簡單,功能強大,在實際的數(shù)據(jù)庫工作和研究發(fā)揮了很好的作用。但關系數(shù)據(jù)庫在應對大數(shù)據(jù)存在明顯的問題:

1、分庫分表缺點:

(1)受業(yè)務規(guī)則影響,需求變動導致分庫分表的維護復雜。

(2)系統(tǒng)數(shù)據(jù)訪問層代碼需要修改。

2、Master-Slave缺點:

(1)Slave的實時性保障,在實時性要求很高的應用中,可能需要進行相關處理。

(2)在高可用性方面的問題,Master存在容易產生單點故障的致命弱點。

3、 MMM缺點: 本身擴展性差,一次只能一個Master可以寫入,只能解決有限數(shù)據(jù)量下的可用性。

三、NoSQL概念

1、什么是NoSQL NoSQL是Not Only SQL的縮寫,而不是Not SQL,它不一定遵循傳統(tǒng)數(shù)據(jù)庫的一些基本要求,比如說遵循SQL標準、ACID屬性、表結構等等。相比傳統(tǒng)數(shù)據(jù)庫,叫它分布式數(shù)據(jù)管理系統(tǒng)更貼切,數(shù)據(jù)存儲被簡化更靈活,重點被放在了分布式數(shù)據(jù)管理上。

2、主流NoSQL數(shù)據(jù)庫--HBase簡介 HBase是Hadoop Database的簡稱,它是一個高可靠性、高性能、面向列、可伸縮的分布式存儲系統(tǒng),利用HBase技術,可在廉價的PC Server上搭建起大規(guī)模、結構化的存儲集群。

HBase是由Google Bigtable的開源實現(xiàn),類似于Google Bigtable利用GFS作為其文件的存儲系統(tǒng),HBase利用Hadoop HDFS作為其文件的存儲系統(tǒng);Google是通過運行MapReduce來處理Bigtable中的海量數(shù)據(jù),HBase同樣是通過利用Hadoop MapReduce來處理HBase中的海量數(shù)據(jù)的;Google Bigtable利用 Chubby來作為協(xié)同服務,HBase是利用Zookeeper來作為對應的。

四、NoSQL的特點分析

1、NoSQL是易擴展的

NoSQL數(shù)據(jù)庫的種類繁多,但是他們有一個共同的特點,就是去掉了傳統(tǒng)關系數(shù)據(jù)庫的“關系型”這一特性,所以NoSQL數(shù)據(jù)庫的數(shù)據(jù)之間是無“關系”的,這樣的數(shù)據(jù)庫就非常容易擴展,同時,在架構的層面上也具有可擴展性,有多種NoSQL數(shù)據(jù)庫之間的整合能力。

2、NoSQL是靈活的數(shù)據(jù)模型

NoSQL數(shù)據(jù)庫不需要事先為要存儲的數(shù)據(jù)建立對應的字段,隨時可以存儲自定義的數(shù)據(jù)格式。而在傳統(tǒng)的關系數(shù)據(jù)庫里,增刪字段是非常麻煩的,如果是大數(shù)據(jù)量的數(shù)據(jù)庫表,增加一個字段簡直是很麻煩的。

3、NoSQL是高可用的

NoSQL數(shù)據(jù)庫可以方便的實現(xiàn)高可用的架構,而且不太影響性能。比如Cassandra,HBase模型,就可以通過復制模型實現(xiàn)高可用。

4、NoSQL是具有大數(shù)據(jù)量的處理能力,具有高性能的特點

NoSQL數(shù)據(jù)庫都具有非常高的讀寫性能,尤其在大數(shù)據(jù)量下,這種讀寫能力體現(xiàn)更加突出,這得益于它的“無關系性”,數(shù)據(jù)庫的結構簡單,NoSQL的 Cache是記錄級的,是一種細粒度的Cache,所以NoSQL在這個層面上來說就要性能高很多了。

五、“3.20”工程海量數(shù)據(jù)分析應用

“3.20”工程是在江蘇省公安廳統(tǒng)一部署下開展的路面監(jiān)控建設工程,要求在市區(qū)主要道路每3公里記錄一次車輛軌跡,國道等城市道路每20公里記錄一次。

由于“3.20”工程每天產生海量過車信息,數(shù)據(jù)總量大、日均增量大、占用存儲空間多,僅僅依靠Oracle關系數(shù)據(jù)庫技術的存儲建庫模式,已不能完全滿足實戰(zhàn)應用的需求。對于傳統(tǒng)的關系數(shù)據(jù)庫來說,在一張幾百億條數(shù)據(jù)記錄的表里面進行SQL查詢,效率極其低下,用戶不可忍受。在傳統(tǒng)的關系數(shù)據(jù)庫系統(tǒng)中往往采用分庫、分表的策略進行數(shù)據(jù)存儲,這種方式使得單表的查詢效率得到提高。然而在能耗監(jiān)測系統(tǒng)中往往需要對全局數(shù)據(jù)進行綜合統(tǒng)計查詢,往往涉及到幾十上百個表,查詢效率無法保證。

這就需要在“大平臺”總體數(shù)據(jù)庫體系下,深入研究“大數(shù)據(jù)”應用處理問題,引進HDFS分布式文件系統(tǒng),采用Hadoop架構的NoSQL數(shù)據(jù)庫技術,科學規(guī)劃設計數(shù)據(jù)存儲、傳輸、建庫的模式,滿足“3.20”工程車輛數(shù)據(jù)應用需要。NoSQL數(shù)據(jù)庫采用“鍵-值”對的方式對數(shù)據(jù)進行存儲,該存儲方式是不需要固定的表結構的,也就不存在連接操作,具體操作時效率就比較高。在大數(shù)據(jù)存取上具備關系型數(shù)據(jù)庫無法比擬的性能優(yōu)勢。

Hadoop應用場景

基于Hadoop HDFS等分布式文件系統(tǒng)存儲結構,能夠有效解決海量數(shù)據(jù)快速讀寫的性能瓶頸問題,是開展“大數(shù)據(jù)”應用訪問、統(tǒng)計分析很好的解決方案

對于需要分析的大數(shù)據(jù),特別是對于日均增量達4000萬的過車信息數(shù)據(jù)等,采用NoSQL數(shù)據(jù)庫技術,運用Hadoop的HDMS結構方式進行存儲建庫,搭建多個“3.20”工程大數(shù)據(jù)專題庫,并利用MapReduce功能來進行數(shù)據(jù)分析,多臺機器組成集群進行并行計算,以此提升全省“3.20”工程大數(shù)據(jù)的處理和分析能力。

在匯集整合全省道路監(jiān)控網“3.20”工程相關信息資源的基礎上,結合各警種業(yè)務部門實戰(zhàn)需求,充分利用“大數(shù)據(jù)”技術,以人車案關聯(lián)分析為建設重點,實現(xiàn)全省一體化查詢服務、人車案關聯(lián)分析、重點車輛電子檔案、重點車輛積分預警、警務地理信息系統(tǒng)對接應用、指揮調度系統(tǒng)對接應用等功能,面向全省基層單位、專業(yè)部門、各級公安機關領導提供系統(tǒng)服務,為開展深度研判應用奠定基礎。

參考文獻

[1]黃富潔.公安決策支持系統(tǒng)的研究與設計[D].濟南:山東山東大學,2004

[2]張嵐.淺析數(shù)據(jù)庫技術的發(fā)展趨勢[J].信息與電腦(理論版).2012

第2篇:大數(shù)據(jù)庫建設方案范文

顛覆性改變

由于醫(yī)院數(shù)據(jù)具有數(shù)據(jù)量總體偏小,并以結構化數(shù)據(jù)為主,以及管理工具以ORACLE、SQLserver等數(shù)據(jù)庫管理系統(tǒng)為主等特點,使得醫(yī)院信息系統(tǒng)仍然以提高工作效率、提升精細管理和優(yōu)化診療流程為主,醫(yī)療質量主要體現(xiàn)在對醫(yī)療過程的環(huán)節(jié)控制上,真正以提高診斷水平和診療技術為目的的信息系統(tǒng)還屈指可數(shù)。另外由于醫(yī)院管理總體上還比較粗放,對于這些有限的數(shù)據(jù)利用率也還不夠高,因此有人得出醫(yī)院沒有大數(shù)據(jù)的結論。

但作者認為盡管大數(shù)據(jù)目前在醫(yī)院還沒有得到充分應用,卻已越來越表現(xiàn)出大數(shù)據(jù)的特征。首先區(qū)域醫(yī)療的發(fā)展使得一個地區(qū)的醫(yī)療數(shù)據(jù)完全達到PB級,即使是在醫(yī)院內部,10多年的數(shù)據(jù)也接近乃至達到PB級。其次醫(yī)療數(shù)據(jù)越來越多樣化,臨床的深入應用必然要采集包括數(shù)值、文字、影像、文本、語音等各種類型的診療數(shù)據(jù)。另外,云計算、移動互聯(lián)網、可穿戴設備、基因治療、大型影像設備的發(fā)展讓醫(yī)療領域快速積累了大量蘊含極大價值的診療數(shù)據(jù)。這些海量數(shù)據(jù)依靠原有的數(shù)據(jù)庫或數(shù)據(jù)倉庫技術已經難以得到充分的利用,必須引入新的技術才能解決。

利用這些“大數(shù)據(jù)”將對醫(yī)療服務模式產生巨大影響。首先在臨床決策支持上,通過全面分析同類型患者的體征數(shù)據(jù)和療效數(shù)據(jù),比較多種干預措施的有效性,找到最佳治療途徑。精確分析包括患者體征數(shù)據(jù)、費用數(shù)據(jù)和療效數(shù)據(jù)在內的大型數(shù)據(jù)集,幫助醫(yī)生確定臨床上最有效和最具有成本效益的治療方法。

利用規(guī)則和數(shù)據(jù)進行實時分析,給出藥物過敏重點人群、慢病患者等各類警示信息以及重復檢查檢驗提示,提醒醫(yī)生防止?jié)撛诘腻e誤,降低醫(yī)療事故率。對數(shù)據(jù)的深入分析和挖掘,能給醫(yī)生提供診療建議,從而提高工作效率和診療質量。

其次,基于海量的臨床和分子生物學數(shù)據(jù)、信息與知識的整合與分析,個性化醫(yī)療逐漸進入臨床實踐。通過高級算法和分布式計算加快基因測序計算效率,加速基因序列分析,讓疾病的發(fā)現(xiàn)過程變得更快、更容易和更便宜。根據(jù)基因信息,制定專門的疾病治療方案??疾爝z傳變異對特定疾病的易感性和對特殊藥物的反應的關系,針對不同患者采取不同的診療方案,提供個性化治療服務。

另外,大數(shù)據(jù)分析技術對非結構化數(shù)據(jù)的分析能力更加強大,以此可以發(fā)展智能化診療技術。比如可以使用圖像分析和識別技術識別醫(yī)療影像(X線、CT、MRI)數(shù)據(jù),或者挖掘醫(yī)療文獻數(shù)據(jù)建立醫(yī)療專家數(shù)據(jù)庫,從而通過操作計算機就基本可以對大部分常見病和多發(fā)病做出診斷。另外大數(shù)據(jù)分析、海量醫(yī)學影像檢查、三維重建技術和機器人手術等將顛覆手術模式,未來醫(yī)院的手術也許將按如下路徑展開:智能診斷->海量影像檢查->三維重建->手術導航->機器人手術。

同時,大數(shù)據(jù)采集管理結合可視化技術,可以有效提升醫(yī)療效率和質量。如西雅圖兒童醫(yī)院的醫(yī)護人員通過使用iPad上的數(shù)據(jù)可視化和分析工具Tableau來分析遍布醫(yī)院各處的服務器和數(shù)據(jù)庫里的數(shù)億TB數(shù)據(jù),并以數(shù)據(jù)可視化方式展現(xiàn)數(shù)據(jù)之間的關系和趨勢??梢暬瘮?shù)據(jù)分析不但幫助醫(yī)護人員減少醫(yī)療事故,制定臨床試驗計劃,而且還幫醫(yī)院節(jié)省了供應鏈成本。

此外,在健康管理和流行病檢測以及疾病預防方面,大數(shù)據(jù)也將大有作為。通過對健康傳感器采集的如睡眠質量數(shù)據(jù)、日?;顒訑?shù)據(jù),以及大量公共衛(wèi)生和健康行為數(shù)據(jù),還有來自社交網絡上的各種相關數(shù)據(jù)進行關聯(lián)分析,提供一個可針對個人的健康行為分析平臺,協(xié)助將健康傳感器和移動數(shù)據(jù)轉換為個人健康建議和指導。

另一方面,公共衛(wèi)生部門可以通過覆蓋全國的患者電子病歷數(shù)據(jù)庫,快速檢測傳染病,進行全面的疫情監(jiān)測,并通過集成疾病監(jiān)測和響應程序,快速進行響應。大數(shù)據(jù)幫助確定哪些人是某類疾病的易感人群,如應用高級分析可以幫助識別哪些患者有患糖尿病的高風險,使他們盡早接受預防性保健方案。這些方法也可以幫患者從已經存在的疾病管理方案中找到最好的治療方案。

總而言之,通過對大數(shù)據(jù)的深度挖掘利用,不僅能夠改變診療模式,還會使患者服務、決策方式和精細化管理等方面都發(fā)生質的改變。

積極應對

面對大數(shù)據(jù)帶來的機遇和挑戰(zhàn),作者認為首先要轉變對大數(shù)據(jù)的態(tài)度。現(xiàn)在業(yè)內對新技術往往存在不正確的認識,一種是盲目追隨,不管是否符合實際,不管是否能夠產生效益,盲目引進新技術,導致不必要的浪費;另一種是盲目拒絕,覺得大數(shù)據(jù)還很遙遠,高掛免戰(zhàn)牌。

對待像大數(shù)據(jù)這類新技術,一定要樹立大數(shù)據(jù)意識。首先要熱情擁抱,不要排斥,要跟進、學習和體驗,并思考大數(shù)據(jù)與行業(yè)的結合點,努力應用創(chuàng)新。其次是要科學對待,思考并創(chuàng)新應用新技術解決現(xiàn)實問題。

之后,還要有效組織大數(shù)據(jù)。大數(shù)據(jù)不是憑空而來的,醫(yī)療大數(shù)據(jù)完全是在互聯(lián)網、物聯(lián)網、云計算和可穿戴設備等深入應用到醫(yī)療行業(yè)各個領域后聚集而來的,應用大數(shù)據(jù)還必須學會有效組織大數(shù)據(jù)。醫(yī)療領域的信息系統(tǒng)不少還是離散的、垂直的業(yè)務和單一的應用。通過云計算可以搭建一個扁平化的信息云平臺,在此之上可以把原來離散的信息系統(tǒng)整合起來,進而促進業(yè)務的有效協(xié)同。可以把離散在各個系統(tǒng)、各個機構甚至各個醫(yī)療器械中的健康信息提取出來,形成完整的診療信息,從而形成完整的臨床診療數(shù)據(jù)中心。

第3篇:大數(shù)據(jù)庫建設方案范文

關鍵詞:大數(shù)據(jù);BIM系統(tǒng);基礎數(shù)據(jù);施工企業(yè)

大數(shù)據(jù)時代,建筑行業(yè)無可回避。那么,大數(shù)據(jù)對建筑行業(yè)到底會帶來哪些影響呢?“大數(shù)據(jù)”的標簽已經開始引領建筑業(yè)。但“大數(shù)據(jù)”的真正含義是什么[1],它如何影響建筑行業(yè)?在最簡單的形式中,大數(shù)據(jù)是一個龐大而復雜的數(shù)據(jù)集的集合。管理數(shù)據(jù)的能力成為關鍵。許多建筑公司開始為業(yè)務和技術進行大數(shù)據(jù)定義,將大數(shù)據(jù)與BIM結合,管理與BIM相關的數(shù)據(jù)和其他協(xié)作流程[2]。

大數(shù)據(jù)技術的戰(zhàn)略意義在于借助于專業(yè)軟件,對這些含有意義的數(shù)據(jù)進行專業(yè)化處理。提高對數(shù)據(jù)的“加工能力”,通過“加工”實現(xiàn)數(shù)據(jù)的“增值”。建筑行業(yè)是數(shù)據(jù)最多的行業(yè),但也是數(shù)據(jù)最不透明的行業(yè)。建筑行業(yè)中,掌握數(shù)據(jù)能力強的企業(yè),必然產生極大的競爭優(yōu)勢,并形成核心的競爭能力。那么,大數(shù)據(jù)時代,施工企業(yè)該如何構建企業(yè)的基礎數(shù)據(jù)庫?企業(yè)基礎數(shù)據(jù)又該如何利用呢?

1 建筑施工企業(yè)基礎數(shù)據(jù)定義

施工企業(yè)在施工全過程中產生的資料,將其電子信息化后產生的數(shù)據(jù),就可以成為基礎數(shù)據(jù);基礎數(shù)據(jù)包括:預算數(shù)據(jù),建筑施工模型,企業(yè)定額,企業(yè)指標庫、企業(yè)知識經驗庫;其中,企業(yè)定額庫是企業(yè)所獨特的,通過設計階段的建筑實物模型得到的計劃量,根據(jù)各個企業(yè)的管理水平和技術力量不同,資源實際的消耗量也不一樣。施工過程中發(fā)生的人、材、機、稅、費、技術、消耗量、價格等,都屬于施工企業(yè)的基礎數(shù)據(jù)中的預算數(shù)據(jù)。對于施工企業(yè)來講,最核心的基礎數(shù)據(jù)就是企業(yè)定額。通過搜集、分析、歸納、反饋、再收集這一循環(huán)來制定一個企業(yè)的基礎數(shù)據(jù)庫;施工企業(yè)的基礎數(shù)據(jù)有很多種類:工程數(shù)據(jù)、企業(yè)消耗量指標、價格庫、構件庫等,只有工程項目本身的數(shù)據(jù)來源于設計,其它的數(shù)據(jù)另有解決方案來收集、處理、共享、應用。

2 基礎數(shù)據(jù)構建基本條件

2.1 共同平臺,相同規(guī)范

上下層級協(xié)同歸集,創(chuàng)建一個共同開發(fā)的平臺;最好能有一個和清單計價規(guī)范一樣的整體分類;建筑企業(yè)基礎數(shù)據(jù)要在BIM平臺發(fā)揮使用價值,首先要歸集成大家認可的企業(yè)定額庫、指標庫等。平臺的構建是關鍵,一定要由懂得施工流程與控制相關的專業(yè)人員和系統(tǒng)軟件建立數(shù)據(jù)庫。

2.2 需求出發(fā),部門配合

首先要從需求出發(fā),再分析自己的需求應該來源于哪些數(shù)據(jù);由對應的各部門提供,專門部門管理;基礎數(shù)據(jù)庫要開發(fā)對應的應用,讓數(shù)據(jù)流動起來。

2.3 做好規(guī)劃,管理先行

做好大數(shù)據(jù)規(guī)劃,信息細度的劃分等數(shù)據(jù)管理規(guī)范是基礎數(shù)據(jù)庫的基石。在管理手段上提出符合專業(yè)數(shù)據(jù)的要求;在技術手段上和云、BIM等先進系統(tǒng)軟件結合;在理念上基礎數(shù)據(jù)是需要的;在制度上規(guī)定必須用;在技術保障上推廣BIM等手段[3]。

不同的建筑數(shù)據(jù)來源,必定對應不同的管理出處和管理目標,整合是關鍵,但還要進行必要的區(qū)分和歸類;基礎數(shù)據(jù)協(xié)同、共享的基礎是數(shù)據(jù)的結構化;建筑企業(yè)的目標是將項目流程化,模塊化,規(guī)范化。這樣整理出的大數(shù)據(jù),才能為行業(yè)所用;建筑過程中發(fā)生的所有數(shù)據(jù),都要能自動化、低成本、高效率收集起來,并能將數(shù)據(jù)盡可能結構化,并與行業(yè)業(yè)務系統(tǒng)對接,可隨時再利用,并可分享給全行業(yè)。

3 目前存在的數(shù)據(jù)構建難點

3.1 數(shù)據(jù)難以收集

建筑企業(yè)長期處于手工時代,基礎數(shù)據(jù)都存放于業(yè)務人員的大腦中。

3.2 數(shù)據(jù)無法實現(xiàn)共享

尤其是中小施工企業(yè),各職能部門的數(shù)據(jù),都是為自己部門服務,沒有統(tǒng)一口徑的數(shù)據(jù);企業(yè)編碼不統(tǒng)一,建筑企業(yè)信息化數(shù)據(jù)難以共享,缺乏一個大的數(shù)據(jù)平臺。

3.3 基礎數(shù)據(jù)庫對專業(yè)要求太高

數(shù)據(jù)庫的專業(yè)化程度太高,非數(shù)據(jù)專家不能應用;建立數(shù)據(jù)庫考驗企業(yè)人員的業(yè)務能力;基礎數(shù)據(jù)庫的創(chuàng)建與運維,考驗信息化部門的信息管理能力。最關鍵的問題是,建筑行業(yè)管理層次的困難,就是對這海量數(shù)據(jù)的掌控能力不夠,因此必須要借助BIM這樣的工具。同時基礎數(shù)據(jù)庫需要一個緩慢積累過程。

4 BIM系統(tǒng)在基礎數(shù)據(jù)構建方面的作用

4.1 基礎數(shù)據(jù)提升管控力度,改善管理效率

基于BIM的基礎數(shù)據(jù)庫,數(shù)據(jù)被處理后的信息,是支持決策的關鍵,可以派生管理所需的信息;數(shù)據(jù)的歸集主要是將數(shù)據(jù)結構化,管控就是通過對結構化數(shù)據(jù)的應用,完成特定的任務與工作;基礎數(shù)據(jù)庫的建立實際是可以認為是我們施工企業(yè)管理理念的更新,提升管理的效率。

4.2 借助基礎數(shù)據(jù),提升經濟價值

基于BIM的基礎數(shù)據(jù)庫,為我們規(guī)范管理,帶來經濟利潤的提高;基礎數(shù)據(jù)可以歸納、分析、提煉出一些KPI指標,應用于企業(yè)內部的考核和外部溝通;還能促進建筑工廠化建設,減少耗材和浪費,控制人工支出等。

4.3 實現(xiàn)數(shù)據(jù)共享,提升項目和企業(yè)協(xié)同能力

輕松管理軟件資產,過程數(shù)據(jù)留在企業(yè)數(shù)據(jù)服務器,不再擔心數(shù)據(jù)流失;工程問題照片實時收集和監(jiān)管處理;知識積累和共享、建立企業(yè)標準:企業(yè)指標庫、企業(yè)自動套、企業(yè)定額庫、企業(yè)構件庫,讓企業(yè)中的每位員工都能成為行業(yè)專家,企業(yè)專家建設,全公司員工共享,大幅提升團隊專業(yè)水平;共享、協(xié)同、應用:輕松建立基于BIM的企業(yè)級項目基礎數(shù)據(jù)庫,實現(xiàn)BIM圖形數(shù)據(jù)、報表數(shù)據(jù)共享,實現(xiàn)產值統(tǒng)計、生產計劃、材料用量分析、成本分析等多項企業(yè)應用。

5 結束語

大數(shù)據(jù)時代,BIM技術不僅在處理項目級的基礎數(shù)據(jù)方面發(fā)揮了作用,在支撐企業(yè)級海量數(shù)據(jù)方面,同樣具備強大的能力。建筑業(yè)項目管理主流模式至今還是以承包制為主,集約化運營難以做到。其根源就在于企業(yè)級數(shù)據(jù)集約化還無法實現(xiàn),但基于大數(shù)據(jù)時代的需求,借助于BIM的企業(yè)級項目管理系統(tǒng)的發(fā)展,解決這一問題將不再是難事。

參考文獻

[1]孟小峰,慈祥.大數(shù)據(jù)管理:概念,技術與挑戰(zhàn)[J].計算機研究與發(fā)展,2013,50(1):146-169.

[2]侍干霞.建筑企業(yè)信息化建設[J].城市建設理論研究(電子版),2014(7).

第4篇:大數(shù)據(jù)庫建設方案范文

Gartner報告預計,2013年全球各大企業(yè)用于大數(shù)據(jù)業(yè)務的投資總額將增至340億美元,同比增長8倍;2013年年初IDC預測,大數(shù)據(jù)技術與服務市場將從2010年的32億美元攀升至2015年的169億美元,實現(xiàn)高達40%的年增長率,并將是整個IT與通信產業(yè)增長率的7倍。大數(shù)據(jù)的發(fā)展趨勢毋庸置疑。

數(shù)據(jù)越發(fā)龐大,積累的商業(yè)信息越多,價值也就越大。以海量、多樣、快速為顯著特征的大數(shù)據(jù),不像傳統(tǒng)數(shù)據(jù)庫的數(shù)據(jù)那么易于管理和分析,在為整個IT及通信行業(yè)帶來機會的同時,也提出了更高的要求。大數(shù)據(jù)時代的戰(zhàn)略意義已超越如何掌握龐大的數(shù)據(jù)信息,而是實現(xiàn)對這些數(shù)據(jù)的深層挖掘,進而讓其“增值”。

驅動大數(shù)據(jù)發(fā)展的重要因素主要來自兩個方面:一是消費領域,如網購及社交媒體應用產生的大量數(shù)據(jù);另一方面來自城市基礎設施建設,安防便是其中之一。建設平安城市的過程伴隨大量數(shù)據(jù)的產生,尤其是以視頻監(jiān)控為主要特征的數(shù)字安全監(jiān)控(Digital Security Surveillance, DSS)。我們所居住的城市中有無數(shù)的高清攝像頭,涉及治安監(jiān)控、指揮通信、偵查破案、規(guī)范執(zhí)法、社會服務等,視頻接入規(guī)模從幾千到幾十萬,隨著安防監(jiān)控對高清、智能、聯(lián)網的要求越來越高,每天產生的數(shù)據(jù)規(guī)模正以驚人的速度不斷增長。

安防大數(shù)據(jù)

從全省、市視頻監(jiān)控,交通卡口監(jiān)控,到運營商機房和基站的環(huán)境量監(jiān)控,原有的系統(tǒng)數(shù)據(jù)查詢越來越慢,寫入的數(shù)據(jù)越來越多,需要配置的存儲也越來越大,原先使用的關系型數(shù)據(jù)庫性能壓力激增,IO陷入瓶頸,不得不承認安防領域的大數(shù)據(jù)時代已經來臨。然而,一直以來,由于安防行業(yè)的自身業(yè)務特點以及國內廠商受研發(fā)方向所限,大數(shù)據(jù)技術在安防領域并不如在IT、互聯(lián)網行業(yè)那樣得以深入應用。隨著科技巨頭的入駐,這一市場格局正在發(fā)生巨變。

基于安防的大數(shù)據(jù)同樣引起了計算機和服務巨頭IBM的注意。2012年10月,IBM了專為大數(shù)據(jù)處理打造的專家集成系統(tǒng)PureData,并和南京有關部門達成建設“智慧南京”的戰(zhàn)略合作,綜合應用智慧交通、智慧醫(yī)療、智慧數(shù)據(jù)系統(tǒng),提高南京市民的生活水平。

云計算解決方案供應商浪潮緊隨其后,于同年年底宣布推出用于大規(guī)模部署的公共云數(shù)據(jù)中心——“模塊化數(shù)據(jù)中心”。 “數(shù)字安全監(jiān)控遠非安裝幾個攝像頭那么簡單。除了捕獲數(shù)據(jù),還要從中充分挖掘新知,在此基礎上開發(fā)更多應用。傳統(tǒng)安防廠商和IT廠商合作是未來的發(fā)展趨勢。安防廠商對業(yè)務的熟悉度與IT公司的大數(shù)據(jù)檢索和分析能力是絕佳的互補?!庇⑻貭柟救驍?shù)字安全監(jiān)控市場總監(jiān)Todd Matsler如此評價。

智能計算至關重要

隨著政府部門大力推動“平安城市”、“和諧社會”建設,各行各業(yè)對安防產品的需求全面爆發(fā)。金融、交通、政府等傳統(tǒng)領域的安防應用更加深入,新生領域如教育、衛(wèi)生、體育、能源飛速發(fā)展,社區(qū)、居民相關應用也在不斷升溫。根據(jù)《安防產業(yè)“十二五”規(guī)劃》所提到的目標,到“十二五”末期,安防產業(yè)規(guī)模將翻一倍,年均增長率達到20%左右,2015年總產值達到5000億元。從高端市場如軍隊、政府、司法、金融、交通、核電站、機場與港口,到中端市場如工業(yè)設施、教育、醫(yī)療,再到居民小區(qū)、零售店鋪、倉庫管理、物流等民用市場,安防需求將全面爆發(fā)。

與此同時,安防行業(yè)在國內的發(fā)展表現(xiàn)出一個重要特點,即由政府主導的大型項目推動,如智能交通系統(tǒng)。以視頻監(jiān)控為主要特征的數(shù)字安全監(jiān)控扮演著無可替代的重要角色,在城際間、城市中的各類設施及行業(yè)中不斷部署、滲透。隨著視頻監(jiān)控與IT、電信行業(yè)的聯(lián)系日益緊密,數(shù)字化、高清化、網絡化和智能化成為其發(fā)展方向。

如何從前端攝像頭獲得的數(shù)據(jù)中挖掘出有用的信息,最終服務于智慧城市、智能交通?我們需要構建一個復雜而精致的系統(tǒng),并考慮互聯(lián)性、安全性和可管理性。英特爾在構建這個系統(tǒng)時,利用主動管理技術實現(xiàn)了設備之間的互聯(lián),并提出了分布式智能計算的構想。后者包含三個重要概念,一是如何從瀚如煙海的數(shù)據(jù)中挖掘出對各行業(yè)有用的知識,二是保證基礎架構及設備與設備間的數(shù)據(jù)流動,三是降低數(shù)據(jù)對來自于不同用戶或者不同系統(tǒng)的訪問障礙?!?/p>

這套系統(tǒng)化解決方案,從數(shù)據(jù)獲取、存儲到分析及應用各個層面均有覆蓋,包括軟件。這些基于IA架構的技術,不僅廣泛應用于后端運算系統(tǒng)以及開發(fā)系統(tǒng),也在前端和邊緣設備中發(fā)揮著巨大作用,可以幫助設備開發(fā)商大幅縮短產品上市周期,降低開發(fā)成本,同時,其強大的計算能力以及基于互聯(lián)網應用的開放平臺也將進一步促進安防行業(yè)的多樣化發(fā)展。

而博康智能副總裁田廣表示,安防行業(yè)的數(shù)字化、高清化、網絡化和智能化轉變,也契合了國家的物聯(lián)網政策。數(shù)字安防監(jiān)控行業(yè)的現(xiàn)狀是缺乏標準卻要謀求大發(fā)展,這對企業(yè)產品兼容性、未來的可擴展性、產品性能、安全性以及穩(wěn)定性是個很大的挑戰(zhàn),需要企業(yè)在軟件、上層平臺等方面都有很強的規(guī)劃和實施能力。

安防的可期未來

全國政協(xié)委員、南京政協(xié)主席沈健就大數(shù)據(jù)時代政府的公共基礎建設需求這一主題曾說過:在大數(shù)據(jù)時代,政府要做的事情,第一應該高度重視數(shù)據(jù)的采集和生成;第二做好數(shù)據(jù)的公開工作;第三,數(shù)據(jù)的整合;第四,建立我們的數(shù)據(jù)文化;第五,數(shù)據(jù)安全。這意味著在智慧城市的基礎建設中,大數(shù)據(jù)將承擔更多信息的挖掘和整合工作。

當數(shù)據(jù)全面實現(xiàn)聯(lián)網、共享,得到有效存儲,并予以充分分析和挖掘,安防領域的大數(shù)據(jù)時代將真正深化。那時警察可以輕松地搜索某一時段某一顏色或某一品牌汽車的所有視頻并快速識別違章行為;在沒有人為干擾的情況下,視頻監(jiān)控設備通過自動分析對動態(tài)場景中的目標進行定位、識別和跟蹤,在異常情況發(fā)生時做出反應,進行自動報警;現(xiàn)在每年社會走失的老人、小孩成千上萬,開發(fā)“人員走失查詢系統(tǒng)”,聯(lián)網共享這些視頻資源,將為更多的老百姓服務……

大數(shù)據(jù)究竟可以帶給安防一個怎樣的未來,我們拭目以待!

-李育新

LSI SAS力挺新型服務器

LSI 公司日前宣布,其12Gb/s SAS存儲解決方案將用于100多款新型服務器,這些服務器均采用日前宣布的IntelXeon處理器E5-2600 v2產品系列。包括Asustek、Fujitsu、Gigabyte、Huawei、Intel、Supermicro等在內的領先服務器制造商,均已選用LSI12Gb/s SAS和MegaRAID解決方案,為其新一代服務器平臺提供存儲性能加速和企業(yè)數(shù)據(jù)保護功能。

LSI 12Gb/s SAS技術能將存儲I/O性能提升50%。Intel Xeon 處理器E5-2600 v2產品系列采用22nm工藝技術,大幅降低了功耗,同時提升了性能。這樣的組合解決方案將為新一代服務器提供強大的平臺。

今年,針對服務器和外部存儲OEM廠商,LSI宣布推出業(yè)界首批12Gb/s SAS 片上RAID(RAID-on-Chip)和I/O控制器。7月,LSI率先宣布向市場推出12Gb/s SAS主機總線適配器系列產品。

自SAS誕生以來,LSI推出了眾多領先的產品。LSI SAS解決方案能提供同類最佳的SAS技術,確?;ゲ僮餍院徒y(tǒng)一的廠商支持,現(xiàn)已應用于業(yè)界最廣泛的服務器平臺之上。

昆騰改變數(shù)據(jù)存儲、共享和保護方式

昆騰公司近日宣布正在與CommVault一同擴展其對象存儲產品,以便為數(shù)據(jù)中心融合備份與歸檔提供獨一無二的解決方案。這個經過驗證的解決方案基于昆騰Lattus對象存儲技術以及CommVaultSimpana 10 軟件,能夠實現(xiàn)全面數(shù)據(jù)保護和歸檔戰(zhàn)略,從而降低了主存儲成本并優(yōu)化了備份性能,同時在多 PT 級環(huán)境中最大程度降低了管理復雜性、管理成本和資本支出。

在一個高度可擴展、高成本效益,并且不需要“叉車式”升級的一種永久性磁盤歸檔的磁盤解決方案中,Quantum Lattus可近線訪問全球各地的歸檔數(shù)據(jù)。Lattus提供比傳統(tǒng) RAID 產品更優(yōu)異的耐用性,其中包括真正的自我修復和自我保護功能,并且無需復制就能自動進行多站點保護。最終實現(xiàn)一個無需備份的高彈性、容災、可擴展的歸檔庫。CommVaultSimpana將備份、歸檔、報告和災難恢復(DR)統(tǒng)一到一個軟件平臺上,提供一個融合數(shù)據(jù)管理解決方案來控制成本和風險。通過昆騰Lattus-D 與CommVaultSimpana的整合,企業(yè)現(xiàn)在可以放心地在Lattus上存儲單一歸檔數(shù)據(jù)實例。這種方式超出了傳統(tǒng)冗余副本數(shù)據(jù)保護計劃所提供的保護措施??蛻暨€能得益于全球規(guī)模所實現(xiàn)的低延遲訪問。

Emulex光纖通道助力HP StoreFabric

第5篇:大數(shù)據(jù)庫建設方案范文

關鍵詞:大數(shù)據(jù);管理會計信息系統(tǒng);項目管理

引言:大數(shù)據(jù)時代,能否從海量信息中獲取關鍵或相關信息,進而獲得客戶,成為企業(yè)盈利的重要環(huán)節(jié)。對大數(shù)據(jù)的分析和應用是管理會計的職能之一。傳統(tǒng)管理會計重視財務信息的分析和應用,忽略了海量非結構化的業(yè)務數(shù)據(jù),與業(yè)務脫節(jié)嚴重,管理會計報告質量不高。2016年,財政部《會計改革與發(fā)展“十三五”規(guī)劃綱要(2016-2020)》,提出“提高企業(yè)會計信息化水平”,“推動基層單位會計信息系統(tǒng)與業(yè)務系統(tǒng)的有機融合,推動會計工作從傳統(tǒng)核算型向現(xiàn)代管理型轉變”,并“密切關注大數(shù)據(jù)、“互聯(lián)網+”發(fā)展對會計工作的影響”。這表明管理會計信息化已上升成為國家戰(zhàn)略層面的高度。管理會計信息化成為企業(yè)的基本要求,數(shù)字化、信息化、智能化轉型勢在必行。如何構建大數(shù)據(jù)管理會計信息系統(tǒng)并應用,是本文研究的重點。

一、大數(shù)據(jù)對管理會計的要求

1.大數(shù)據(jù)和大數(shù)據(jù)技術

自媒體和多渠道電商平臺的興起,產生了海量大數(shù)據(jù)。大數(shù)據(jù)是指與目標群體相關的存儲類型多樣化的海量數(shù)據(jù),具有短時間體量巨大、類型多樣化、價值密度低、時效性高等特征。大數(shù)據(jù)分為結構化和非結構化數(shù)據(jù)兩種。結構化數(shù)據(jù)是指能夠以一定的邏輯結構進行呈現(xiàn)的數(shù)據(jù),通常指以文字、數(shù)字和表格形式存儲的財務數(shù)據(jù)、人事數(shù)據(jù)、供應商和客戶數(shù)據(jù)等,這些數(shù)據(jù)便于使用者運用傳統(tǒng)技術方法進行計算和分析。非結構化數(shù)據(jù)是指不能以一定的結構呈現(xiàn),以圖片、動畫、音頻、視頻等多樣化存儲形式存在的數(shù)據(jù),這些數(shù)據(jù)難以使用傳統(tǒng)技術方法提取有效信息,且產生時效短,數(shù)量巨大,因此,需要大數(shù)據(jù)技術及時對數(shù)據(jù)進行挖掘、清洗和分析,才能提取經營決策有效信息。

大數(shù)據(jù)技術包括大數(shù)據(jù)信息平臺構建、數(shù)據(jù)挖掘和清洗、數(shù)據(jù)分析和處理等技術。大數(shù)據(jù)挖掘是對數(shù)據(jù)的全覆蓋式搜索,通過關鍵詞的精準和模糊搜索,全面搜索含關鍵詞的字段、圖片、動畫、網頁、音頻、視頻等數(shù)據(jù),按一定規(guī)則對數(shù)據(jù)進行描述、分類,歸入數(shù)據(jù)倉庫。數(shù)據(jù)清洗是依據(jù)一定規(guī)則對分類數(shù)據(jù)提取關鍵信息,清洗無用數(shù)據(jù)和信息,歸集至相應的數(shù)據(jù)庫。數(shù)據(jù)分析和處理是指運用聚類分析、回歸分析、決策樹分析等大數(shù)據(jù)分析方法對數(shù)據(jù)進行分析,發(fā)現(xiàn)數(shù)據(jù)的變化趨勢,為經營決策提供數(shù)據(jù)佐證。

2.大數(shù)據(jù)與管理會計信息系統(tǒng)的關系

大數(shù)據(jù)的發(fā)展為管理會計信息系統(tǒng)提供了共享云平臺,提高了會計信息化處理效率,降低了會計信息化成本。應用大數(shù)據(jù)技術數(shù)據(jù),能夠做好市場預測幫助企業(yè)抓住先機,提高財務決策的科學性,提升了管理會計分析預測的精準度和效率。同時,大數(shù)據(jù)對管理會計提出了大數(shù)據(jù)思維、分析能力、工具應用能力等更高的要求。

管理會計信息系統(tǒng)是助力管理會計實現(xiàn)增值目標的應用工具,其構建的原則和框架,不僅應基于項目單位的建設需求,還應符合大數(shù)據(jù)時代的要求。管理會計信息系統(tǒng)基于大數(shù)據(jù)技術進行搭建,對結構化數(shù)據(jù)和非結構化數(shù)據(jù)進行全面搜索,歸集到基礎數(shù)據(jù)庫中,采用信息技術對數(shù)據(jù)進行挖掘和清洗、分析處理形成可視化數(shù)據(jù)庫,提供專業(yè)化、可視化的數(shù)據(jù)處理報告、專項報告、項目決策報告。

二、大數(shù)據(jù)時代管理會計信息系統(tǒng)構建原則和框架

1.構建原則

(1)安全性原則

管理會計信息系統(tǒng),是多部門協(xié)同建設和使用的數(shù)據(jù)系統(tǒng),應從用戶級別和使用權限、信息搜集和處理、跨庫數(shù)據(jù)提取等方面保證數(shù)據(jù)庫的安全性。首先,建設單位應依據(jù)管理層級和權限設置用戶級別和權限,確保在用戶登陸和使用范圍的安全性;應設置信息的重要性等級標準,便于數(shù)據(jù)讀取部門能夠依據(jù)數(shù)據(jù)等級標準判斷數(shù)據(jù)來源的重要性。其次,管理會計為了做出戰(zhàn)略決策、財務決策、項目決策,需要從內外部搜索、接收大量數(shù)據(jù)。信息搜索過程面臨較大風險,應建立高標準的防御措施,抵抗病毒和黑客的入侵。最后,管理會計信息系統(tǒng)內部跨庫數(shù)據(jù)的訪問和提取環(huán)節(jié),是安全保障的重要環(huán)節(jié),應在確保安全性的前提下提升跨庫訪問和提取的速度。

(2)開放性原則

管理會計信息系統(tǒng)應按照開放性原則,建立開源云平臺,架設開放性結構,滿足大數(shù)據(jù)處理的需求。未來的稅務征管系統(tǒng)、銀行系統(tǒng)、工商系統(tǒng)等平臺都將實現(xiàn)數(shù)據(jù)開放查詢。架設開放性結構的管理會計信息系統(tǒng),能夠滿足外部環(huán)境和信息復雜多變的管理需求,多端口設計可以為企業(yè)后續(xù)擴容提供便利。

(3)統(tǒng)一性原則

管理會計信息系統(tǒng)包括人力資源系統(tǒng)、財務信息系統(tǒng)、供應鏈系統(tǒng)、銷售信息系統(tǒng)等多個數(shù)據(jù)庫。各個數(shù)據(jù)庫相互獨立,具有不同的數(shù)據(jù)代碼和標準。要建設管理會計信息系統(tǒng),需要整合各獨立數(shù)據(jù)庫的序號、代碼、標準和轉換規(guī)則,按照統(tǒng)一性的原則,實施整體統(tǒng)一代碼規(guī)則。只有依據(jù)統(tǒng)一性原則建設,各獨立數(shù)據(jù)庫才能實現(xiàn)跨庫搜索和查詢,形成統(tǒng)一的數(shù)據(jù)庫資產,才能為實現(xiàn)管理會計目標提供數(shù)據(jù)支持。

2.構建框架

管理會計信息系統(tǒng)是由多個數(shù)據(jù)系統(tǒng)組成的復雜系統(tǒng)。依據(jù)系統(tǒng)論的理論,多個要素組成的復雜系統(tǒng),具有開放性、自組織性、整體性、關聯(lián)性、等級結構性、動態(tài)平衡性等共同特征。根據(jù)系統(tǒng)論的觀點和方法,管理會計信息系統(tǒng)可按照基礎設施層、基礎數(shù)據(jù)層、分析應用層和綜合報告層進行構建。管理會計信息系統(tǒng)構建框架見下圖。

(1)基礎設施層

基礎設施層是系統(tǒng)的平臺,是數(shù)據(jù)存儲的媒介,由互聯(lián)網、服務器、云服務器、計算機軟硬件等組成。企業(yè)應根據(jù)戰(zhàn)略發(fā)展的需要和實際財務狀況,系統(tǒng)化設計管理會計信息系統(tǒng),明確項目建設預算,制定合理的實施方案?;A設施層的構建不僅要滿足現(xiàn)有的系統(tǒng)管理需求,還應保留足夠的可拓展空間,便于未來的開放性結構擴容。

(2)基礎數(shù)據(jù)層

基礎數(shù)據(jù)層是管理會計信息系統(tǒng)的數(shù)據(jù)輸入層,分為結構性數(shù)據(jù)和非結構性數(shù)據(jù)。其中,結構性數(shù)據(jù)由人力資源部門、財務部門、業(yè)務部門、研發(fā)部門等分別在相應系統(tǒng)端口輸入源數(shù)據(jù);非結構性數(shù)據(jù)則由系統(tǒng)采用大數(shù)據(jù)挖掘技術從外部獲取,包括從政府網站、工商、稅務、銀行、電商平臺、論壇等多渠道獲得實時數(shù)據(jù)。基礎數(shù)據(jù)層存儲各種類型的源數(shù)據(jù),為分析應用提供數(shù)據(jù)依據(jù)。

(3)分析應用層

分析應用層包括兩部分,第一部分是預算管理、戰(zhàn)略管理、資金管理、成本管理、投融資管理、風險管理、績效管理等管理會計工作任務;第二部分是大數(shù)據(jù)技術工具和管理會計工具。分析應用層的職能是通過大數(shù)據(jù)挖掘、分析技術、管理會計工具,對基礎數(shù)據(jù)進行分析和應用,完成管理會計工作任務。系統(tǒng)運用大數(shù)據(jù)挖掘、清洗技術,對非結構化數(shù)據(jù)的圖片、音頻、視頻、動畫、網站信息進行描述、歸類,挖掘有效信息;并通過聚類分析、決策樹分析、回歸分析等技術對有效信息進行分析,為管理會計的預算管理、資金管理、投融資管理、成本管理、風險管理、績效管理等職能管理提供清洗后有效信息。管理會計應對結構化和轉化后的非結構化數(shù)據(jù)進行綜合處理,才能做出精準的決策。

(4)綜合報告層

綜合報告層是管理會計經過分析處理后提供的可視化報告,包括預算報告、戰(zhàn)略報告、經營管理報告和績效報告等。綜合報告層是管理會計信息系統(tǒng)的核心,其機密程度、訪問權限和修改權限應為最高級。綜合報告可以不設置固定匯報格式,依據(jù)管理層的需求,提供有針對性的管理報告。

三、管理會計信息系統(tǒng)在項目管理中的應用

在阿米巴經營理念下,每個業(yè)務部門都是一個獨立經營、自負盈虧的主體。各獨立核算主體按業(yè)務類別劃分項目制進行運營。每個業(yè)務部門或每個項目配備一名業(yè)務伙伴(以下簡稱BP)。企業(yè)設置BP崗位,是對業(yè)務的支持。BP是將財務職能提升到業(yè)務前端,與業(yè)務同步,為業(yè)務提供預算編制和調整、風險識別和防控、資金結算與費用控制、財務分析和評價等管理會計服務和支持。BP的職能,一是輔助業(yè)務部門跟進全流程,為業(yè)務提供專業(yè)的財務建議和服務,二是為管理會計提供全過程鏈的分析數(shù)據(jù)。BP崗位能力,除了具備管理會計能力和信息系統(tǒng)使用能力,還需要掌握宏觀經濟基礎、行業(yè)生命周期、產業(yè)鏈、企業(yè)的經營戰(zhàn)略和策略、采購模式、生產工藝流程、營銷模式等信息。本文以項目管理中BP的工作流程來介紹管理會計信息系統(tǒng)在項目管理中的應用。

項目管理中,BP的工作主要分為事前預測和服務、事中控制和支持、事后評價和反饋三部分。BP進入項目組,需要掌握項目實施區(qū)域環(huán)境和風險評估、項目業(yè)務流程、主要競爭對手、項目預算等情況,才能為項目提供全流程專業(yè)預測和支持。管理會計信息系統(tǒng)是BP快速掌握項目情況的優(yōu)質工具。項目階段BP和業(yè)務的工作成果表如下。

1.事前預測和服務

事前,BP的職責是對項目區(qū)域宏觀環(huán)境、法律規(guī)章、行業(yè)生命周期、項目競爭程度進行風險評估,完成項目預算計劃。BP可以運用大數(shù)據(jù)挖掘技術,搜集項目實施區(qū)域最新的政策文件、稅收優(yōu)惠條件、項目實施最新規(guī)定、同類項目案例文書等資料,錄入管理會計信息系統(tǒng)的基礎數(shù)據(jù)層;通過對比分析,生成該區(qū)域項目實施的外部環(huán)境可視化報告;結合企業(yè)過去存儲的同類或相同區(qū)域的區(qū)域環(huán)境風險評估報告,生成本項目的可視化風險評估報告。風險評估報告應包括項目流程圖和風險識別點標識,有利于項目業(yè)務執(zhí)行的風險防控。BP編制項目預算,應在公司年度總預算內控制項目預算額度。BP編制項目預算計劃,應依據(jù)項目執(zhí)行方案,按照時間序列和項目進度,填制預算資金支付計劃表,并按預算調整因素確定預算調整金額幅度。經項目負責人調整和確定后,確定項目預算計劃。

2.事中控制和支持

事中,BP的職責是對項目執(zhí)行的風險識別和控制,提供財務支持和服務。BP的風險識別和控制主要體現(xiàn)在對項目合同的成果交付和支付等條款議定,以及財務結算風險控制。項目按產品和服務類型可分為常規(guī)項目和新增項目。對于常規(guī)項目,BP可以通過管理會計信息系統(tǒng)獲得以往期間同類項目的風險評估報告和項目風險控制表,可對同產品項目的風險點識別和控制有清晰認知。對于新增項目的風險識別,BP可以運用大數(shù)據(jù)挖掘技術搜索項目風險評估因素,并通過與項目負責人的溝通,明確項目風險識別和控制環(huán)節(jié),提升項目風險防控水平。BP對項目的財務支持主要體現(xiàn)在對結算票據(jù)的核算處理環(huán)節(jié)。BP將票據(jù)掃描錄入后,系統(tǒng)調用合同庫數(shù)據(jù),自動比對開票人、票據(jù)金額、產品名稱、發(fā)票號碼、發(fā)票專用章等信息要素。通過比對審核后,項目的業(yè)務流、資金流、信息流進入相應分析應用層的專項管理系統(tǒng)。資金流信息進入資金管理系統(tǒng),完成資金收付和會計記賬等核算工作。業(yè)務流信息進入項目管理系統(tǒng),動態(tài)顯示項目進度。供應商、客戶、產品工藝、產品流程、采購費用等信息流信息進入信息管理系統(tǒng),豐富項目信息數(shù)據(jù)。

3.事后評價和反饋

事后,BP的職責是對項目績效、人員績效和往來單位進行評價,并完成項目績效報告、員工績效報告、往來單位評價報告和項目總結報告。項目績效報告不再是過去對項目的經驗總結,而是依據(jù)管理會計信息系統(tǒng)的預算計劃、執(zhí)行、調整、項目盈利等情況進行針對性的科學評價。員工績效報告,依據(jù)項目方案,按進度和時間節(jié)點,對員工完成項目任務的質量和進度進行評價,既利于項目員工成長,也利于項目管理。往來單位評價報告,從信息管理系統(tǒng)導出基礎數(shù)據(jù),按照項目評價標準對供應商和客戶進行級別評價,并列出評價依據(jù)。評價依據(jù)應按照往來單位規(guī)模、管理制度、人員能力、預算執(zhí)行、合同議價等因素進行客觀列示。項目總結報告是從財務角度對項目方案、預算執(zhí)行、盈利能力、發(fā)展能力等進行總結。

綜上,可以看出,大數(shù)據(jù)時代,管理會計信息系統(tǒng)運用大數(shù)據(jù)信息技術和管理會計技術進行大數(shù)據(jù)信息處理、財務支持和風險防控,在事前、事中、事后三個環(huán)節(jié)能夠有效降低項目的風險水平,提高項目執(zhí)行效率,提升項目盈利能力。

四、管理會計信息系統(tǒng)的安全保障

第6篇:大數(shù)據(jù)庫建設方案范文

關鍵詞:大數(shù)據(jù) SAP HANA 電力大數(shù)據(jù) 電力系統(tǒng)

中圖分類號:TP311.13 文獻標識碼:A 文章編號:1007-9416(2016)11-0150-01

近年來,國內許多電力企業(yè)的業(yè)務不斷發(fā)展,除了傳統(tǒng)的火電發(fā)電,還涉及風力發(fā)電、光伏發(fā)電、電站檢修和運營服務等方面業(yè)務。為了加快兩化融合,促進企業(yè)管理及信息化雙提升要求是建設企業(yè)運營管理系統(tǒng)的大數(shù)據(jù)平臺的關鍵驅動因素,大數(shù)據(jù)平臺的建成將成為企業(yè)管理及信息化運轉的驅動引擎,是加快電力信息化規(guī)劃實現(xiàn)步伐。

通過大數(shù)據(jù)平臺建設,形成全公司范圍的運營管理解決方案,保障企業(yè)管理工作標準化、規(guī)范化、精細化、高效化,真正為決策服務。電力企業(yè)大數(shù)據(jù)平臺具有業(yè)務數(shù)據(jù)量大,分析模式復雜,數(shù)據(jù)讀取頻繁,等諸多特點,如何利用最前沿的軟硬一體的大數(shù)據(jù)庫應用支撐是擺在電力企業(yè)運營管理系統(tǒng)建設面前的重要難題。

1 大數(shù)據(jù)定義與特征

大數(shù)據(jù)又稱海量數(shù)據(jù),指的是所涉及的數(shù)據(jù)規(guī)模巨大,以至于目前已有的軟件工具無法在合理時間內,處理、管理、挖掘這些數(shù)據(jù),并將其整理成為幫助企業(yè)經營決策更積極目的的信息。大數(shù)據(jù)的4V特征:數(shù)量(Volume),即數(shù)據(jù)巨大;多樣性(Variety),即數(shù)據(jù)類型繁多;速度(Velocity),即處理速度快;價值性(Veracity),即追求高質量的數(shù)據(jù)。

2 SAP HANA技術

SAP HANA提供多用途的內存應用設備,企業(yè)可以利用它即時掌握業(yè)務運營情況,從而對所有可用的數(shù)據(jù)進行分析,并對快速變化的業(yè)務環(huán)境做出迅速響應。

通過SAP HANA,企業(yè)可以在業(yè)務運作期間基于海量實時詳細信息分析業(yè)務運營情況。企業(yè)可以探索和分析來源于所有數(shù)據(jù)源的全部交易數(shù)據(jù)和分析數(shù)據(jù)。運營數(shù)據(jù)在產生時由內存獲取,并通過靈活的視圖迅速將分析信息呈現(xiàn)給用戶。外部數(shù)據(jù)可輕松的被添加至分析模型,與整個企業(yè)的數(shù)據(jù)進行整合。

3 電力大數(shù)據(jù)平臺的架構設計

電力大數(shù)據(jù)平臺系統(tǒng)具有業(yè)務數(shù)據(jù)量大,分析模式復雜,數(shù)據(jù)讀取頻繁,等諸多特點,如何利用最前沿的軟硬一體的大數(shù)據(jù)庫應用支撐是擺在電力企業(yè)運營管理系統(tǒng)建設面前的重要難題。

3.1 電力大數(shù)據(jù)平臺架構

將數(shù)據(jù)平臺總體架構劃分為三大層:采集層,存儲層以及分析/展現(xiàn)層。這種架構,是對傳統(tǒng)標準企業(yè)級數(shù)據(jù)倉庫架構的擴展,既能滿足一個數(shù)據(jù)中心平臺層面的所有需求,又具備充分的前瞻性,為未來EOM提供實時、兼具廣度和深度的大數(shù)據(jù)應用提供支撐。

3.2 數(shù)據(jù)采集層設計

數(shù)據(jù)抽取、轉換、加載的任務將在此處完成。整個平臺的數(shù)據(jù)整合能力將由SAP HANA Smart Data Integrator來提供,通過開放的數(shù)據(jù)接口連接各種類型的底層數(shù)據(jù)源,并且在數(shù)據(jù)加載的同時進行第一輪的數(shù)據(jù)清洗任務,提高保證數(shù)據(jù)的規(guī)范性。

3.3 數(shù)據(jù)存儲層設計

數(shù)據(jù)存儲管理是本方案的核心部分。在整個方案設計中,SAP建議把數(shù)據(jù)按照數(shù)據(jù)的時效性分層管理,即歷史數(shù)據(jù)和活動數(shù)據(jù)。歷史數(shù)據(jù)部分包含所有的分析數(shù)據(jù),存放電力企業(yè)歷年來的數(shù)據(jù)?;顒訑?shù)據(jù)(熱點數(shù)據(jù))部分包含日常分析中最常使用的數(shù)據(jù),所有的前端分析數(shù)據(jù)都將在活動數(shù)據(jù)中命中,在活動數(shù)據(jù)中將進行保證最大的數(shù)據(jù)分析并提高和數(shù)據(jù)檢索效率。

3.4 數(shù)據(jù)分析/展現(xiàn)層

SAP建議使用SAP BusinessObject作為整體的數(shù)據(jù)展現(xiàn)平臺。BO中的語義層工具Information Designer Tool(IDT)將負責業(yè)務數(shù)據(jù)模型的整體管理,通過IDT中的數(shù)據(jù)調用,把需要展現(xiàn)的數(shù)據(jù)輸送給前端工具進行報表展示。

4 關鍵技術及方案優(yōu)勢

高性能內存計算技術:數(shù)據(jù)分析應用,對實效性往往要求極高,對數(shù)據(jù)存儲平臺提出了更高的要求:高速的數(shù)據(jù)裝載的同時,提供毫秒級的查詢響應。全面的數(shù)據(jù)集成能力:本方案ETL工具將利用SAP數(shù)據(jù)采集系統(tǒng)SAP Data Integrator,這是一個專門面向企業(yè)信息管理的應用平臺,幫助企業(yè)遷移、轉變和提升數(shù)據(jù)。實時數(shù)據(jù)流分析能力:SAP在信息集成過程,增加了獨一無二的架構――基于內存的實時數(shù)據(jù)流處理機制,把需要處理的數(shù)據(jù)在內存中流動起來,高效地輸送到各個處理環(huán)節(jié),實現(xiàn)高頻次、小批量的數(shù)據(jù)處理調度,到達高吞吐量、低延時的理想效果。

5 結語

本文提出了一套針對電力系統(tǒng)的解決方案和基于SAP HANA的大數(shù)據(jù)平臺架構,大數(shù)據(jù)平臺架構包括對電力數(shù)據(jù)采集層,數(shù)據(jù)存儲層和數(shù)據(jù)分析/展現(xiàn)層,該平臺在高性能,數(shù)據(jù)集成,實時數(shù)據(jù)流分析和可靠性上具有很大的提高。對電力大數(shù)據(jù)平臺的研究還存在很多不足之處,還有待在今后的學習和工作中進一步研究。

參考文獻

[1]Liu Qingyun, Gao Shu, Cao Xiufeng, Chen Liangchen.Research Of The Security Situation Visual Analysis For Multidimensional Inland Navigation Based On Parallel Coordinates. The Third International Conference on Cyberspace Technology[C].EI: 20161802313580.

第7篇:大數(shù)據(jù)庫建設方案范文

百尺竿頭

推動基礎軟件平臺建設

中國信息化周報:您如何看待南大通用2014年的發(fā)展?

崔維力:2014是公司成立十年來發(fā)展最快的一年。首先員工人數(shù)從年初的300人發(fā)展到年末的近500人,并建立了一套有效的技術人員任職資格評價體系;其次,我們自主研發(fā)的支撐大數(shù)據(jù)應用的新型數(shù)據(jù)庫GBase 8a集群規(guī)模突破120節(jié)點,在電信、金融等領域應用不斷突破,市場營收增長40%以上,特別是中國農業(yè)銀行基于GBase 8a構建的總行數(shù)據(jù)倉庫正式上線,可以說是國產基礎軟件在金融領域應用的一個里程碑。我們還專門搭建了PB級的結構化大數(shù)據(jù)測試平臺,來驗證GBase 8a產品,這應該也是國內數(shù)據(jù)庫廠家獨有的。另外,今年我們還通過和IBM戰(zhàn)略合作獲得了Informix數(shù)據(jù)庫技術授權,我們將基于Informix最新源代碼自主構造一款面向高端行業(yè)復雜事務處理的數(shù)據(jù)庫產品GBase 8t,這樣通過引進、消化吸收、再創(chuàng)新,GBase 8t將與GBase 8a一起構成公司“雙子星”產品,分別在OLTP和OLAP領域為南大通用的更高速發(fā)展提供有力支撐。2014年的這些發(fā)展,使公司上下樹立了打造國產數(shù)據(jù)庫龍頭的信心。

中國信息化周報:中國擁有數(shù)據(jù)庫龍頭企業(yè)也是用戶、產業(yè)、政府所期望的。

崔維力:是的。數(shù)據(jù)庫具備平臺屬性,平臺需要龍頭。國際上無論軟硬件平臺,都是圍繞龍頭構建產業(yè)鏈,龍頭需要一定規(guī)模的用戶、配套工具、人才來支撐。我們國家硬件平臺的龍頭效應好一些,比如服務器、PC機,甚至手機等,但CPU、OS、數(shù)據(jù)庫尚缺乏真正龍頭,很難形成良性格局。

中國信息化周報:在當前環(huán)境下,推動基礎軟件平臺的龍頭打造,需要政府哪方面的引導?

崔維力:南大通用2014年的高速發(fā)展離不開政府部門的支持。今年,工信部電子發(fā)展基金、發(fā)改委云專項都支持了南大通用打造面向關鍵行業(yè)的大數(shù)據(jù)處理平臺,我們將基于GBase 8a集群與Hadoop的“混搭架構”構建支撐我國電信、金融、安全等領域的大數(shù)據(jù)處理平臺解決方案。另外,今年天津市也把南大通用列為重點支持企業(yè),何樹山副市長及各委辦局領導都專程到公司調研指導,濱海新區(qū)領導更是多次到南大通用指導工作。

中國信息化周報:但是,龍頭可能帶來壟斷的問題。

崔維力:這個問題需要辯證的看。追求商業(yè)目標,龍頭往往會帶來壟斷。打破壟斷則往往靠創(chuàng)新,然后新的一代龍頭形成。正是在這個不斷打破的過程中,技術、社會在進步和發(fā)展。當前環(huán)境下,培育龍頭是支撐國產化及自主可控戰(zhàn)略的抓手。這個龍頭首先是催生類似CPU、OS、數(shù)據(jù)庫等基礎平臺產品的龍頭。參照IBM、MS等從軟硬一體化上打造全鏈條也許是可行的,鏈條上產品選擇不開放,也許會帶來整個鏈條的“木桶效應”。

布局OLTP市場

實現(xiàn)數(shù)據(jù)庫國產化替代

中國信息化周報:前面您提到農行數(shù)據(jù)倉庫案例,您說它是國產基礎軟件在金融領域應用的一個里程碑?

崔維力:南大通用今年在行業(yè)營銷上取得持續(xù)增長態(tài)勢,這得感謝我們中興、榮之聯(lián)、浪潮、東軟等合作伙伴,不斷拓展我們GBase 8a產品在電信、金融、安全等領域的應用,更把它帶出國門。農行數(shù)據(jù)倉庫項目是一個十分典型的案例。農行數(shù)據(jù)倉庫建設選用的是我們GBase 8a集群產品,目前已經上線的數(shù)據(jù)存儲與管理平臺,數(shù)據(jù)量達到500TB、每日新增數(shù)據(jù)800G,支撐包括貸記卡、信用卡、網絡銀行、資金轉移定價等多個業(yè)務需求。

此項目成功實施,使農行成為國內首家在核心系統(tǒng)中進行數(shù)據(jù)庫國產化部署的銀行,破除了對國外昂貴產品的依賴心理,而且節(jié)約建設成本70%以上。該項目能成功實施與農行領導重視國產化及安全可控信息技術應用,保障金融數(shù)據(jù)安全可控,并從響應國家戰(zhàn)略角度,以一種使命感、頂著巨大壓力支持國產化應用分不開。正是這種敢“吃螃蟹”的勇氣,不僅幫助了國產數(shù)據(jù)庫產品的成熟,堅定了金融領域實現(xiàn)數(shù)據(jù)庫國產化替代的信心,而且也成就了國產基礎軟件在金融領域應用的一個里程碑。

中國信息化周報:GBase 8a在金融、電信領域的主要競爭對手是國外產品嗎?

崔維力:GBase 8a定位數(shù)據(jù)分析類應用,也就是OLAP應用,它的價值點在高速。我們在國內市場上直面競爭的是EMC、HP、Teradata等國際一線產品。經過我們5年多的產品打造,GBase 8a在技術上與國際同類產品保持同步,這兩年我們與國際上競爭對手同臺竟測,一直名列前三甲。GBase 8a集群定位于支撐行業(yè)大數(shù)據(jù)或結構化大數(shù)據(jù),我們很多應用實踐表明它與Hadoop的混搭架構是復雜大數(shù)據(jù)應用場景下的理性選擇,Hadoop的非結構化大數(shù)據(jù)處理能力強大,而GBase 8a集群使用SQL進行結構化大數(shù)據(jù)處理和分析,并具有高并發(fā)、支持多表聯(lián)合復雜查詢、高安全等優(yōu)勢。

當前我們的研發(fā)團隊正在進一步完善在大數(shù)據(jù)存儲管理平臺中GBase 8a計算引擎和Hadoop計算引擎的深度融合,并實現(xiàn)相互間的數(shù)據(jù)透明交換。構建全數(shù)據(jù)統(tǒng)一存儲、統(tǒng)一計算、統(tǒng)一分析、統(tǒng)一服務接口、統(tǒng)一監(jiān)控管理的大數(shù)據(jù)應用平臺。明年我們將創(chuàng)新突破200節(jié)點以上更大規(guī)模的集群部署,以及跨數(shù)據(jù)中心的數(shù)據(jù)同步與統(tǒng)一管理等很有挑戰(zhàn)性的問題,從而保持市場競爭力。

中國信息化周報:國內基礎軟件領域,包括操作系統(tǒng)和數(shù)據(jù)庫,大多采用基于開源軟件的發(fā)展模式。GBase 8a這種引進商業(yè)源代碼授權的模式,其差異化何在?

崔維力:首先一個不同之處在于我們基于Informix源代碼進一步開發(fā)的功能,包括對國產CPU的支持、安全功能模塊、集群功能模塊等源代碼的知識產權完全屬于南大通用,我們是可以不反饋給IBM的。當然,和IBM協(xié)同發(fā)展Iinformix源代碼體系是另外一個問題。開源軟件已成為一種主流的軟件開發(fā)模式,軟件服務化也已成為一種趨勢,我們也在計劃在適當時間把我們GBase 8a的源代碼以及我們基于Informix的增值開發(fā)模塊的源代碼開源到社區(qū)里。南大通用希望推動國產數(shù)據(jù)庫領域軟件開發(fā)上的參與分享模式。

中國信息化周報:南大通用今年發(fā)展很快,您目前的感受是什么?

第8篇:大數(shù)據(jù)庫建設方案范文

1檔案數(shù)據(jù)采集安全

檔案數(shù)據(jù)采集包括電子文檔的收集和紙質檔案的數(shù)字化處理兩個部分。檔案數(shù)據(jù)采集安全在強調數(shù)據(jù)收集的齊全完整的同時,也要考慮由于重復收集產生的數(shù)據(jù)冗余問題。

1.1檔案數(shù)據(jù)收集范圍擴展

從某種意義上來說,“大數(shù)據(jù)”的一個重要理念就是掌握的數(shù)據(jù)量越大、內容越豐富,從中推斷出的信息就越多、結論就越有參考價值。具體到檔案工作,無論是從檔案的憑證價值和情報價值,還是檔案的現(xiàn)實價值和長遠價值,抑或檔案的第一價值和第二價值來考慮,就檔案數(shù)據(jù)收集而言,可能需要重新思考收集的范圍和形式。大數(shù)據(jù)往往是唯一的樣本數(shù)據(jù)集。舉例而言,那些測量交通、土壤酸堿、雨量、風力等物理信號的監(jiān)控設備,或視頻監(jiān)控以及其他類型的器材所連續(xù)積累的時段性或實時性數(shù)據(jù),都單獨記錄著一個唯一的活動片段,一旦數(shù)據(jù)丟失,這個片段就隨之永遠消失。[6]從檔案收集的齊全、完整、真實、有效和數(shù)據(jù)安全考慮,這些數(shù)據(jù)文檔都應該實時在線歸檔,并同時保存離線副本。具體操作規(guī)范和標準可參考《電子文件管理暫行辦法》(中辦、國辦廳字〔2009〕39號)和《電子文件歸檔與管理規(guī)范》(標準號:GB/T18894-2002)。另一個比較典型的案例是美國政府的《聯(lián)邦政府Web2.0使用情況和檔案價值報告》,該報告中提到,在社交平臺上產生的信息,只要具有業(yè)務價值、證據(jù)價值和背景價值,就可以認定為歸檔的文件。我國迄今為止雖對這類內容無具體的歸檔規(guī)定,但根據(jù)大趨勢判斷,各級各類檔案館的收集范圍需要主動擴展。檔案大數(shù)據(jù)也可以說是檔案的“全數(shù)據(jù)”。相對于其他領域的數(shù)據(jù)收集,檔案大數(shù)據(jù)更強調的是數(shù)據(jù)的“全”:收集業(yè)務范圍內的所有檔案數(shù)據(jù)。一個基層檔案部門,只要收集了本機關、團體、企事業(yè)單位的全部檔案數(shù)據(jù),即使數(shù)據(jù)總量不大,也可以稱之為大數(shù)據(jù)。因為在其后對這些數(shù)據(jù)進行的分析,將采取“樣本=總體”的方法;凡采用這種分析方式的數(shù)據(jù)分析方法,就稱為大數(shù)據(jù)分析。當一個機構擁有全部或者幾乎全部的檔案數(shù)據(jù),就能從不同的“相關”關系而非“因果”關系中更細致地統(tǒng)計和研究數(shù)據(jù)的方方面面。因此,檔案大數(shù)據(jù)中的“大”不是絕對意義上的,而是相對意義上的“大”。與此同時,在具體工作中我們也發(fā)現(xiàn),在大數(shù)據(jù)環(huán)境下,原來按“單位”進行的檔案收集會有相當程度的冗余信息產生。例如,各級部門下發(fā)的紅頭文件,如果每個收文單位都作了歸檔,在今后可能建立的某種級別的云檔案數(shù)據(jù)庫中就存在相當?shù)臄?shù)據(jù)冗余。[7]這時就可能需要在歸檔的源頭與具體規(guī)定這類文件的歸檔單位,其它收到此類文件的單位不需要歸檔,但在需要時有查詢和利用的權限。

1.2紙質檔案數(shù)字化過程和結果安全

紙質檔案數(shù)字化的過程安全是指在檔案數(shù)字化過程中沒有發(fā)生危害檔案實體和信息安全的事件或行為。因此,一系列的規(guī)章制度和規(guī)范的操作流程是必要的。首先,要考察數(shù)字化服務提供單位的資質和信譽。其次,要建立完善的管理制度。例如,案卷不準擅自帶離加工現(xiàn)場;當日數(shù)字化的案卷必須當日歸庫;案卷進出庫有嚴格的交接、檢查手續(xù)等等。最后,在數(shù)字化的過程中嚴格遵守《紙質檔案數(shù)字化技術規(guī)范》(標準號:DA/T31-2005),檔案的拆卷要以不破壞檔案裝訂原貌為基礎,在掃描過程中保證案卷整潔并確保掃描圖像與原件一致。紙質檔案數(shù)字化的結果安全是指數(shù)字化后的檔案數(shù)據(jù)有效、可用。因此,檔案數(shù)字化后必須經過電子檔案質量檢查這一環(huán)節(jié)。這也是對檔案數(shù)字化結果安全監(jiān)控的重要一步。主要包括三個過程或環(huán)節(jié):一是質量抽查,對于不合格的數(shù)據(jù)要及時返工重掃。二是數(shù)據(jù)檢測,主要內容包括病毒檢測、運行檢測和數(shù)據(jù)核對等三個方面。三是數(shù)據(jù)利用檢測,主要是將全部數(shù)據(jù)直接掛接到檔案管理系統(tǒng)后,對外提供利用時,是否出現(xiàn)錯誤或者使用者發(fā)現(xiàn)的一系列問題。[8]為了保證數(shù)字化后檔案信息的長期有效可用,異地的多種載體備份存儲和數(shù)字信息定期可讀性抽查、復制備份等制度的建立也是必要的。

2檔案信息管理系統(tǒng)安全

從上世紀90年代國內最早的檔案管理軟件產生至今,已經經歷了近20年的發(fā)展。隨著計算機及網絡技術的發(fā)展,數(shù)字化檔案管理方式在分布形式上從最初的單機版(C/S架構)、到網絡版(B/S架構)、直至發(fā)展到最新的面向服務的數(shù)據(jù)平臺(SOA架構);在功能上則從單一的僅實現(xiàn)簡單檔案管理的軟件、到檔案管理軟件與OA系統(tǒng)整合的數(shù)據(jù)庫、再到現(xiàn)今的將數(shù)字化檔案管理方式滲透到整個工作流(workflow)的數(shù)據(jù)庫平臺。檔案大數(shù)據(jù)是在檔案方面涉及的資料量規(guī)模巨大到無法通過目前主流軟件工具,在合理時間內達到擷取、管理、處理并整理成為幫助企業(yè)經營決策更積極目的的信息。[9]因此,檔案信息管理系統(tǒng)的安全在很大程度上決定了檔案信息的安全。

2.1數(shù)據(jù)支持平臺安全

美國政府大數(shù)據(jù)計劃中的國家檔案和文件署(NARA)計劃為十億電子記錄(CI-BER)建設網絡基礎設施,這是一個聯(lián)合機構主辦的測試平臺。這個多機構主辦的網絡基礎設施,對國家檔案館87萬多樣化的數(shù)字記錄文件和信息的收集,可稱為計算研究所的“文藝復興”。這個試驗臺將評估技術和方法,進行超大規(guī)模數(shù)據(jù)收集,以支持可持續(xù)的訪問。[10]縱覽國內外各行業(yè)大數(shù)據(jù)建設實踐,構建檔案大數(shù)據(jù)平臺至少要實現(xiàn)四個層次的部署:一、云服務商提供全面、可視化的服務,尤其是檔案大數(shù)據(jù)服務委托方有權隨時監(jiān)管、分析基礎設施中發(fā)生的所有事項;二、收集海量檔案數(shù)據(jù),并解決各個數(shù)據(jù)庫的兼容問題;三、數(shù)據(jù)庫有更快識別目標、鎖定威脅來源和敵對事件的能力和相關設置;四、基礎設施具有可擴展性,可以執(zhí)行短期和長期的分析。監(jiān)控管理、風險控制、規(guī)則遵從是檔案云數(shù)據(jù)支持平臺確保安全的最基本要求。

2.2數(shù)據(jù)計算環(huán)境安全

傳統(tǒng)的數(shù)據(jù)庫系統(tǒng)不能有效地處理大數(shù)據(jù)的原因在于,這些系統(tǒng)的設計無法應對現(xiàn)如今結構化數(shù)據(jù)所占比例越來越低,數(shù)據(jù)類型日益復雜的狀況,以及傳統(tǒng)的數(shù)據(jù)庫無法既迅速又比較經濟地對系統(tǒng)進行拓展。不僅是硬件程序的設計環(huán)節(jié),從數(shù)據(jù)管理的角度來看,少量的數(shù)據(jù)樣本容易進行單獨的測試和監(jiān)控,而檔案大數(shù)據(jù)計算平臺上存儲的數(shù)據(jù)首先要有詳細的類別劃分,其次才是存儲和計算。檔案數(shù)據(jù)庫的數(shù)據(jù)分析完成后,是要將結果呈現(xiàn)給不同的人群使用的。針對同一條查詢指令,應該讓不同角色的人群看到不同的結果信息,即查詢所反饋的結果應該是不一樣的:技術人員讀取有關系統(tǒng)和設置管理的數(shù)據(jù);檔案工作人員查看、操作與自身業(yè)務范圍相關的內容;普通利用者可以得到經審核公開的電子文本或目錄。大數(shù)據(jù)時代的檔案安全解決方案應該包括足夠強大的、能夠針對不同層次的人群提供不同的展現(xiàn)界面和工具。同時,檔案大數(shù)據(jù)系統(tǒng)必須具有目錄整理、檔案采集、檔案審核、系統(tǒng)維護等功能,并利用現(xiàn)化代網絡技術,實現(xiàn)多人多客戶端操作。

3檔案數(shù)據(jù)提供利用安全

正如1893年立式文件柜的出現(xiàn)最終解決了紙質文件的存儲和檢索的困難,檔案大數(shù)據(jù)必將對檔案信息的查找利用帶來顛覆性的變革:檔案收集保管的最終目的是為了方便利用;檔案大數(shù)據(jù)的核心不是擁有數(shù)據(jù),而是拿這些檔案數(shù)據(jù)去做什么。

3.1檔案數(shù)據(jù)比對分析

檔案大數(shù)據(jù)最直觀的應用在于數(shù)據(jù)的比對分析。例如,在經適房的申購過程中,如何才能快速有效地鑒別申購者的資格?用申購者提供的姓名、身份證號等相關信息比對在房地產交易、車輛管理、金融機構等數(shù)據(jù)庫的相關信息,可以準確掌握申購者的資產狀況,剔除不夠格的申請者。還有一個典型例子就是我國醫(yī)療檔案大數(shù)據(jù)建設的“3521工程”。該項目融合了我國絕大部分三甲醫(yī)院和部分二甲醫(yī)院的數(shù)據(jù)庫和影像文件的數(shù)字化信息系統(tǒng)以及電子健康檔案系統(tǒng),旨在通過數(shù)據(jù)自動匯總、統(tǒng)計分析,進行慢性病、流行病的自動篩查、趨勢分析和爆發(fā)預警;同時系統(tǒng)還可以為新藥研發(fā)、新治療方案的設計等工作提供數(shù)據(jù)支持。檔案大數(shù)據(jù)提供利用在一定程度上來說只需要知道檔案大數(shù)據(jù)“是什么”,而不需要知道“為什么”。這種變化已經遠遠突破了技術層面,將對人類認知世界的方式方法產生重大影響。從檔案大數(shù)據(jù)進行的對比分析,就是用檔案數(shù)據(jù)說話的最簡單直接證明。檔案工作的核心在“用”。利用者在檔案數(shù)據(jù)比對分析時,通過軌跡研判、信息關聯(lián)等方式,由已存的較全面的檔案信息,才能得出正確、合理的結論。在這種狀況下,可提供利用的數(shù)據(jù)資源的豐富,就代表了一定程度上的利用環(huán)境安全。

3.2檔案咨詢服務

第9篇:大數(shù)據(jù)庫建設方案范文

(1.中南大學 信息科學與工程學院,湖南 長沙410083;2.中南大學 地球科學與信息物理學院,湖南 長沙 410083)

摘要:計算思維能力是當前國內外大學課程建設和教學改革的重要內容和方向。文章以非計算機專業(yè)數(shù)據(jù)庫系列課程為例,探討如何在教學過程中培養(yǎng)計算思維能力,同時對改革的重要內容即數(shù)據(jù)庫課程群建設進行分析,闡述如何在數(shù)據(jù)庫系列課程教學過程和課程群建設中引入計算思維的思路和方法,為高等學校教育教學方法和課程改革提供思路。

關鍵詞 :計算思維;教學方法;教學質量;課程群建設;課程改革

基金項目:湖南省普通高等學校教學改革研究項目(湘教通[2014]247號);教育部高等學校文科大學計算機教學改革項目(教高文計函[2014]05號2014-A128);全國高等院校計算機基礎教育研究會2014年課題(201445)。

第一作者簡介:奎曉燕,女,副教授,研究方向為計算機網絡和數(shù)據(jù)庫技術,xykui@csu.edu.cn。

0 引言

計算思維是由美國卡內基·梅隆大學周以真教授在Computational Thinking中提出來的。周教授認為計算思維是運用計算機科學的基礎概念求解問題、設計系統(tǒng)和理解人類的行為,其根本內容是本質、抽象和自動化。計算思維涵蓋了反映計算機科學之廣泛性的一系列思維活動,是與讀寫能力一樣的人類基本思維方式[1]。目前,國內外計算機界學者對計算思維這一課題進行了大量的研究。研究結果表明,計算思維不僅反映了計算機及計算機科學在當前社會中重要的新認識,也反映了計算機學科最本質的特征和最核心的方法,這在計算機技術飛速發(fā)展的今天尤為重要[2]。

1 計算思維在數(shù)據(jù)庫系列課程改革中的作用

數(shù)據(jù)庫技術是信息系統(tǒng)的核心技術。近年來,數(shù)據(jù)庫技術和計算機網絡技術相互滲透、相互促進,已成為當今計算機領域發(fā)展迅速、應用廣泛的兩大技術。在數(shù)據(jù)庫系列課程中,教學方法革新和課程群建設是課程改革的兩個重要方面。在數(shù)據(jù)庫課程改革中引入計算思維有助于正確理解計算和計算機,可以更好地揭示表象背后的核心問題,揭示不同現(xiàn)象之間的共同本質,從而有效提高教學質量,培養(yǎng)出時展所需要的高素質人才。

在數(shù)據(jù)庫系列課程的教學過程中引入計算思維的理念,應當使計算思維的本質始終貫穿整個數(shù)據(jù)庫課程教學過程,根據(jù)講授的具體知識點適時引入計算思維的思想,培養(yǎng)學生的創(chuàng)新能力和計算思維能力,久而久之,教師形成新的教學思路和行之有效的教學方法。具體來說,計算的想法是把復雜問題分解,把問題簡單化;計算的方法是選擇一個合適的模型反映這個問題的相關方面;計算的思維是考慮當出現(xiàn)問題時如何恢復等??偟膩碚f,計算思維是采取適當?shù)姆椒ń鉀Q問題并理解人類行為,這是計算機科學中非常重要的一些想法[3]。

在數(shù)據(jù)庫系列課程的課程群建設中引入計算思維,必須先研究課程群各門課程的關聯(lián)性,通過課程整合刪除重復過時的內容,增加可增強學生應用和創(chuàng)新能力的新內容,一方面提高教學效率,使學生在有限的學時內能吸收更多的知識;另一方面,針對課程群理論與實踐并重的特點,通過引入計算思維更好地訓練學生的思維能力,提高學生的綜合技能。

2 在數(shù)據(jù)庫教學過程中引入計算思維的方法和步驟

在數(shù)據(jù)庫系列課程的教學過程中,一方面是理論知識講授,通過教學幫助學生正確理解和掌握數(shù)據(jù)庫的基本原理,熟練掌握數(shù)據(jù)庫的設計方法和應用技能;另一方面是通過實踐環(huán)節(jié)激發(fā)學生對數(shù)據(jù)庫相關知識的興趣,培養(yǎng)獨立探求新方法、新技術的技能,使之成為適應能力強、有創(chuàng)新精神和創(chuàng)造才能的專門人才。在數(shù)據(jù)庫系列課程的教學過程中引入計算思維,需要結合課堂教學和實踐環(huán)節(jié)這兩個方面。教師應當始終將計算思維的本質貫穿在課堂教學中,根據(jù)講授的具體知識點適時引入計算思維中涉及的關注點、嵌入、保護、轉化、糾錯和恢復、啟發(fā)式等基本概念和思維方法,引導學生領會計算思維的新方法;在實踐環(huán)節(jié),教師提出問題、給出實驗任務,學生通過獨立完成或者小組協(xié)作的方式運用計算思維的系列方法解決實際問題,從中探索解決問題的新方法,發(fā)現(xiàn)問題的本質,達到更好吸收和鞏固知識、學會運用計算思維方法的目的,最終培養(yǎng)學生的創(chuàng)新思維和計算思維,提高其獨立思考、解決問題的技能[4]。具體實現(xiàn)方法主要包括以下幾方面。

1) 整合并精煉教學內容。

由于課程教學內容較多,教師應在課堂教學和實踐環(huán)節(jié)中將教學內容根據(jù)章節(jié)進行歸類、重新整合,選取重點和難點知識中的典型問題以提問的方式入手,用討論的形式加強互動,啟發(fā)學生同步思考,調動學生的學習積極性和參與熱情,形成師生積極互動的良好氛圍,使學生從被動接受知識變?yōu)橹鲃犹接憜栴},達到良好的教學效果。此外,教師應通過對整合性教學內容的分析,建立各相關知識點與計算思維核心概念之間的關系和聯(lián)系,在教學中表述出各知識點對應的應強化和滲透的計算思維具體核心概念。通過教師整合、分析和精煉教學內容,學生在有限的學時內可以更高效、主動地掌握更多知識和技能,同時這也有效促進教師不斷地自我學習和提高。

2) 采用生動具體的實例教學法。

在教學過程中,教師以當前點擊率頗高的淘寶網、當當網、京東網等多個購物平臺和銀行數(shù)據(jù)庫管理系統(tǒng)為切入點,引入數(shù)據(jù)庫的相關概念以及數(shù)據(jù)存儲、數(shù)據(jù)模型、數(shù)據(jù)組織等相關知識;通過在購物平臺上進行

關鍵詞 搜索查找特定信息的過程,引入關系、數(shù)據(jù)表、查詢、索引、視圖、存儲過程、觸發(fā)器等相關知識;通過購物者選中物品、點擊支付平臺進行網上提交訂單和在線付費購買的過程,引入數(shù)據(jù)庫的安全機制、身份驗證、登錄和權限管理、數(shù)據(jù)備份等方面的知識,這樣用學生熟悉的生活實例引出相關的數(shù)據(jù)庫知識點,幫助學生從更簡易、更直觀、更清晰、更生動、更透徹的角度學習相關知識,始終將計算思維的思想貫穿其中,擺脫傳統(tǒng)教學方法的單一性和枯燥性,激發(fā)學生的學習興趣,提高學習效果,一方面鍛煉學生的思維,另一方面激發(fā)學生的創(chuàng)造力和學習能力,讓學生掌握用計算思維思考和解決問題的本領。

3) 將計算思維融入實踐教學。

數(shù)據(jù)庫課程實踐環(huán)節(jié)重點鍛煉學生對計算思維方法的運用能力,引導學生探索解決實際問題的方法,是對課堂教學內容的補充,促進學生更好地認識和鞏固計算思維的方法。實踐環(huán)節(jié)可以采用課堂練習、綜合設計等多種形式;對于單一知識點練習題可以要求學生獨立運用計算思維方法完成;對于綜合設計題,學生可劃分小組進行探討,各自闡述對問題的認識和對知識點的理解,提出解決思路與方法,確定方案,然后上機實踐,讓計算機檢驗思路和方法的正確性。實踐過程將知識作為載體,實現(xiàn)思想和方法的傳授,通過有效使用工具,可以達到事半功倍的教學效果,使得學生不僅可以掌握數(shù)據(jù)庫相關的軟硬件工具、數(shù)據(jù)庫系統(tǒng)及各類語言,而且通過抽象表示設計有效的算法,通過程序的實現(xiàn)高效地解決實際問題,真正掌握數(shù)據(jù)庫的相關知識和技能。

3 在數(shù)據(jù)庫課程群建設中引入計算思維的方法和步驟

數(shù)據(jù)庫課程群建設中的系列課程均是高校非計算機專業(yè)必修或選修的與數(shù)據(jù)庫相關的公共基礎課程(數(shù)據(jù)庫應用基礎、數(shù)據(jù)庫技術與應用、數(shù)據(jù)庫系統(tǒng)原理、數(shù)據(jù)庫應用系統(tǒng)開發(fā)等),這些課程涉及全校非計算機專業(yè)的所有學生。課程群建設是近年來課程建設改革的一個發(fā)展趨勢,是針對某一受教育對象將相關的課程組合在一起,進行整合更新,使課程內容更貼近現(xiàn)實需求,提高學生應用和創(chuàng)新能力以及教學效率和質量。

數(shù)據(jù)庫課程群的教學內容是根據(jù)教育部對計算機基礎教學基本要求設計的,教學目標是通過課程學習幫助學生了解數(shù)據(jù)庫應用領域,掌握基本的數(shù)據(jù)庫技術,提高數(shù)據(jù)庫管理系統(tǒng)分析、數(shù)據(jù)庫應用程序設計和開發(fā)、數(shù)據(jù)庫使用和維護的能力。課程群建設以教指委提出的“普及計算機文化、訓練計算思維、培養(yǎng)信息應用能力”為總體目標,從培養(yǎng)學生信息素養(yǎng)、計算機應用能力等方面著手,以數(shù)據(jù)庫技術為基礎,以計算思維為切入點,以應用能力為目標,構造并設計數(shù)據(jù)庫課程群知識體系及教學方案,旨在新形勢下進一步提高高校計算機基礎教育的質量[5]。具體實現(xiàn)方法主要包括以下幾方面。

1) 以計算思維為切入點。

數(shù)據(jù)庫課程群建設的實施可采用課程知識體系及教學內容重組與教學方法推動相結合的方式,在宏觀上,以計算思維為切入點重組課程知識體系框架;微觀上,參照教學指導委員會編制的《高等學校計算機基礎教學發(fā)展戰(zhàn)略研究報告暨計算機基礎課程教學基本要求》和《高等學校計算機基礎核心課程教學實施方案》提出的課程基本知識體系和實驗體系,融入最新數(shù)據(jù)庫技術、通信技術、網絡技術等相關概念、方法和應用,形成數(shù)據(jù)庫課程群建設的方案。

一個高效的教學團隊對于強化質量意識、深化教學改革、促進課程群建設、提高教學質量發(fā)揮著極其重要的作用?;趲熧Y隊伍的現(xiàn)狀,教學團隊建設應以教學研究為切入點,以提高隊伍的教學水平和改善隊伍職稱結構為目的,最終形成穩(wěn)定的、高水平的師資隊伍。團隊中的教師應該認真學習并掌握計算思維的精髓,能夠在教學過程中引入計算思維,啟發(fā)學生訓練思維能力,用計算思維的方法思考和分析問題,提高學生對知識的綜合運用能力。

2) 采用層次化教學方法。

教學方法的研究與實踐在數(shù)據(jù)庫課程群建設中占據(jù)相當重要的地位。教師要改革傳統(tǒng)的以單純的操作、技術為重點的教學方式,轉變?yōu)橐运季S能力養(yǎng)成訓練、問題求解能力培養(yǎng)、工作實踐能力培養(yǎng)為目標的新型教學方式,采用層次化教學方法進行數(shù)據(jù)庫課程群建設,針對不同層次的課程和不同專業(yè)的學生采用不同的教學方法(如圖1所示)。第1層課程采用啟發(fā)式教學方法,教師用多媒體課件等教具向學生形象、生動地演示課程重點和難點,通過靈活設計教學過程讓學生積極參與教學活動,更好地掌握知識;第2層課程采用案例教學法、講授教學法、實驗教學法相結合的方式;第3層課程采用課題研究教學法、討論教學法、指導自學法相結合的方式。除此之外,無論是哪一個層次的教學,都應該在整個教學過程中研究計算思維要素的概念、案例、課題的教授方法,研究如何將隱式計算思維要素與課程內容有機結合并呈現(xiàn)出來,使學生感受計算思維的科學性與普適性,從而提高學生的計算思維能力和科學素養(yǎng)。

3) 科學制訂課程知識體系。

在數(shù)據(jù)庫課程群建設中,建立科學的課程知識體系能大大提高課程群建設的質量和效果。具體來說,一方面要準確分析計算機公共課的培養(yǎng)目標及知識結構要求,在正確認識數(shù)據(jù)庫技術系列課程知識體系特點的基礎上科學提煉計算機學科內涵;另一方面要及時跟蹤國內外計算機技術和數(shù)據(jù)庫技術的發(fā)展和趨勢,不斷根據(jù)大數(shù)據(jù)[6]、透明計算、云計算、物聯(lián)網[7]時代的技術發(fā)展特點修正、更新和調整教學內容,讓課程知識體系能始終適應時展的需求。同時,要以培養(yǎng)計算機應用開發(fā)能力為目標,以計算思維為切入點,對教學內容進行科學組織和優(yōu)化;在充分調研、認真分析的基礎上,確定學生應具備的知識結構,明確改革目標,提出具體方案并投入課程改革實踐,分析改革效果,進行總結和推廣研究。這個過程可以反復交叉進行。改革是無止境的,改革的效果也是相對的,沒有最好,只有更好。教師應在實踐中不斷調整和修正教學改革方案,建立科學的課程知識體系。

4 結語

數(shù)據(jù)庫系列課程是高等學校非計算機專業(yè)中非常重要的公共基礎課[8],如何在計算機技術飛速發(fā)展的背景下更加深入地理解計算機學科的內涵和性質,根據(jù)不同專業(yè)、不同年級學生的特點開展有針對性的教學,在數(shù)據(jù)庫系列課程教學和數(shù)據(jù)庫課程群建設中引入計算思維以有效促進課程改革,是高校計算機基礎課教師應重點關注和思考的問題。筆者闡釋了計算思維在數(shù)據(jù)庫系列課程改革中的作用,介紹了在數(shù)據(jù)庫系列課程教學過程和在課程群建設中融入計算思維的方法和步驟,期望通過大膽的探索為培養(yǎng)和提高教師和學生的計算思維能力打下基礎。

參考文獻:

[1] 周以真. 計算思維[J]. 中國計算機學會通訊, 2007(11): 11-14.

[2] 李廉. 計算思維: 概念與挑戰(zhàn)[J]. 中國大學教學, 2012(1): 7-12.

[3] 龔沛森, 楊志強. 大學計算機基礎教學中的計算思維培養(yǎng)[J]. 中國大學教學, 2012(5): 51-54.

[4] 李曉明, 蔣宗禮, 王志英, 等. 積極研究和推進計算思維能力的培養(yǎng)[J]. 計算機教育, 2012(5): 1.

[5] 教育部高等學校計算機基礎課程教學指導委員會. 高等學校計算機基礎核心課程教學實施方案[M].北京: 高等教育出版社, 2011: 4-5.

[6] 大數(shù)據(jù)時代來臨[N]. 北京晚報, 2012-06-15(40).

[7] 嚴大虎, 陳明選. 物聯(lián)網在智慧校園中的應用[J]. 現(xiàn)代教育技術, 2011, 21(6): 123-125.