大数据在政府中的应用
一、大数据的概念
大数据(big data),或称巨量资料,指的是所涉及的资料量规模巨大到无法透过目前主流软件工具,在合理时间内达到撷取、管理、处理、并整理成为帮助政府提供决策支持以及企业经营决策更积极目的的资讯。
大数据可分成大数据技术、大数据工程、大数据科学和大数据应用等领域。目前人们谈论最多的是大数据技术和大数据应用。工程和科学问题尚未被重视。大数据工程指大数据的规划建设运营管理的系统工程;大数据科学关注大数据网络发展和运营过程中发现和验证大数据的规律及其与自然和社会活动之间的关系。
大数据的4个“V”,或者说特点有四个层面:第一,数据体量巨大。从TB级别,跃升到PB级别;第二,数据类型繁多。前文提到的网络日志、视频、图片、地理位置信息等等。第三,价值密度低,商业价值高。以视频为例,连续不间断监控过程中,可能有用的数据仅仅有一两秒。第四,处理速度快。1秒定律。最后这一点也是和传统的数据挖掘技术有着本质的不同。业界将其归纳为4个“V”——Volume(数据体谅巨大),Variety(数据种类繁多),Value(价值密度低),Velocity(处理速度快)。
海量数据存储、数据挖掘、图像视频智能分析,都是大数据的重要组成部分。
大数据的应用和发展离不开三大要素:
一是不同参与主体参与的大量数据信息(原材料基础);
word格式-可编辑-感谢下载支持
二是支撑大数据存储和运算的IT基础设施;
三是挖掘大数据潜在价值并进行应用的能力;
如果说云计算为数据资产提供了保管、访问的场所和渠道,那么如何盘活数据资产,使其为国家治理、政府决策支持、企业决策乃至个人生活服务,则是大数据的核心议题,也是云计算内在的灵魂和必然的升级方向。
二、大数据挖掘技术
大数据挖掘技术——是采用自动或半自动化的智能方式,从海量的数据中寻找隐藏在数据中的模式、趋势和相关性。是从数据集中识别出有效的、新颖的、潜在有用的,以及最终可理解的模式的非平凡过程。从这里发现的知识,应该是先前未知的,不能靠直觉发现的知识,发现的知识要未知、实用和有商业价值。
它综合使用统计分析、数据仓库、人工智能、信息科学等多个学科的技术,从海量的客户数据中找出传统经营分析难以洞察的客户行为模式,给出客户的详细描述,并可以有效预测客户的行为倾向。
数据挖掘的基本特征:
1、数据挖掘是在没有明确假设的前提下挖掘信息、发现知识;
2、数据挖掘所得到的信息应具有先前未知、有效和可实用性三个特征;
3、先前未知的信息是指该信息是预先未曾预料到的;
4、数据挖掘是要发现那些不能靠直觉发现的信息和知识,基本是违背直觉的知识和信息;
word格式-可编辑-感谢下载支持
5、挖掘出的信息越是出乎意料,就可能越有价值。
数据挖掘的完整步骤:
1、理解数据和数据的来源;
2、获取相关知识和技术;
3、整合和检查数据;
4、去除错误或不一致的数据;
5、建立模型和假设;
6、实际数据和挖掘工作;
7、测试和检验挖掘结果;
8、解释和应用;
三、政府对于大数据应用的相关政策或制度(大数据应用的环境)
对于向服务转型的我国政府来说,大数据对于政府信息化的核心价值是,能够打造出更加透明的政府、更加智慧的政府、更加负责任的政府。
2012年3月,美国政府发布《大数据研究和发展倡议》,投资2亿美元发展大数据, 用以强化国土安全、转变教育学习模式、加速科学和工程领域的创新速度和水平;2012年7月,日本提出以电
word格式-可编辑-感谢下载支持
子政府、电子医疗、防灾等为中心制定新ICT(信息通讯技术)战略,发布“新ICT计划”,重点关注大数据研究和应用;2013年1月,英国政府宣布将在对地观测、医疗卫生等大数据和节能计算技术方面投资1.89亿英镑。
2012年12月,国家发改委数据分析软件开发和服务列入专项指南;《“十二五”国家政务信息化工程建设规划》、《国家电子政务“十二五”规划》;2013年科技部将大数据列入973基础研究计划;2013年度国家自然基金指南中,管理学部、信息学部和数理学部将大数据列入其中。2012年12月,广东省启动了《广东省实施大数据战略工作方案》;北京成立“中关村大数据产业联盟”。
2013年1月11日,中国工业和信息化部颁发《关于数据中心建设布局的指导意见》;
2013年5月10日,广东省颁发《广东省信息化发展规划纲要(2013-2020年)》;
2013年5月11日,由中国信息协会电子政务专业委员会、中国电子学会通信学分会联合组织召开的“2013年政府网络与数据建设发展论坛”在北京国宾酒店隆重召开。
2013年6月28日,重庆市人民政府通过《重庆市大数据行动计划》并与7月30日正式实施;
2013年7月,陕西省颁发《“数字陕西·智慧城市”发展纲要(2013-2017)》和《“数字陕西·智慧城市”发展纲要实施意见》,西咸新区和沣西新城(大数据挖掘相关的产业园区);
2013年7月,上海市颁发《上海推进大数据研究与发展三年行动计划(2013-2015年)》
数据产业园区建设也在逐步展开。上海智慧岛数据产业园、秦皇岛开发区数据产业基地、北京国家地理信息科技产业园、中国国际电子商务中心重庆数据产业园等一批数据产业园区,在有关各方的大力支持下正展开基础建设和招商工作。
word格式-可编辑-感谢下载支持
四、大数据在政府各领域中的应用
智慧城市包括三个核心理念,即感知、互联和智能。其中,“感知”代表信息收集,“互联”代表信息互通,“智能”则代表对信息的掌控分析。
1、智慧城市的定义
全面物联:智能传感设备将城市公共设施物联成网,对城市运行的核心系统实时感测;
充分整合:物联网与互联网系统完全对接融合;
激励创新:政府、企业在智慧基础设施之上进行科技和业务的创新应用;
协同运作:城市的各个关键系统和参与者进行和谐高效地协作。
发展至如今,智慧城市已是物联网、云计算、移动互联网等新一代信息技术应用与城市可持续发展需求相结合的产物,代表了当今世界城市发展的新理念和新模式,体现了工业化、信息化、城镇化和农业现代化的融合。为实现智慧城市,IBM推出了各种“智慧”解决方案,包括智慧电力、智慧医疗、智慧交通、智慧供应链、智慧银行等等。
推动智慧城市的逐步形成有两种驱动力,一是以物联网、云计算、移动互联网为代表的新一代信息技术,二是知识社会环境下逐步孕育的开放的城市创新生态。清华大学公共管理学院书记、副院长孟庆国教授提出,前者是技术创新层面的技术因素,后者是社会创新层面的社会经济因素,两大基因,缺一不可。
住建部日前确定103个城市(区、县、镇)为2013年度国家智慧城市试点。安徽省阜阳市、黄山市、淮北市、合肥高新技术产业开发区、宁国港口生态工业园区、六安市霍山县等6个市(区、县)
word格式-可编辑-感谢下载支持
入围。加上去年入围智慧城市试点的芜湖市、铜陵市、蚌埠市、淮南市等4市,安徽省在智慧城市试点中已占10席。据悉,目前安徽省首批智慧城市试点已各有动作,而二批入围的芜湖、蚌埠、淮南目前也已在不同阶段实施数字城管、数字交通、平安校园、平安社区、地下管网信息管理等民生应用项目。
根据住建部公布的智慧城市评价指标,“智慧”应该体现在领导的决策和应急能力、城市运行的综合能力、经济活力与产业井真理、市民素质与幸福指数、信息化统筹管理与服务能力。通俗地说,就是从政府和市长角度,促使城市“不得病”、“少得病”和“快治病”,保障城市健康和谐发展;从企业角度,利用智慧城市技术手段,提升企业自身运营效力、降低运营成本、提升竞争力;从百姓角度,让百姓感受到智慧城市带来的“便民”、“利民”和“惠民”,给百姓生活方式带来更好的变化。
国家信息中心信息化研究部副主任、中国智慧城市发展研究中心秘书长单志广表示,据不完全统计,全国已有95%的副省级以上城市、76%的地级以上城市,总计约230多个城市提出或在建智慧城市,计划投资规模近万亿元。有业内人士表示,未来10年智慧城市投资规模有望达到2万亿元。
2、为什么感觉不到智慧城市
单志广认为当前,我国城市不“智慧”的主要约束因素有大数据处理滞后,三网融合水平低,城市管理柔性差,基础软件开发能力弱等技术障碍;有部门分割导致信息封闭和壁垒,互联互通共享难,电子政务重复建设十分严重等体制弊端;还缺乏专业技术人才、管理人才、营销人才;同时观念落后,城市管理重“管”轻“理”,法制观念、人本观念、服务观念均非常缺乏。
大数据为智慧城市的各个领域提供强大的决策支持。
1、城市规划——联系部门:规划局、发改委、建委等
例如,通过对城市地理、气象等自然信息和经济、社会、文化、人口等人文社会信息的挖掘,可
word格式-可编辑-感谢下载支持
以为城市规划提供强大的决策支持,强化城市管理服务的科学性和前瞻性。在新城的规划方面,通过对地理、人口等信息数据的分析,可以清晰地认知城市未来的人口数量和增长趋势。根据城市的发展策略和经济特点,市政部门可以在不同的地理位置设定功能区域规划,包括工业园区、物流园区、中央商务区、居住卫星城、医院、公安局(派出所)、大学城、文化场所、运动设施、图书馆等城市配套服务设施。在老城区的规划方面,通过分析经济快速发展和功能定位的差异、人口数量和结构性的变化,市政部门同样可以制定城市调整和优化的解决方案,比如老工业区的拆移、外迁和升级改造计划,老的商业区、居住区、城中村的改造和功能再定位等。
2、交通管理——公路局,交通局等
在交通管理方面,通过对道路交通信息的实时挖掘,能有效缓解交通拥堵,并快速响应突发状况,为城市交通的良性运转提供科学的决策依据。
针对交通规划、综合交通决策、跨部门协同管理、个性化的公众信息服务等需求,建设全方位交通大数据服务平台。整合全市道路交通、公共交通、对外交通的大数据资源,汇聚气象、环境、人口、土地等行业数据,逐步建设交通大数据库,提供道路交通状况判别及预测,辅助交通决策管理,支撑智慧出行服务,加快交通大数据服务模式创新。
智能公交站牌是一项基于大数据技术的城市公共交通智能化的研究项目。模拟显示了下一班公交车距离该站台的位置、车上的乘客人数、拥挤程度、到达时间等信息,方便乘客选择乘坐车辆。
例如:丰田的“大数据交通信息服务”使用通信信息终端,收集到330万台搭载导航系统的汽车行驶1年(绕地球83万周)的位置和速度等信息,通过分析这些信息为用户提供在地图上显示道路的拥堵情况、发生灾难时可行驶的道路以及避难所的位置等服务。
广西公路管理局应急指挥系统项目等
word格式-可编辑-感谢下载支持
3、舆情监控——纪委,宣传部,新闻出版局等
在舆情监控方面,通过网络关键词搜索及语义智能分析,能提高舆情分析的及时性、全面性,全面掌握社情民意,提高公共服务能力,应对网络突发的公共事件,打击违法犯罪。
例如:2007年8月12日凌晨4时,湛江大暴雨要引发大地震的谣言在受灾严重的乌石、北和、覃斗等镇村四处流传,引起当地群众恐慌。广东省气象局及时通过气象短信应急平台发布辟谣信息,迅速稳定了灾区民心。
2011年温州7.23动车事故引发一场声势浩荡的网络舆情危机,铁道部形象在这次危机中严重受损。然而,把对铁道部“讨伐”的舆论危机引向高潮的是铁道部发言人王勇平在新闻发布会的失言。他的一句“不管你信不信,反正我是信了”引发舆论谴责声一片,王勇平自己也因失言被调职。
4、公共安全——公安局、政府应急中心等
在公共安全领域,通过大数据的挖掘,可以及时发现人为或自然灾害、恐怖事件,提高应急处理能力和安全防范能力。
针对公共安全领域治安防控、反恐维稳、情报研判、案情侦破等实战需求,建设基于大数据的公共安全管理和应用平台。汇聚融合涉及公共安全的人口、警情、网吧、宾馆、火车、民航、视频、人脸、指纹等海量业务数据,建设公共安全领域的大数据资源库,全面提升公共安全突发事件监测预警、快速响应和高效打击犯罪等能力。探索“以租代建”模式,依托第三方专业数据中心,实现数据内容托管、数据服务租用的现代运营模式创新。
5、环境保护——环保局、水利局、土地局、气象局等等
近年来,环境变化实时动态监测系统采集了大量的数据,日益丰富的环境监测数据在一定程度上
word格式-可编辑-感谢下载支持
已超过了传统数据处理方法所能处理的程度,发现隐藏在海量数据中有用的知识,不仅是数据挖掘研究领域的重要任务,而且能够为环保工作者提供环境规划、决策的科学依据
例如:江苏省环境保护厅的太湖流域水环境信息共享平台应急处置管理系统,主要提供:饮用水源地应急监测管理、引江济太调水通道监测数据管理、太湖水污染突发事故应急预案管理、太湖水环境预警管理等,对各类太湖应急期间的监测数据进行查询分析,共享发布。以太湖蓝藻监测为例,通过传感器捕获太湖水质情况,可以得到溶解氧、水温、电导率、氨氮、PH值等参数作为参考,还需要结合视频图像、人工采集和卫星遥感的数据一起分析,为政府提供各种应急措施或决策支持
6、农业——农委
农业从完全依靠人工完成,到半机械化农业,再到大规模机械化农业,生产力得到了飞速提升。但随着人口压力不断提高,可用耕地不断减少,农业需要另一场变革,来满足人类的粮食生产需求。传统的农业生产方式应向数据驱动的智慧化生产方式转变。而云计算、大数据、互联网等科学技术则将是这场变革的主要推动力。为了不断推进农业经济的优化,实现可持续的产业发展和区域产业结构优化,进一步推动智慧农业的建设进程,需要全面及时掌握农业的发展动态,这需要依托农业大数据及相关大数据分析处理技术,建设一个农业大数据分析应用平台---农业大数据平台来支撑。
通过分析几十年来的数据,将各地降雨、气温、土壤状况和历年农作物产量做成精密图标,就可以预测农产品生产趋势,政府的激励措施、作物存储和农业服务也可以随之确定。
例如:日本宫崎县西南部的“都城”市已经开始利用云和大数据进行农业生产。通过传感器、摄像头等各种终端和应用收集和采集农产品的各项指标,并将数据汇聚到云端进行实时监测、分析和管理。富士通和新福青果合作进行卷心菜的生产改革。两家公司在农田里安装了内置摄像头的传感器。把每天的气温、湿度、雨量、农田的图像储存到云端。还向农民发放了智能手机和平板电脑,让大家随时记录工作成果和现场注意到的问题,也都保存到云端。卷心菜增产3成,光合作用也实现IT管理
word格式-可编辑-感谢下载支持
7、制造业——工业和信息化委、国有企业等
目前,无论国内市场还是国外市场,各个行业都面临着激烈的竞争。正确、及时的决策是企业生存与发展的关键因素。越来越多的企业管理层开始认识到:只有充分利用、发掘其现有数据,才能实现更大的收益。
虽然企业的决策者已经意识到“大数据”中蕴含的价值,但对于大多数企业来说,真正实现其中的价值还难以做到。所以,企业需要信息化技术帮助决策者在储存的海量信息中挖掘出需要的信息,并且对这些信息进行分析,从而获取重要的信息。
针对科学评价生产系统规划、降低产品缺陷率等需求,建立制造业大数据系统。整合已有的物理工厂、质量体系、工序数据、成本核算等建模数据,建立仿真工厂,对已有的生产实绩数据进行生产仿真,模拟工厂运行,为工厂实际建设提供决策依据。收集产品生产过程各环节的实时质量数据,实现敏捷的一体化质量监测和管控,并支持产品质量追溯,形成基于大数据的一贯过程质量控制及分析系统,并向第三方提供服务。
例如:美国钢铁公司和神户钢铁公司基于数据挖掘的技术,研究分析产品性能规律和进行质量控制,取得了显著的成效。
8、医疗卫生——医院等
针对临床质量分析、医疗资源分配、医疗辅助决策、科研数据服务、个性化健康引导的需求,建设全民医疗健康公共服务平台。在健康信息网已有数据的基础上,汇聚整合医疗、药品、气象和社交网络等大数据资源,形成智能临床诊治模式、自助就医模式等服务模式创新,为市民、医生、政府提供医疗资源配置、流行病跟踪与分析、临床诊疗精细决策、疫情监测及处置、疾病就医导航、健康自我检查等服务。建设完善涵盖患者的电子诊疗档案库,形成PB级的医疗健康大数据资源,实现支撑多名医生同时在线诊疗的辅助能力。
word格式-可编辑-感谢下载支持
9、食品安全——食品安监局等
针对食品安全和管理的需求,建设食品安全大数据服务平台。汇聚政府各部门的食品安全监管数据、食品检验监测数据、食品生产经营企业索证索票数据、食品安全投诉举报数据,建成食品安全大数据资源库,进行食品安全预警,发现潜在的食品安全问题,促进政府部门间联合监管,为企业、第三方机构、公众提供食品安全大数据服务。
10、终身教育——教育局等
针对全民学习、终身教育的需求,建设教育大数据服务平台。积累数字教育资源,收集教育服务平台学习者行为数据和学习爱好数据,为千万级学习者提供个性化的终身在线学习服务,提高教育资源的共享和利用率,实现因材施教,优化教学过程,提高教学质量,为教育政策调整提供决策支持。建立基于大数据支撑的优质教育资源开发、积累、融合、共享的服务机制,为全体学习者提供个性化选择与推送相结合的终身学习在线服务模式。
11、科技服务——科技局等
针对科技服务数据整合、交互式服务、发展趋势预测、战略决策支持等需求,探索科技服务链整合、众包分包、供需对接的交互式平台型服务模式,建立科技服务业资源共享体系,建设跨领域科技服务与工程创新平台。汇聚科技成果、项目、人才、服务、互联网创新创意等大数据资源,支撑研发设计、技术转移转化、创新创业、科技咨询、科技金融等方面的科技服务。打造“科联工程”,形成跨领域的大数据服务模式。
12、金融证券——银行、证券公司等
针对金融证券领域高频算法交易、数据综合分析、违规操作监管、金融研究报告交易、金融数据服务等方面的需求,建设金融大数据分析与智能决策支持系统。汇聚融合国内外证券及相关衍生品市
word格式-可编辑-感谢下载支持
场的高通量交易数据,整合行业媒体实时资讯与舆情,为相关机构提供金融监管和风险管控等智能决策支持,为投资者提供金融市场数据和经济数据、投资方向等个性化的金融数据服务。
13、互联网
针对互联网领域精准营销、销售趋势预测、广告精细管理和市场决策支持等方面的需求,建设面向互联网的大数据分析和服务系统。汇聚融合门户、论坛、微博、社交网络、搜索、购物、阅读、点评等互联网数据,提供用户细分、个性化推荐、行业报告、竞争分析、商业洞察、定价策略等互联网营销服务,实现以效果计费的创新营销商业模式。系统服务覆盖100家以上电子商务企业,促进企业从传统营销向互联网营销转型。
14、数字生活
针对日益增长的现代化生活需求,建设数字生活大数据服务系统。收集整合流行时尚、行业发展指数、用户消费习惯、收视记录、社交媒体、地理位置等大数据,充分挖掘用户的消费习惯和兴趣偏好,提升企业辅助决策能力,形成有市场竞争力的创新商业模式,面向百万级以上消费者提供个性化衣食住行等生活互动信息。
15、公共设施
针对公共设施养护、管理的需求,建设公共设施大数据服务系统。采集、整合各类道路、桥梁、隧道和商业楼宇的结构性能、运行状态等数据,为公共设施养护、运营决策以及安全管理提供依据,实现对公共设施的实时监测和预警,在全市的路桥隧道和商业楼宇等开展规模应用,形成公共设施运营与养护新模式。
16、电力——电力公司等
word格式-可编辑-感谢下载支持
针对坚强智能电网建设、维护和管理的需求,收集发电厂实时运行数据,建立发电厂数字仿真模型,为提高生产安全性、提高发电效率(降低单位电能煤耗、厂用电指标)提供决策依据。实时收集电网电力资产状态数据,实现电力资产在线状态检测、电网运行在线监控、主动安全预警及调度维保,保障电网可靠高效运行;快速收集用电数据,为需求响应、负荷预测、调度优化、投资决策提供支持。(基于大数据分析挖掘理念和可视化展现技术手段,采用集成了在线监测、视频监控、应急指挥、检修查询等功能的智能在线监控与可视化调度管理系统)
因篇幅问题不能全部显示,请点此查看更多更全内容