- 1、本文档共5页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
大数据关键技术
大数据技术,就是从各种类型的数据中快速获得有价值信息的技
术。大数据领域已经涌现出了大量新的技术,它们成为大数据采集、
存储、处理和呈现的有力武器。
大数据处理关键技术一般包括:大数据采集、大数据预处理、大
数据存储及管理、大数据分析及挖掘、大数据展现和应用(大数据检
索、大数据可视化、大数据应用、大数据安全等)。
一、大数据采集技术
数据是指通过RFID射频数据、传感器数据、社交网络交互数据及
移动互联网数据等方式获得的各种类型的结构化、半结构化(或称之
为弱结构化)及非结构化的海量数据,是大数据知识服务模型的根本。
重点要突破分布式高速高可靠数据爬取或采集、高速数据全映
1/5
像等大数据收集技术;突破高速数据解析、转换与装载等大数
据整合技术;设计质量评估模型,开发数据质量技术。
大数据采集一般分为大数据智能感知层:主要包括数据传感体
系、网络通信体系、传感适配体系、智能识别体系及软硬件资源接入
系统,实现对结构化、半结构化、非结构化的海量数据的智能化识别、
定位、跟踪、接入、传输、信号转换、监控、初步处理和管理等。必
须着重攻克针对大数据源的智能识别、感知、适配、传输、接入等技
术。基础支撑层:提供大数据服务平台所需的虚拟服务器,结构化、
半结构化及非结构化数据的数据库及物联网络资源等基础支撑环境。
重点攻克分布式虚拟存储技术,大数据获取、存储、组织、分析和决
策操作的可视化接口技术,大数据的网络传输与压缩技术,大数据隐
私保护技术等。
二、大数据预处理技术
主要完成对已接收数据的辨析、抽取、清洗等操作。1)抽取:
因获取的数据可能具有多种结构和类型,数据抽取过程可以帮助我们
将这些复杂的数据转化为单一的或者便于处理的构型,以达到快速分
析处理的目的。2)清洗:对于大数据,并不全是有价值的,有些数
据并不是我们所关心的内容,而另一些数据则是完全错误的干扰项,
因此要对数据通过过滤“去噪”从而提取出有效数据。
三、大数据存储及管理技术
大数据存储与管理要用存储器把采集到的数据存储起来,建立相
应的数据库,并进行管理和调用。重点解决复杂结构化、半结构化和
2/5
非结构化大数据管理与处理技术。主要解决大数据的可存储、可表示、
可处理、可靠性及有效传输等几个关键问题。开发可靠的分布式文
件系统(DFS)、能效优化的存储、计算融入存储、大数据的去
冗余及高效低成本的大数据存储技术;突破分布式非关系型大数
据管理与处理技术,异构数据的数据融合技术,数据组织技术,
研究大数据建模技术;突破大数据索引技术;突破大数据移动、
备份、复制等技术;开发大数据可视化技术。
开发新型数据库技术,数据库分为关系型数据库、非关系型数据
库以及数据库缓存系统。其中,非关系型数据库主要指的是NoSQL数
据库,分为:键值数据库、列存数据库、图存数据库以及文档数据库
等类型。关系型数据库包含了传统关系数据库系统以及NewSQL数据
库。
开发大数据安全技术。改进数据销毁、透明加解密、分布
式访问控制、数据审计等技术;突破隐私保护和推理控制、数
据真伪识别和取证、数据持有完整性验证等技术。
四、大数据分析及挖掘技术
大数据分析技术。改进已有数据挖掘和机器学习技术;开
发数据网络挖掘、特异群组挖掘、图挖掘等新型数据挖掘技术;
突破基于对象的数据连接、相似性连接等大数据融合技术;突
破用户兴趣分析、网络行为分析、情感语义分析等面向领域的
大数据挖掘技术。
3/5
数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的
实际应用数据中,提取隐含在其中的、人们事先不知道的、但又是潜
在有用的信息和知识的过程。数据挖掘涉及的技术方法很多,有多种
分类法。根据挖掘任务可分为分类或预测模型发现、数据总结、聚类、
关联规则发现、序列模式发现、依赖关系或依赖模型发现、异常和趋
势发现等等;根据挖掘对象可分为关系数据库、面向对象数据库、空
间数据库、时态数据库、文本数据源、多媒体数据库、异质数据库、
遗产数据库以及环球网Web;根据挖掘方法分,可粗分为:机器学习
方法、统计方法、神经网络方法和数据库方法。机器学习中,可细分
为:归纳学习方法(决策树、
您可能关注的文档
- 安全生产三违行为管理办法.pdf
- 学科建设与发展临床医技科室重点学科老年病.pdf
- 学前教育-《学前教育学》复习资料.pdf
- 委托培训协议书15篇.pdf
- 太原理工大学学院毕业实习报告.pdf
- 大学英语专业词汇学试题.pdf
- 大学生社会实践报告活动内容范文7篇范文模板.pdf
- 声光控电路_原创精品文档.pdf
- 基础等电位及防雷接地.pdf
- 基因改造生物的利弊研究性报告范文.pdf
- 人教新目标版英语九年级 中考模拟学情评估(三)(含答案).pdf
- 上海市风华中学2024-2025学年高三上学期9月阶段测试英语试题(无答案).pdf
- 统编版2024-2025学年语文六年级上册期末检测卷(有答案).pdf
- 人教新目标版英语九年级第二学期全册学情评估(含答案).pdf
- 内蒙古自治区巴彦淖尔市杭锦后旗第六中学2024-2025学年八年级上学期阶段性测试历史试题(解析版).pdf
- 湖南省娄底市涟源市部分学校2024-2025学年高一上学期9月月考语文试题 Word版无答案.pdf
- 湖南省衡阳市常宁市2023-2024学年七年级上学期期末考试英语试题.pdf
- 湖南省娄底市涟源市部分学校2024-2025学年高一上学期9月月考语文试题 Word版含解析.pdf
- 江苏省泰州市姜堰区城西实验学校2024-2025学年部编版九年级上学期月考历史试卷(原卷版).pdf
- 内蒙古伊金霍洛旗2022-2023学年七年级上学期期末考试英语试题.pdf
最近下载
- 2024年社会工作者《中级法规与政策》数字型考点.pdf VIP
- 竺乾威、朱春奎、李瑞昌:《公共管理导论》 第三章 组织.pptx VIP
- 建筑工程图集 B16G101-1:中英文双语版16G101-1.pdf VIP
- 图集规范-05N6井盖标准图集.pdf
- 室外消防钢结构楼梯拆除方案.pdf
- (精选施工方案)0141 民航总局办公楼加固整修工程.doc VIP
- 统编版小学语文四年级上册第三单元 观察 大单元整体学历案教案 教学设计附作业设计(基于新课标教学评一致性).docx
- 有关青岛市新建住宅质量保修手册.doc
- 同课异构省一等奖《同底数幂的乘法》教案 (省一等奖) .doc
- 连云港市新海高级中学2023-2024学年高一上学期10月月考数学试题(解析版).docx VIP
文档评论(0)