hadoop在大数据地分析应用的论文-马健馨.pptVIP

Hadoop以及在大数据应用 马健馨 北京语言大学 大纲 Hadoop简介 Hadoop就是一个实现了Google云计算系统的开源系统，包括并行计算模型Map/Reduce，分布式文件系统HDFS，以及分布式数据库Hbase，同时Hadoop的相关项目也很丰富，包括ZooKeeper，Pig，Chukwa，Hive，Hbase，Mahout，flume等. Hadoop处理流程 编程接口-streaming 管道传输数据 key\tvalue\n 任何可以操作标准输入输出的语言都可以写streaming并行处理程序。 hive数据仓库 Hive是为提供简单的数据操作而设计的下一代分布式数据仓库。它提供了简单的类似SQL的语法的HiveQL语言进行数据查询。同时，HiveQL语言能力不足时，它也能允许使用Map/reduce并行计算模型进行复杂数据分析。 HIVE可以将存储在Hadoop中的数据文件映射为一张数据库表，并提供了一套查询语言HQL。HQL以SQL为基础，自动转换为MapReduce任务进行运行，使用起来非常方便。 Hive架构 Hive特点以及典型应用 1.特点 不能保证处理的低迟延（low latency）问题。 批处理大规模数据 2. 典型应用 ETL处理 OLAP系统 BI系统 日志分析 Hive日志分析架构 Hive支持的数据类型以及操作 数据类型： 简单类型：INT, STRING, boolean 复杂类型：Struct、Map和Array 操作： SELECT DISTINCT, JOINS, WHERE, GROUP BY Hive程序开发 Java：hive-JDBC Client C/C++：ODBC client Python, ThriftHive php, 流程 Hive序列化反序列化 HIVE里面的数据及其结构以类的形式储存，并提供了串行器和反串行器来实现HIVE内部的类和普通编程语言的类之间的转换。 有了串行器和反串行器，我们就能在HIVE中对输入文件内容进行更复杂的操作，从而解析非结构化数据。在实际开发中只需要实现反串行器即可。 学习动物精神 11、机智应变的猴子：工作的流程有时往往是一成不变的，新人的优势在于不了解既有的做法，而能创造出新的创意与点子。一味 地接受工作的交付， 只能学到工作方法 的皮毛，能思考应 变的人，才会学到 方法的精髓。 学习动物精神 12、善解人意的海豚：常常问自己：我是主管该怎么办才能有助于更好的处理事情的方法。在工作上善解人意， 会减轻主管、共 事者的负担，也 让你更具人缘。 学习动物精神 11、机智应变的猴子：工作的流程有时往往是一成不变的，新人的优势在于不了解既有的做法，而能创造出新的创意与点子。一味 地接受工作的交付， 只能学到工作方法 的皮毛，能思考应 变的人，才会学到 方法的精髓。 学习动物精神 12、善解人意的海豚：常常问自己：我是主管该怎么办才能有助于更好的处理事情的方法。在工作上善解人意， 会减轻主管、共 事者的负担，也 让你更具人缘。