hadoop培训资料课件.ppt

Hadoop2.0 新特性: YARN的资源调度模型 核心概念:Container,实现资源动态管理和分配 第三十页，共六十九页。 Hadoop2.0 新特性: YARN的资源调度特点 支持CPU和内存两种资源调度方式，允许配置每个节点、每个任务可用的CPU和内存资源总量 可以根据实际需要和CPU性能将每个物理CPU划分成若干个虚拟CPU。管理员可为每个节点单独配置可用的虚拟CPU个数，用户程序也可指定每个任务需要的虚拟CPU个数 可为每个节点单独配置可用内存，采用线程监控的方案控制内存使用，发现任务超过约定的资源量会将其杀死 Mesos等资源管理软件 第三十一页，共六十九页。 YARN的资源调度控制 内存资源控制 — YARN并没有显式地对内存资源进行强制隔离 — 可以使用JVM提供的内存隔离机制 — 对于YARN而言，目前所做的工作是监控每个任务的进程树。 — 发送TERM和KILL两个信号将整个进程树杀死 — 一些特殊的任务，使用Cgroups对内存进行严格的隔离 CPU资源控制 — CPU资源按照百分比进行使用和隔离(Cgroup的cpu.shares, hadoop 2.2.0以后支持) — YARN采用了CGroups对CPU资源进行隔离，需要注意的是，CGroups采用的是CPU资源下限控制法，该方法是一种公平共享的方法， — 未来：限制每个container的CPU资源使用上限(Cgroup的cpu.cfs_quota_us和cpu.cfs_period_us) — 未来：限制yarn使用的CPU上限 IO资源控制 — IO资源分为磁盘IO和网络IO两种 — YARN仿照“虚拟cpu”的概念，引入了“虚拟磁盘”（vdisk） 第三十二页，共六十九页。 Yarn资源分配案例 ResourceManager将资源分配给应用程序的ApplicationMaster，比如将资源node1，1CPU, 2GB分配给appMaster1，而appMaster1则会进一步与node1上的NodeManager通信，启动一个占用1CPU和2GB内存的任务， 第三十三页，共六十九页。 YARN中内存资源的调度和隔离 基于以上考虑，YARN允许用户配置每个节点上可用的物理内存资源，注意，这里是“可用的”，因为一个节点上的内存会被若干个服务共享，比如一部分给YARN，一部分给HDFS，一部分给HBase等，YARN配置的只是自己可以使用的，配置参数如下： （1）yarn.nodemanager.resource.memory-mb 表示该节点上YARN可使用的物理内存总量，默认是8192（MB），注意，如果你的节点内存资源不够8GB，则需要调减小这个值，而YARN不会智能的探测节点的物理内存总量。 （2）yarn.nodemanager.vmem-pmem-ratio 任务每使用1MB物理内存，最多可使用虚拟内存量，默认是2.1。 （3） yarn.nodemanager.pmem-check-enabled 是否启动一个线程检查每个任务正使用的物理内存量，如果任务超出分配值，则直接将其杀掉，默认是true。 （4） yarn.nodemanager.vmem-check-enabled 是否启动一个线程检查每个任务正使用的虚拟内存量，如果任务超出分配值，则直接将其杀掉，默认是true。 （5）yarn.scheduler.minimum-allocation-mb 单个任务可申请的最少物理内存量，默认是1024（MB），如果一个任务申请的物理内存量少于该值，则该对应的值改为这个数。 （6）yarn.scheduler.maximum-allocation-mb 单个任务可申请的最多物理内存量，默认是8192（MB）。 第三十四页，共六十九页。 YARN中CPU资源的调度和隔离 目前的CPU被划分成虚拟CPU（CPU virtual Core），这里的虚拟CPU是YARN自己引入的概念，初衷是，考虑到不同节点的CPU性能可能不同，每个CPU具有的计算能力也是不一样的，比如某个物理CPU的计算能力可能是另外一个物理CPU的2倍，这时候，你可以通过为第一个物理CPU多配置几个虚拟CPU弥补这种差异。用户提交作业时，可以指定每个任务需要的虚拟CPU个数。在YARN中，CPU相关配置参数如下： （1）yarn.nodemanager.resource.cpu-vcores 表示该节点上YARN可使用的虚拟CPU个数，默认是8，注意，目前推荐将该值设值为与物理CPU核数数目相同。如果你的节点CPU核数不够8个，则需要调减小