您现在的位置是:首页 > 正文

分布式计算框架

2024-02-01 06:49:12阅读 2

1、产生背景

Web2.0时代,数据爆炸式、指数级增长,大数据分布式计算需求频繁

通过单机内存扩展来增强计算能力,已经无法承载大规模数据量的计算

分布式计算开发和维护的复杂与多变,对程序员要求太高

Google公司为了解决其搜索引擎中大规模网页数据的并行化处理,研究提出的一种面向大规模数据处理的并行计算模型和方法,称为MapReduce。

2003年和2004年,Google公司在国际会议上分别发表了两篇关于Google分布式文件系统GFS和MapReduce的论文,公布了Google的GFS和MapReduce的基本原理和主要设计思想。

2004年,Cutting和同为程序员出身的Mike Cafarella决定开发一款可以代替当时的主流搜索产品的开源搜索引擎,这个项目被命名为Nutch。2005年初,Nutch的开发人员在Nutch上实现了一个MapReduce系统,到年中,Nutch的所有主要算法均完成移植,用MapReduce和NDFS来运行。在2006年2月,开发人员将NDFS和MapReduce移出Nutch形成Lucene的一个子项目,称为Hadoop。Hadoop中MapReduce的实现正是基于Google的论文的MapReduce的开源实现。

2、MapReduce是什么

MapReduce是一种编程模型,是面向大数据并行处理的计算模型、框架和平台。

MapReduce是一个基于集群的高性能并行计算平台。可以使用普通服务器构成一个包含数十、数百、甚至数千个节点的分布式和并行计算集群。

MapReduce是一个并行计算与运行的软件框架。它提供了一个庞大但设计精良的并行计算软件框架,能自动划分计算数据和计算任务,自动完成计算任务的并行化处理,实现在集群节点上自动分配和执行任务并收集计算结果,将数据分布存储、数据通信、容错处理等并行计算涉及到的很多系统底层的复杂实现细节交由系统负责处理,大大减少了软件开发人员的负担。

MapReduce是一个并行程序设计模型与方法。它提供了一种简便的并行程序设计方法,用Map和Reduce两个函数编程实现基本的并行计算任务,提供了抽象的操作和并行编程接口,以简单方便地完成大规模数据的编程和计算处理。

3、基本特点

分布可靠,对数据集的操作分发给集群中的多个节点实现可靠性,每个节点周期性返回它完成的任务和最新的状态

封装了实现细节,基于框架API编程,面向业务展开分布式编码

提供跨语言编程的能力

4、企业应用

各大运营商

中大型互联网公司,如BAT、京东、乐视、美团等

金融银行保险类公司

各大云平台的分布式计算框架

其他本地系统无法承载计算能力的应用

MapReduce运行流程

1、MapReduce的主要功能

1.1数据划分和计算任务调度

系统自动将一个作业(Job)待处理的大数据划分为很多个数据块,每个数据块对应于一个计算任务(Task),并自动调度计算节点来处理相应的数据块。作业和任务调度功能主要负责分配和调度计算节点(Map节点或Reduce节点),同时负责监控这些节点的执行状态,并负责Map节点执行的同步控制。

1.2数据/代码互相定位

为了减少数据通信,一个基本的原则是本地化数据处理,即一个计算节点尽可能处理其本地磁盘上所分布存储的数据,这实现了代码向数据的迁移;当无法进行这种本地化数据处理时,再寻找其他可用节点并将数据从网络上传送给该节点(数据向代码迁移),但尽可能从数据所在的本地机架上寻找可用节点以减少通信延迟。

1.3系统优化

为了减少数据通信开销,中间结果数据进入Reduce节点前会进行一定的合并处理;一个Reduce节点所处理的数据可能会来自多个Map节点,为了避免Reduce计算阶段发生数据处理不平衡,Map节点输出的中间结果需使用一定的策略进行适当的划分处理,保证相关性数据发送到同一个Reduce节点;此外,系统还进行一些性能优化处理,如对最慢的计算任务采用多备份执行、选最快完成者作为结果。

1.4出错检测和恢复

以低端的商用服务器构成的大规模MapReduce计算集群中,节点硬件(主机、磁盘、内存等)出错和软件出错是常态,因此MapReduce需要能检测并隔离出错节点,并调度分配新的节点接管出错节点的计算任务。同时系统还将维护数据存储的可靠性,用多备份冗余存储机制提高数据存储的可靠性,并能及时检测和恢复出错的数据。

2、MapReduce的运行流程

2.1运行流程

由上图可以看到MapReduce执行下来主要包含这样几个步骤:

1) 首先正式提交作业代码,并对输入数据源进行切片

2) master调度worker执行map任务

3) worker当中的map任务读取输入源切片

4) worker执行map任务,将任务输出保存在本地

5) master调度worker执行reduce任务,reduce worker读取map任务的输出文件

6) 执行reduce任务,将任务输出保存到HDFS

2.2 运行流程详解

以WordCount为例

给定任意的HDFS的输入目录,其内部数据为“f a c d e……”等用空格字符分隔的字符串,通过使用MapReduce计算框架来统计以空格分隔的每个单词出现的频率,输出结果如<a,10>,<b,20>,<c,2>形式的结果到HDFS目录中。

WordCount运行图解

MapReduce将作业的整个运行过程分为两个阶段:Map阶段Reduce阶段。

Map阶段由一定数量的Map Task组成,流程如下:

输入数据格式解析:InputFormat

输入数据处理:Mapper

数据分区:Partitioner

数据按照key排序

本地规约:Combiner(相当于local reducer,可选)

将任务输出保存在本地

Reduce阶段由一定数量的Reduce Task组成,流程如下:

数据远程拷贝

数据按照key排序和文件合并merge

数据处理:Reducer

数据输出格式:OutputFormat

通常我们把从Mapper阶段输出数据到Reduce阶段的reduce计算之间的过程称之为shuffle。

MapReduce Java API应用

1、MapReduce开发流程

搭建开发环境,参考HDFS环境搭建,基本一致

基于MapReduce框架编写代码,Map、Reduce、Driver三部分组成。

编译打包,将源代码打成的包和依赖jar包打成一个包

上传至运行环境

运行hadoop jar命令,现已由yarn jar替代,建议使用新命令提交执行

具体提交命令为:

yarn jar testhdfs-jar-with-dependencies.jar com.tianliangedu.driver.WordCount /tmp/tianliangedu/input /tmp/tianliangedu/output3

通过yarn web ui查看执行过程

查看执行结果

2、WordCount代码实现

2.1 Map类编写

Mapper:是MapReduce计算框架中Map过程的封装

Text:Hadoop对Java String类的封装,适用于Hadoop对文本字符串的处理

IntWritable:Hadoop对Java Integer类的封装,适用于Hadoop整型的处理

Context:Hadoop环境基于上下文的操作对象,如Map中key/value的输出、分布式缓存数据、分布式参数传递等

StringTokenizer:对String对象字符串的操作类,做基于空白字符的切分操作工具类

源码编写实现:

package com.tianliangedu.mapper;

import java.io.IOException;

import java.util.StringTokenizer;

import org.apache.hadoop.io.IntWritable;

import org.apache.hadoop.io.Text;

import org.apache.hadoop.mapreduce.Mapper;

public class MyTokenizerMapper extends

        Mapper<Object, Text, Text, IntWritable> {
    // 暂存每个传过来的词频计数,均为1,省掉重复申请空间

    private final static IntWritable one = new IntWritable(1);

    // 暂存每个传过来的词的值,省掉重复申请空间

    private Text word = new Text();

    // 核心map方法的具体实现,逐个<key,value>对去处理

    public void map(Object key, Text value, Context context)

            throws IOException, InterruptedException {
        // 用每行的字符串值初始化StringTokenizer

        StringTokenizer itr = new StringTokenizer(value.toString());

        // 循环取得每个空白符分隔出来的每个元素

        while (itr.hasMoreTokens()) {
            // 将取得出的每个元素放到word Text对象中

            word.set(itr.nextToken());

            // 通过context对象,将map的输出逐个输出

            context.write(word, one);

        }

    }

}

2.2 Reduce类编写

Reducer:是MapReduce计算框架中Reduce过程的封装

源码编写实现:

package com.tianliangedu.reducer;

import java.io.IOException;

import org.apache.hadoop.io.IntWritable;

import org.apache.hadoop.io.Text;

import org.apache.hadoop.mapreduce.Reducer;

//reduce类,实现reduce函数

public class IntSumReducer extends

                Reducer<Text, IntWritable, Text, IntWritable> {
         private IntWritable result = new IntWritable();

         //核心reduce方法的具体实现,逐个<key,List(v1,v2)>去处理

         public void reduce(Text key, Iterable<IntWritable> values,

                      Context context) throws IOException, InterruptedException {
                //暂存每个key组中计算总和

                int sum = 0;

                //加强型for,依次获取迭代器中的每个元素值,即为一个一个的词频数值

                for (IntWritable val : values) {
                      //将key组中的每个词频数值sum到一起

                      sum += val.get();

                }

                //将该key组sum完成的值放到result IntWritable中,使可以序列化输出

                result.set(sum);

                //将计算结果逐条输出

                context.write(key, result);

         }

   }

2.3 Driver类编写

Configuration:与HDFS中的Configuration一致,负责参数的加载和传递

Job:作业,是对一轮MapReduce任务的抽象,即一个MapReduce的执行全过程的管理类

FileInputFormat:指定输入数据的工具类,用于指定任务的输入数据路径

FileOutputFormat:指定输出数据的工具类,用于指定任务的输出数据路径

源码编写实现:

package com.tianliangedu.driver;

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.fs.Path;

import org.apache.hadoop.io.IntWritable;

import org.apache.hadoop.io.Text;

import org.apache.hadoop.mapreduce.Job;

import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;

import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

import com.tianliangedu.mapper.MyTokenizerMapper;

import com.tianliangedu.reducer.IntSumReducer;

public class WordCountDriver {
   // 启动mr的driver方法

   public static void main(String[] args) throws Exception {
       // 得到集群配置参数

       Configuration conf = new Configuration();

       // 设置到本次的job实例中

       Job job = Job.getInstance(conf, "天亮WordCount");

       // 指定本次执行的主类是WordCount

      job.setJarByClass(WordCountDriver.class);

       // 指定map类

      job.setMapperClass(MyTokenizerMapper.class);

       // 指定combiner类,要么不指定,如果指定,一般与reducer类相同

      job.setCombinerClass(IntSumReducer.class);

       // 指定reducer类

      job.setReducerClass(IntSumReducer.class);

       // 指定job输出的key和value的类型,如果map和reduce输出类型不完全相同,需要重新设置map的output的key和value的class类型

      job.setOutputKeyClass(Text.class);

      job.setOutputValueClass(IntWritable.class);

       // 指定输入数据的路径

      FileInputFormat.addInputPath(job, new Path(args[0]));

       // 指定输出路径,并要求该输出路径一定是不存在的

      FileOutputFormat.setOutputPath(job, new Path(args[1]));

       // 指定job执行模式,等待任务执行完成后,提交任务的客户端才会退出!

      System.exit(job.waitForCompletion(true) ? 0 : 1);

   }

}

2.4本地模拟分布式计算环境运行mapreduce

    鉴于远程运行进行代码测试的复杂性,以及其它新框架均开始支持本地local环境模拟分布式计算运行, 故mapreduce从2.x开始也已经支持本地环境

   具体做法请参见辅助资料集” 06-本地local环境模拟mapreduce并行计算的操作步骤”。

2.5 Maven打包

使用Maven命令,基于配置的Maven插件实现代码打包。

2.6 上传到运行环境

使用rz命令将打好的运行包上传到集群环境中。

2.7 运行WordCount程序

具体提交命令为:

yarn jar testhdfs-jar-with-dependencies.jar com.tianliangedu.driver.WordCount /tmp/tianliangedu/input /tmp/tianliangedu/output3

2.8 查看执行过程

Web访问地址为:http://cluster1.hadoop:8088/ui2/#/yarn-apps/apps

2.9 查看执行结果

3、标准代码实现

将之前的三个类,合并成一个类来处理

import java.io.IOException;

import java.util.StringTokenizer;

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.fs.Path;

import org.apache.hadoop.io.IntWritable;

import org.apache.hadoop.io.Text;

import org.apache.hadoop.mapreduce.Job;

import org.apache.hadoop.mapreduce.Mapper;

import org.apache.hadoop.mapreduce.Reducer;

import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;

import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

//启动mr的driver类

public class WordCountDriver {
       //map类,实现map函数

       public static class MyTokenizerMapper extends

                    Mapper<Object, Text, Text, IntWritable> {
             //暂存每个传过来的词频计数,均为1,省掉重复申请空间

             private final static IntWritable one = new IntWritable(1);

             //暂存每个传过来的词的值,省掉重复申请空间

             private Text word = new Text();

             //核心map方法的具体实现,逐个<key,value>对去处理

             public void map(Object key, Text value, Context context)

                          throws IOException, InterruptedException {
                    //用每行的字符串值初始化StringTokenizer

                    StringTokenizer itr = new StringTokenizer(value.toString());

                    //循环取得每个空白符分隔出来的每个元素

                    while (itr.hasMoreTokens()) {
                          //将取得出的每个元素放到word Text对象中

                          word.set(itr.nextToken());

                          //通过context对象,将map的输出逐个输出

                          context.write(word, one);

                    }

             }

       }

       //reduce类,实现reduce函数

       public static class IntSumReducer extends

                    Reducer<Text, IntWritable, Text, IntWritable> {
             private IntWritable result = new IntWritable();

             //核心reduce方法的具体实现,逐个<key,List(v1,v2)>去处理

             public void reduce(Text key, Iterable<IntWritable> values,

                          Context context) throws IOException, InterruptedException {
                    //暂存每个key组中计算总和

                    int sum = 0;

                    //加强型for,依次获取迭代器中的每个元素值,即为一个一个的词频数值

                    for (IntWritable val : values) {
                          //将key组中的每个词频数值sum到一起

                          sum += val.get();

                    }

                    //将该key组sum完成的值放到result IntWritable中,使可以序列化输出

                    result.set(sum);

                    //将计算结果逐条输出

                    context.write(key, result);

             }

       }

       //启动mr的driver方法

       public static void main(String[] args) throws Exception {
             //得到集群配置参数

             Configuration conf = new Configuration();

             //设置到本次的job实例中

             Job job = Job.getInstance(conf, "天亮WordCount");

             //通过指定相关字节码对象,找到所属的主jar包

             job.setJarByClass(WordCountDriver.class);

             //指定map类

             job.setMapperClass(MyTokenizerMapper.class);

             //指定combiner类,要么不指定,如果指定,一般与reducer类相同

             job.setCombinerClass(IntSumReducer.class);

             //指定reducer类

             job.setReducerClass(IntSumReducer.class);

             //指定job输出的key和value的类型,如果map和reduce输出类型不完全相同,需要重新设置map的output的key和value的class类型

             job.setOutputKeyClass(Text.class);

             job.setOutputValueClass(IntWritable.class);

             //指定输入数据的路径

             FileInputFormat.addInputPath(job, new Path(args[0]));

             //指定输出路径,并要求该输出路径一定是不存在的

             FileOutputFormat.setOutputPath(job, new Path(args[1]));

             //指定job执行模式,等待任务执行完成后,提交任务的客户端才会退出!

             System.exit(job.waitForCompletion(true) ? 0 : 1);

       }

}

4、mapreduce作业运行的依赖项

提交job作业运行的linux帐户,必须在hdfs家目录中存在相应的家目录。

原因分析:

作业运行过程中,会在当前linux帐户所属的hdfs家目录创建相应的临时文件夹和相应的临时文件,故必须有该先决条件。

操作步骤

登陆帐户所在的linux主机当中,添加学员所属的班级组。

将学员帐户,添加到该班级组当中。

通过hdfs管理员帐户,为该学员创建hdfs家目录,并修改家目录的owner权限归该学员所有。

添加组:groupadd job008

改变用户所属组:usermod –G job008 ${user_name}

用hdfs帐户在hdfs中创建家目录:hdfs dfs –mkdir /user/${user_name}

将新创建的hdfs学员家目录的owner权限赋给所属学员:

Hdfs dfs –chown –R ${user_name} /user/${user_name}

MapReduce Shell应用

1、MapReduce的二级命令

mapred称为一级命令,直接输入mapred回车,即可查看二级命令:

2、MapReduce的三级命令

输入一级命令mapred后,再任意输入一个二级命令,即可查看三级命令:

3、MapReduce shell应用

查看当前正在执行的job任务

先提交一个WordCount任务,然后使用mapred job -list查看任务列表

终止(kill)一个任务的执行

由于某种原因,要立即终止某任务的执行,则使用mapred job -kill job-id。

构造场景:先提交一个WordCount job,然后通过kill job-id来终止任务:

查看一个job的日志

使用mapred shell命令,通过job-id可以查看job的工作日志。

命令格式为:mapred job -logs job-id:

MapReduce技术特征

1、向“外”横向扩展,而非向“上”纵向扩展

集群的构建完全选用价格便宜、易于扩展的低端商用服务器,而非价格昂贵不易扩展的商用服务

大规模数据处理和大规模数据存储的需要,讲求集群综合能力,而非单台机器处理能力,横向增加机器节点数据量

2、失效被认为是常态

使用大量普通服务器,节点硬件和软件出错是常态

具备多种有效的错误检测和恢复机制,在某个计算节点失效后会自动转移到别的计算节点。某个任务节点失败后其他节点能够无缝接管失效节点的计算任务

当失效节点恢复后自动无缝加入集群,不需要管理员人工进行系统配置

3、移动计算,把处理向数据迁移(数据本地性)

采用代码/数据互定位的功能,计算和数据在同一个机器节点或者是同一个机架中,发挥数据本地化特点

可避免跨机器节点或是机架传输数据,提高运行效率

4、顺序处理数据、避免随机访问数据

磁盘的顺序访问远比随机访问快得多,因此MapReduce设计为面向顺序式大规模数据的磁盘访问处理

利用集群中的大量数据存储节点同时访问数据,实现面向大数据集批处理的高吞吐量的并行处理

5、推测执行

一个作业由若干个Map任务和Reduce任务构成,整个作业完成的时间取决于最慢的任务的完成时间。由于节点硬件、软件问题,某些任务可能运行很慢

采用推测执行机制,发现某个任务的运行速度远低于任务平均速度,会为慢的任务启动一个备份任务,同时运行。哪个先运行完,采用哪个结果。

6、平滑无缝的可扩展性

可弹性的增加或减少集群计算节点来调节计算能力

计算的性能随着节点数的增加保持接近线性程度的增长

7、为应用开发隐藏系统底层细节

并行编程有很多困难,需要考虑多线程中复杂繁琐的细节,诸如分布式存储管理、数据分发、数据通信和同步、计算结果收集等细节问题。

MapReduce提供了一种抽象机制将程序员与系统层细节隔离开,程序员只需关注业务,其他具体执行交由框架处理即可。
 

网站文章

  • 第三十八章 立方体贴图和GLSL总结

    第三十八章 立方体贴图和GLSL总结

    2024-02-01 06:49:05
  • Linux 安装Apache 记录

    Linux 安装Apache 记录

    linux下Apache源码编译安装1.下载并安装APR  http://apr.apache.org/wget -c http://mirrors.hust.edu.cn/apache//apr/apr-1.6.2.tar.bz2执行解压命令 tar -xjvf 文件名 解压后切换到目录执行命令配置 :./configure --prefix=/usr/l

    2024-02-01 06:48:35
  • Eclipse RCP入门(创建一个日期选择器)

    直接上代码。 [code=&quot;java&quot;]package org.autumn.rcp.learn; import java.util.Calendar; import java.u...

    2024-02-01 06:47:56
  • C++描述 LeetCode 1004. 最大连续1的个数 III

    C++描述 LeetCode 1004. 最大连续1的个数 III   大家好,我叫亓官劼(qí guān jié ),在CSDN中记录学习的点滴历程,时光荏苒,未来可期,加油~博主目前仅在CSDN中...

    2024-02-01 06:47:50
  • 【实战】阿里云https证书申请与部署

    【实战】阿里云https证书申请与部署

    文章目录阿里云https证书申请与部署1.证书申请2.证书部署 阿里云https证书申请与部署 1.证书申请 登录阿里云官网:https://www.aliyun.com/ 搜索ssl,点进第一个搜索结果 滑到底 选择免费证书,点击购买 再次点击立即购买 去支付 确认支付 支付成功,返回证书控制台 未签发栏下点击证书申请 填写申请需要的相关内容,点击下一步: 进行信息验证(上面...

    2024-02-01 06:47:43
  • 为什么要反弹shell

    我也不知道这个比喻恰不恰当:首先是一个城池,我想要控制这个城,就要控制这个城的城主,我手里有控制当前城主的把柄(shell)但是我要和城主建立起联系才可以控制他,城外有一座大墙(防火墙),会严格检查入...

    2024-02-01 06:47:12
  • 0202性能分析-索引-MySQL

    0202性能分析-索引-MySQL

    0202性能分析-索引-MySQL

    2024-02-01 06:47:06
  • 傅里叶变换,其物理意义是什么?(转)

    1、为什么要进行傅里叶变换,其物理意义是什么?傅立叶变换是数字信号处理领域一种很重要的算法。要知道傅立叶变换算法的意义,首先要了解傅立叶原理的意义。傅立叶原理表明:任何连续测量的时序或信号,都可以表示为不同频率的正弦波信号的无限叠加。而根据该原理创立的傅立叶变换算法利用直接测量到的原始信号,以累加方式来计算该信号中不同正弦波信号的频率、振幅和相位。和傅立叶变换算法对应的是反傅立

    2024-02-01 06:46:58
  • (python)诗词排版(横排)

    完成了数据输入,其中poem存储了一首诗(无标点),n可能是5或者7,代表poem是五言诗或者七言诗。此代码可以帮助新手更加直观地认识python的作用。ju 代表的是本诗一共有多少句。利用for循环进行排版。

    2024-02-01 06:46:51
  • 轻松模拟数据库

    测试驱动的开发真是太好了! 在组织中建立它之后,您将开始: 极大地提高您的质量(事情不常发生) 大大改善您的流程(事情可以更轻松地更改) 极大地改善您的开发人员氛围(事情更有趣) 进行正确的测试驱动开发的重要性是找到要覆盖的代码的良好比例。 通过自动单元测试 通过自动集成测试 通过手动“烟雾测试” 通过手动的“验收测试” 一点也不 找到该比例可...

    2024-02-01 06:46:20