大数据，机器学习，人工智能大数据 爬虫Python AI Sql玩转大数据

Hadoop RPC机制详解

2019-08-29  本文已影响0人  SmallBird_

网络通信模块是分布式系统中最底层的模块,他直接支撑了上层分布式环境下复杂的进程间通信逻辑,是所有分布式系统的基础。远程过程调用(RPC)是一种常用的分布式网络通信协议，他允许运行于一台计算机的程序调用另一台计算机的子程序，同时将网络的通信细节隐藏起来，使得用户无需额外地为这个交互作用编程，大大的简化了分布式程序开发

作为一个分布式文件系统，Hadoop实现了自己的RPC通信协议，他是上层多个分布式子系统(MapReduce,Yarn,HDFS等)公用的网络通信模块

目录

一. RPC通信模型
二. Hadoop RPC的特点概述
三. RPC总体架构
四. Hadoop RPC使用方法
五. Hadoop RPC类详解
六. Hadoop RPC参数调优

一. RPC通信模型

RPC是一种提供网络从远程计算机上请求服务,但不需要了解底层网络技术的协议

RPC通常采用客户机/服务器模型。请求程序是一个客户机，而服务提供程序则是一个服务器。一个典型的RPC框架，主要包括以下几个部分 :

一个RPC请求从发送到获取处理结果，所经历的步骤 :

  1. 客户程序以本地方式调用系统产生的Stub程序
  2. 该Stub程序将函数调用信息按照网络通信模块的要求封装成消息包，并交给通信模块发送给远程服务器端
  3. 远程服务器端接收此消息后，将此消息发送给相应的Stub程序
  4. Stub程序拆封消息，形成被调过程要求的形式，并调用对应函数
  5. 被调用函数按照所获参数执行，并将结果返回给Stub程序
  6. Stub程序将此结果封装成消息，通过网络通信模块逐级地传送给客户程序

二. Hadoop RPC的特点概述

RPC实际上时分布式计算中C/S(Client/Server)模型的一个应用案例

对于Hadoop而言,RPC具有以下几个特点 :

三. RPC总体架构

Hadoop RPC主要分为四个部分，分别是序列化层、函数调用层、网络传输层和服务器端处理框架

具体实现机制 ：

Hadoop RPC总体架构

Hadoop RPC总体架构自下而上可分为两层，第一层是一个基于Java NIO实现的客户机 - 服务器通信模型。其中，客户端将用户的调用方法及其参数封装成请求包后发送到服务器端。服务器端收到请求包后，经解包、调用参数、打包结果等一系列操作后，将结果返回给客户端。为了增强Server端的扩展性和并发处理能力，Hadoop RPC采用了基于事件驱动的Reactor设计模式，在具体实现时，用到了JDK提供的各种功能包，主要包括java.nio、java.lang.reflect(反射机制和动态代理)、java.net(网络编程)等。第二层是供更上层程序直接调用的RPC接口，这些接口底层即为C/S通信模型

四. Hadoop RPC使用方法

Hadoop RPC对外主要提供了两种接口(见类org.apache.hadoop.ipc.RPC)，分别是 ：

使用Hadoop RPC分为以下4个步骤 ：

(1) 定义RPC协议

RPC协议是客户端和服务器端之间的通信接口，它定义了服务器端对外提供的服务接口。如下所示，我们定义一个ClientProtocol通信接口，声明了echo和add两个方法。Hadoop中所有自定义RPC接口都需要继承VersionedProtocol接口，它描述了协议的版本信息

interface ClientProtocol extends org.apache.hadoop.ipc.VersionedProtocol {
    public static final long versionID = 1L;
    String echo(String value) throws IOException;
    int add(int v1 , int v2) throws IOException;
}
(2) 实现RPC协议

Hadoop RPC协议通常是一个Java接口，用户需要实现该接口

public static class ClientProtocolImpl implements ClientProtocol {
    //重载的方法，用于获取自定义的协议版本号
    public long getProtocolVersion(String protocol, long clientVersion) {
        return ClientProtocol.versionID;
    }
    //重载的方法，用于获取协议签名
    public ProtocolSignature getProtocolSignature(String protocol, long clientVersion, inthashcode) {
        return new ProtocolSignature(ClientProtocol.versionID, null);
    }
    public String echo(String value) throws IOException {
        return value;
    }
    public int add(int v1, int v2) throws IOException {
        return v1 + v2;
    }
}
(3) 构造并启动RPC Server

直接使用静态类Builder构造一个RPC Server，并调用函数start()启动该Server

Server server = new RPC.Builder(conf).setProtocol(ClientProtocol.class)
    .setInstance(new ClientProtocolImpl()).setBindAddress(ADDRESS).setPort(0)
    .setNumHandlers(5).build();
server.start();
// BindAddress : 服务器的HOST
// Port ： 监听端口号，0代表系统随机选择一个端口号
// NumHandlers : 服务端处理请求的线程数目
(4) 构造RPC Client并发送RPC请求

使用静态方法getProxy构造客户端代理对象

proxy = (ClientProtocol)RPC.getProxy(
    ClientProtocol.class, ClientProtocol.versionID, addr, conf);
int result = proxy.add(5, 6);
String echoResult = proxy.echo("result");

五. Hadoop RPC类详解

Hadoop RPC主要有三个大类组成，即RPC、Client、Server，分别对应对外编程接口、客户端实现、服务器实现

ipc.RPC实现

RPC类实际上是对底层客户机 - 服务器网络模型的封装，以便为程序员提供一套更方便简洁的编程接口

RPC类定义了一系列构建和销毁RPC客户端的方法，构建方法分为getProxy和waitForProxy两类，销毁方只有一个，即为stopProxy。RPC服务器的构建则由静态内部类RPC.Builder，该类提供了一些方法共用户设置一些基本的参数，设置完成参数，可调用build()完成一个服务器对象的构建，调用start()方法启动该服务器

ipc.Client

Client主要完成的功能是发送远程过程调用信息并接收执行结果。

Client内部有两个重要的内部类，分别是 ：

当调用Call函数执行某个远程方法时，Client端需要及进行以下四个步骤 ：

  1. 创建一个Connection对象，并将远程方法调用信息封装成Call对象，放到Connection对象中的哈希表中
  2. 调用Connection类中的sendRpcRequest()方法将当前Call对象发送给Server端
  3. Server端处理完RPC请求后，将结果通过网络返回给Client端，Client端通过receiveRpcResponse()函数获取结果
  4. Client检查结果处理状态，并将对应Call对象从哈希表中删除
Hadoop RPC Client处理过程
ipc.Server

Hadoop采用了Master/Slave结构，其中Master是整个系统的单点，这是制约系统性能和可扩展性的最关键因素之一

ipc.Server采用了很多提高并发处理能力的技术，主要包括线程池、事件驱动和Reactor设计模式等

Reactor是并发编程中一种基于事件驱动的设计模式，它具有以下两个特点 ：

ipc.Server实际上实现了一个典型的Reactor设计模式，典型的Reactor设计模式中主要包括以下几个角色 ：

Hadoop RPC Server处理过程
ipc.Server处理过程被划分成3个阶段 ： 接收请求、处理请求和返回结果

接收请求

该阶段主要任务是接收来自各个客户端的RPC请求，并将它们封装成固定的格式(Call类)放到一个共享队列(CallQueue)中,该阶段内部又分为建立连接和接收请求两个子阶段，分别由Listener和Reader两种线程完成

整个Server只有一个Listener线程，统一负责监听来自客户端的连接请求，一旦由新的请求到达，它会采用轮询的方式从线程池中选择一个Reader线程进行处理，而Reader线程可同时存在多个，它们分别负责接收一部分客户端连接的RPC请求，至于每个Reader线程负责哪些客户端连接，完全由Listener决定，当前Listener只是采用了简单的轮询分配机制

Listener和Reader线程内部各自包含一个Selector对象，分别用于监听SelectionKey.OP_ACCEPT和SelectionKey.OP_READ事件。对于Listener线程，主循环的实现体是监听是否有新的连接请求到达，并采用轮询策略选择一个Reader线程处理新连接；对于Reader线程，主循环的实现体是监听客户端连接中是否有新的RPC请求到达，并将新的RPC请求封装成Call对象，放到共享队列中

处理请求

该阶段主要任务是从共享队列中获取call对象，执行对应的函数调用，并将结果返回给客户端，这全部由Handler线程完成

Server端可同时存在多个Handler线程，它们并行从共享队列中读取Call对象，经执行对应的函数调用后，将尝试着直接将结果返回给对应的客户端。但考虑到某些函数调用返回结果很大或者网络速度很慢，可能难以将结果一次性发送给客户端，此时Handler将尝试着将后续发送任务交给Responder线程

返回结果

Server仅存一个Responder线程，它的内部包含一个Selector对象，用于监听SelectionKey.OP_WRITE事件。当Handler没能将结果一次性发送到客户端时，会向该Selector对象注册SelectionKey.OP_WRITE事件，进而由Responder线程采用异步方式继续发送未发送完成的结果

六. Hadoop RPC参数调优

HadoopRPC对外提供一些可配置参数，以便于用户根据业务需求和硬件环境对其进行调优 ：

我每天会写文章记录大数据技术从入门到精通,可以关注我的公众号"SmallBird技术分享",我们一起学习分享,并且回复'分享'会有大数据资源惊喜等着你~

上一篇 下一篇

猜你喜欢

热点阅读