极简建站,电影网站开发文档,网站如何建设手机版,葫芦岛建设厅网站摘自: http://blog.csdn.net/mindfloating/article/details/39473807 近几年的项目中#xff0c;服务化和微服务化渐渐成为中大型分布式系统架构的主流方式#xff0c;而 RPC 在其中扮演着关键的作用。在平时的日常开发中我们都在隐式或显式的使用 RPC#xff0c;一些刚入行…摘自: http://blog.csdn.net/mindfloating/article/details/39473807 近几年的项目中服务化和微服务化渐渐成为中大型分布式系统架构的主流方式而 RPC 在其中扮演着关键的作用。在平时的日常开发中我们都在隐式或显式的使用 RPC一些刚入行的程序员会感觉 RPC 比较神秘而一些有多年使用 RPC 经验的程序员虽然使用经验丰富但有些对其原理也不甚了了。缺乏对原理层面的理解往往也会造成开发中的一些误用。 本文分上下两篇《浅出篇》和《深入篇》其目标就是想尝试深入浅出的分析下 RPC 本质我总是这么认为理解了本质才能更好的应用。 RPC 是什么 RPC 的全称是 Remote Procedure Call 是一种进程间通信方式。它允许程序调用另一个地址空间通常是共享网络的另一台机器上的过程或函数而不用程序员显式编码这个远程调用的细节。即程序员无论是调用本地的还是远程的本质上编写的调用代码基本相同。 RPC 起源 RPC 这个概念术语在上世纪 80 年代由 Bruce Jay Nelson 提出。这里我们追溯下当初开发 RPC 的原动机是什么在 Nelson 的论文 Implementing Remote Procedure Calls 中他提到了几点 简单RPC 概念的语义十分清晰和简单这样建立分布式计算就更容易。高效过程调用看起来十分简单而且高效。通用在单机计算中过程往往是不同算法部分间最重要的通信机制。 通俗一点说就是一般程序员对于本地的过程调用很熟悉那么我们把 RPC 作成和本地调用完全类似那么就更容易被接受使用起来毫无障碍。Nelson 的论文发表于 30 年前其观点今天看来确实高瞻远瞩今天我们使用的 RPC 框架基本就是按这个目标来实现的。 RPC 结构 Nelson 的论文中指出实现 RPC 的程序包括 5 个部分UserUser-stubRPCRuntimeServer-stubServer 这 5 个部分的关系如下图所示这里 user 就是 client 端当 user 想发起一个远程调用时它实际是通过本地调用 user-stub。user-stub 负责将调用的接口、方法和参数通过约定的协议规范进行编码并通过本地的 RPCRuntime 实例传输到远端的实例。远端 RPCRuntime 实例收到请求后交给 server-stub 进行解码后发起本地端调用调用结果再返回给 user 端。 RPC 实现 Nelson 论文中给出的这个实现结构也成为后来大家参考的标准范本。大约 10 年前我最早接触分布式计算时使用的 CORBAR 实现结构基本与此类似。CORBAR 为了解决异构平台的 RPC使用了 IDLInterface Definition Language来定义远程接口并将其映射到特定的平台语言中。后来大部分的跨语言平台 RPC 基本都采用了此类方式比如我们熟悉的 Web ServiceSOAP近年开源的 Thrift 等。他们大部分都通过 IDL 定义并提供工具来映射生成不同语言平台的 user-stub 和 server-stub并通过框架库来提供 RPCRuntime 的支持。不过貌似每个不同的 RPC 框架都定义了各自不同的 IDL 格式导致程序员的学习成本进一步上升苦逼啊Web Service 尝试建立业界标准无赖标准规范复杂而效率偏低否则 Thrift 等更高效的 RPC 框架就没必要出现了。 IDL 是为了跨平台语言实现 RPC 不得已的选择要解决更广泛的问题自然导致了更复杂的方案。而对于同一平台内的 RPC 而言显然没必要搞个中间语言出来例如 java 原生的 RMI这样对于 java 程序员而言显得更直接简单降低使用的学习成本。目前市面上提供的 RPC 框架已经可算是五花八门百家争鸣了。需要根据实际使用场景谨慎选型需要考虑的选型因素我觉得至少包括下面几点 性能指标是否需要跨语言平台内网开放还是公网开放开源 RPC 框架本身的质量、社区活跃度 总结 《浅出篇》大概就到这里结束了《深入篇》会具体深入讲解一个 RPC 框架需要实现哪里基本功能达到什么目标并以在 java 平台上去具体实现一个 RPC 框架为例分析其需要考虑的实现因素。摘自: http://blog.csdn.net/mindfloating/article/details/39474123#comments 《深入篇》我们主要围绕 RPC 的功能目标和实现考量去展开一个基本的 RPC 框架应该提供什么功能满足什么要求以及如何去实现它 RPC 功能目标 RPC 的主要功能目标是让构建分布式计算应用更容易在提供强大的远程调用能力时不损失本地调用的语义简洁性。为实现该目标RPC 框架需提供一种透明调用机制让使用者不必显式的区分本地调用和远程调用在前文《浅出篇》中给出了一种实现结构基于 stub 的结构来实现。下面我们将具体细化 stub 结构的实现。 RPC 调用分类 RPC 调用分以下两种 [plain] view plain copy 在CODE上查看代码片派生到我的代码片 同步调用 客户方等待调用执行完成并返回结果。异步调用 客户方调用后不用等待执行结果返回但依然可以通过回调通知等方式获取返回结果。 若客户方不关心调用返回结果则变成单向异步调用单向调用不用返回结果。 异步和同步的区分在于是否等待服务端执行完成并返回结果。RPC 结构拆解 《浅出篇》给出了一个比较粗粒度的 RPC 实现概念结构这里我们进一步细化它应该由哪些组件构成如下图所示。 RPC 服务方通过 RpcServer 去导出export远程接口方法而客户方通过 RpcClient 去引入import远程接口方法。客户方像调用本地方法一样去调用远程接口方法RPC 框架提供接口的代理实现实际的调用将委托给代理RpcProxy 。代理封装调用信息并将调用转交给RpcInvoker 去实际执行。在客户端的RpcInvoker 通过连接器RpcConnector 去维持与服务端的通道RpcChannel并使用RpcProtocol 执行协议编码encode并将编码后的请求消息通过通道发送给服务方。 RPC 服务端接收器 RpcAcceptor 接收客户端的调用请求同样使用RpcProtocol 执行协议解码decode。解码后的调用信息传递给RpcProcessor 去控制处理调用过程最后再委托调用给RpcInvoker 去实际执行并返回调用结果。 RPC 组件职责 上面我们进一步拆解了 RPC 实现结构的各个组件组成部分下面我们详细说明下每个组件的职责划分。 [plain] view plain copy 在CODE上查看代码片派生到我的代码片 RpcServer 负责导出export远程接口RpcClient 负责导入import远程接口的代理实现RpcProxy 远程接口的代理实现RpcInvoker 客户方实现负责编码调用信息和发送调用请求到服务方并等待调用结果返回 服务方实现负责调用服务端接口的具体实现并返回调用结果RpcProtocol 负责协议编/解码RpcConnector 负责维持客户方和服务方的连接通道和发送数据到服务方RpcAcceptor 负责接收客户方请求并返回请求结果RpcProcessor 负责在服务方控制调用过程包括管理调用线程池、超时时间等RpcChannel 数据传输通道RPC 实现分析 在进一步拆解了组件并划分了职责之后这里以在 java 平台实现该 RPC 框架概念模型为例详细分析下实现中需要考虑的因素。 导出远程接口 导出远程接口的意思是指只有导出的接口可以供远程调用而未导出的接口则不能。在 java 中导出接口的代码片段可能如下 [java] view plain copy 在CODE上查看代码片派生到我的代码片 DemoService demo new ...; RpcServer server new ...; server.export(DemoService.class, demo, options); 我们可以导出整个接口也可以更细粒度一点只导出接口中的某些方法如 [java] view plain copy 在CODE上查看代码片派生到我的代码片 // 只导出 DemoService 中签名为 hi(String s) 的方法 server.export(DemoService.class, demo, hi, new Class?[] { String.class }, options); java 中还有一种比较特殊的调用就是多态也就是一个接口可能有多个实现那么远程调用时到底调用哪个这个本地调用的语义是通过 jvm 提供的引用多态性隐式实现的那么对于 RPC 来说跨进程的调用就没法隐式实现了。如果前面DemoService 接口有 2 个实现那么在导出接口时就需要特殊标记不同的实现如 [java] view plain copy 在CODE上查看代码片派生到我的代码片 DemoService demo new ...; DemoService demo2 new ...; RpcServer server new ...; server.export(DemoService.class, demo, options); server.export(demo2, DemoService.class, demo2, options); 上面 demo2 是另一个实现我们标记为 demo2 来导出那么远程调用时也需要传递该标记才能调用到正确的实现类这样就解决了多态调用的语义。 导入远程接口与客户端代理 导入相对于导出远程接口客户端代码为了能够发起调用必须要获得远程接口的方法或过程定义。目前大部分跨语言平台 RPC 框架采用根据 IDL 定义通过 code generator 去生成 stub 代码这种方式下实际导入的过程就是通过代码生成器在编译期完成的。我所使用过的一些跨语言平台 RPC 框架如 CORBAR、WebService、ICE、Thrift 均是此类方式。 代码生成的方式对跨语言平台 RPC 框架而言是必然的选择而对于同一语言平台的 RPC 则可以通过共享接口定义来实现。在 java 中导入接口的代码片段可能如下 [java] view plain copy 在CODE上查看代码片派生到我的代码片 RpcClient client new ...; DemoService demo client.refer(DemoService.class); demo.hi(how are you?); 在 java 中 import 是关键字所以代码片段中我们用 refer 来表达导入接口的意思。这里的导入方式本质也是一种代码生成技术只不过是在运行时生成比静态编译期的代码生成看起来更简洁些。java 里至少提供了两种技术来提供动态代码生成一种是 jdk 动态代理另外一种是字节码生成。动态代理相比字节码生成使用起来更方便但动态代理方式在性能上是要逊色于直接的字节码生成的而字节码生成在代码可读性上要差很多。两者权衡起来个人认为牺牲一些性能来获得代码可读性和可维护性显得更重要。 协议编解码 客户端代理在发起调用前需要对调用信息进行编码这就要考虑需要编码些什么信息并以什么格式传输到服务端才能让服务端完成调用。出于效率考虑编码的信息越少越好传输数据少编码的规则越简单越好执行效率高。我们先看下需要编码些什么信息 [plain] view plain copy 在CODE上查看代码片派生到我的代码片 -- 调用编码 -- 接口方法 包括接口名、方法名方法参数 包括参数类型、参数值调用属性 包括调用属性信息例如调用附件隐式参数、调用超时时间等-- 返回编码 -- 返回结果 接口方法中定义的返回值返回码 异常返回码返回异常信息 调用异常信息 除了以上这些必须的调用信息我们可能还需要一些元信息以方便程序编解码以及未来可能的扩展。这样我们的编码消息里面就分成了两部分一部分是元信息、另一部分是调用的必要信息。如果设计一种 RPC 协议消息的话元信息我们把它放在协议消息头中而必要信息放在协议消息体中。下面给出一种概念上的 RPC 协议消息设计格式[plain] view plain copy 在CODE上查看代码片派生到我的代码片 -- 消息头 -- magic : 协议魔数为解码设计 header size: 协议头长度为扩展设计 version : 协议版本为兼容设计 st : 消息体序列化类型 hb : 心跳消息标记为长连接传输层心跳设计 ow : 单向消息标记 rp : 响应消息标记不置位默认是请求消息 status code: 响应消息状态码 reserved : 为字节对齐保留 message id : 消息 id body size : 消息体长度 -- 消息体 -- 采用序列化编码常见有以下格式 xml : 如 webservie soap json : 如 JSON-RPC binary: 如 thrift; hession; kryo 等 格式确定后编解码就简单了由于头长度一定所以我们比较关心的就是消息体的序列化方式。序列化我们关心三个方面 序列化和反序列化的效率越快越好。序列化后的字节长度越小越好。序列化和反序列化的兼容性接口参数对象若增加了字段是否兼容。上面这三点有时是鱼与熊掌不可兼得这里面涉及到具体的序列化库实现细节就不在本文进一步展开分析了。 传输服务 协议编码之后自然就是需要将编码后的 RPC 请求消息传输到服务方服务方执行后返回结果消息或确认消息给客户方。RPC 的应用场景实质是一种可靠的请求应答消息流和 HTTP 类似。因此选择长连接方式的 TCP 协议会更高效与 HTTP 不同的是在协议层面我们定义了每个消息的唯一 id因此可以更容易的复用连接。 既然使用长连接那么第一个问题是到底 client 和 server 之间需要多少根连接实际上单连接和多连接在使用上没有区别对于数据传输量较小的应用类型单连接基本足够。单连接和多连接最大的区别在于每根连接都有自己私有的发送和接收缓冲区因此大数据量传输时分散在不同的连接缓冲区会得到更好的吞吐效率。所以如果你的数据传输量不足以让单连接的缓冲区一直处于饱和状态的话那么使用多连接并不会产生任何明显的提升反而会增加连接管理的开销。 连接是由 client 端发起建立并维持。如果 client 和 server 之间是直连的那么连接一般不会中断当然物理链路故障除外。如果 client 和 server 连接经过一些负载中转设备有可能连接一段时间不活跃时会被这些中间设备中断。为了保持连接有必要定时为每个连接发送心跳数据以维持连接不中断。心跳消息是 RPC 框架库使用的内部消息在前文协议头结构中也有一个专门的心跳位就是用来标记心跳消息的它对业务应用透明。 执行调用 client stub 所做的事情仅仅是编码消息并传输给服务方而真正调用过程发生在服务方。server stub 从前文的结构拆解中我们细分了 RpcProcessor 和 RpcInvoker 两个组件一个负责控制调用过程一个负责真正调用。这里我们还是以 java 中实现这两个组件为例来分析下它们到底需要做什么 java 中实现代码的动态接口调用目前一般通过反射调用。除了原生的 jdk 自带的反射一些第三方库也提供了性能更优的反射调用因此 RpcInvoker 就是封装了反射调用的实现细节。 调用过程的控制需要考虑哪些因素RpcProcessor 需要提供什么样地调用控制服务呢下面提出几点以启发思考 [plain] view plain copy 在CODE上查看代码片派生到我的代码片 效率提升 每个请求应该尽快被执行因此我们不能每请求来再创建线程去执行需要提供线程池服务。资源隔离 当我们导出多个远程接口时如何避免单一接口调用占据所有线程资源而引发其他接口执行阻塞。超时控制 当某个接口执行缓慢而 client 端已经超时放弃等待后server 端的线程继续执行此时显得毫无意义。RPC 异常处理 无论 RPC 怎样努力把远程调用伪装的像本地调用但它们依然有很大的不同点而且有一些异常情况是在本地调用时绝对不会碰到的。在说异常处理之前我们先比较下本地调用和 RPC 调用的一些差异 本地调用一定会执行而远程调用则不一定调用消息可能因为网络原因并未发送到服务方。本地调用只会抛出接口声明的异常而远程调用还会跑出 RPC 框架运行时的其他异常。本地调用和远程调用的性能可能差距很大这取决于 RPC 固有消耗所占的比重。正是这些区别决定了使用 RPC 时需要更多考量。当调用远程接口抛出异常时异常可能是一个业务异常也可能是 RPC 框架抛出的运行时异常如网络中断等。业务异常表明服务方已经执行了调用可能因为某些原因导致未能正常执行而 RPC 运行时异常则有可能服务方根本没有执行对调用方而言的异常处理策略自然需要区分。 由于 RPC 固有的消耗相对本地调用高出几个数量级本地调用的固有消耗是纳秒级而 RPC 的固有消耗是在毫秒级。那么对于过于轻量的计算任务就并不合适导出远程接口由独立的进程提供服务只有花在计算任务上时间远远高于 RPC 的固有消耗才值得导出为远程接口提供服务。 总结 至此我们提出了一个 RPC 实现的概念框架并详细分析了需要考虑的一些实现细节。无论 RPC 的概念是如何优雅但是“草丛中依然有几条蛇隐藏着”只有深刻理解了 RPC 的本质才能更好地应用。
