全局速率限制

在分布式系统中,多数情况下,分布式熔断对于吞吐的控制都是非常有效的;但是在有些例外情况下,是需要进行全局的速率控制的,例如大量主机(的请求)被转发给少量主机,并且平均请求延迟很低(比如访问数据库服务器的例子)。如果目标主机因故负载能力降低,下游主机就会影响到上游的集群。这种场景下,要不影响正常通信,又要防止主机故障引起的雪崩,想要为每个下游主机分别配置合适的断路器是很难的。这种案例就是使用全局速率控制的典型场景。

Envoy 直接集成了一个全局 gRPC 速率限制服务。所有实现了预定义 RPC/IDL 协议的服务都可以使用这一服务,Lyft 还提供了一个 Go 编写的实现参考,其中使用 Redis 作为后端。Envoy 的速率限制集成具有如下功能:

  • 网络层的速率限制过滤器:安装了这一过滤器的 Envoy,当监听器上新建连接的时候,就会调用速率限制服务。配置中会指定一个特定的域和描述符来设置速率限制。这种方式对监听器上的每秒连接次数进行了限制,从而达到了在监听器中进行速率限制的效果。配置参考
  • HTTP 级的速率限制过滤器:在安装了这一过滤器并且路由表要求调用全局速率限制服务的时候,Envoy 会在监听器的每次新请求的时候调用速率限制服务。所有到目标上游服务器、所有来自于源集群到目标集群的请求都可以进行速率限制。配置参考

速率限制服务配置

Copyright © ServiceMesher 2018 all right reserved,powered by Gitbook 最后更新于 2018-05-24 11:29:04

results matching ""

    No results matching ""