5分钟了解系统架构设计（5）

发布时间：2024-03-06 23:49:38 来源：网络

.

最近梳理了之前学习的架构设计相关的一些课程学习总结，将其整理成了一个大纲脑图，以每篇5分钟系列展现出来，希望对你有所帮助。如何设计一个高性能的系统架构，这是面

最近梳理了之前学习的架构设计相关的一些课程学习总结，将其整理成了一个大纲脑图，以每篇5分钟系列展现出来，希望对你有所帮助。

如何设计一个高性能的系统架构，这是面试中一般常见的问题，明白回答该类问题的套路可以帮助我们理清思路。

本篇会聚焦high-level的思路，实际场景中还需要根据实际条件约束综合考虑。

首先，对于这类问题，回答套路为：

明确性能指标 => 保护系统措施 => 保护用户体验 => 快速扩容预备

其次，我们以后端服务为例，下面是回答思路。

画外音>如果不仅是后端视角，那就还需要站在系统的全链路视角来分析到底各个环节的具体指标。

1、明确系统性能指标

假设要求TP99=2s，即保证99%的请求的响应时间都在2s内。

画外音>如果你对TP99概念还不太熟悉，建议阅读本系列的第一篇推文。

但是需要确认并发用户数，即确认系统的承载能力范围，因此明确为：“保证系统并发数在100万用户内的时候，TP99=2s”。

综述，对于系统设计者而言，要清楚系统有所能，也有所不能。

此外，在压测阶段，可以通过绘制吞吐量和延迟的曲线，找到最佳性能点，进而在超过最佳性能点时做限流。

2、明确系统保护措施

当系统并发用户的数量超过100万的时候，要保证有100万用户的TP99=2s，然后保护系统，并拒绝其他用户的连接请求。

具体保护系统的措施包括：系统限流，即通过流量控制来保证系统的稳定性，当实际并发压力超过系统性能设计指标时，就拒绝新的请求连接，让用户进行排队。实际中，我们可以使用Nginx限流或 API网关（如APISIX或Kong）提供的限流。

实际操作案例：

Nginx限流—控制速率

limit_req_zone $binary_remote_addr zone=myRateLimit:10m rate=10r/s; // 限制单个IP每秒最多请求10次
server {
    location /{
        limit_req zone=myRateLimit;
        proxy pass http://my_server_upstream;    
    }
}

Nginx限流—控制并发连接数

limit_conn_zone $binary_remote_addr zone=perip:10m;
limit_conn_zone $server_name zone=perserver:10m;
server {
    ...
    limit_conn perip 10; // 表示限制单个IP同时最多能持有10个连接
    limit_conn persever 1000; // 表示server同时只能够处理100个并发连接数
}