关于并发,QPS和TPS

并发

有时候我们醉心于业务逻辑的书写，可能忽视了并发，这里来唠叨一下，如果错了请指正。

在web开发中，并发指的是某个时间单位内对服务器产生的请求，一般指1秒内产生的请求。比如我们说1千并发就是指1秒内有1000请求发送到web服务器。并发数和会话数是不同的，并发是一定会对服务器产生压力的，而会话数可能只是‘挂’在服务器上，并没有查询数据库等操作。比如我们说秒杀场景并发高，是由于在那几秒内要完成下单，库存扣减等操作，这些操作会对服务器，数据库等产生巨大的压力。而要做一个大流量的静态页面则搞一台nginx服务器+CDN就足够了，因为这个场景很单纯，只是简单的页面输出，加上nginx这样优秀的开源软件和CDN后就变得很容易了。

笔者理解：在web开发中，大部分的企业基本都没有十万以上并发量，更多的是几百几千的并发。所以没必要去跟风高并发，有那个时间还不如多去看看操作系统，刷刷算法呢。

压测

说到并发，一般就会说压测。我们开发好了接口后，要对接口进行压测，目的不是为了写报告，而是为了对接口承受能力有一个大概的了解。如果要达到更大的并发，我们也能通过压测去找出瓶颈，做对应的优化。

压测工具有ab，jmeter，LoadRunner，以及云厂商的付费工具，比如阿里云的PTS性能测试。

一般的压测流程是先用jmeter压测，达到并发要求后可以再用云厂商的工具进行压测。

QPS

说到压测，就会说QPS和TPS了。

QPS指的服务器每秒响应的请求数，比如服务器部署了接口A，这个接口每秒能对500个请求作出正常响应，压测更大的量就会抛出504等错误时，我们就称接口A的QPS是500。

TPS

TPS的概念则复杂些，不过也有简化版：TPS指每秒内完成的事务数。

这里的事务是指从请求服务器开始到服务器给出结果的过程。比如请求一个网页，从访问开始到页面输出结束，耗时1秒，则TPS是1。

事务要怎么产生呢，需要用户去请求，所以我们再引入用户的概念。1个用户1秒内完成1笔事务，此时TPS是1。如果有1000个用户同时请求且都正常呢？则TPS是111000 = 1000。在jmeter工具中配置的线程数就是这里的用户数。

那TPS和QPS的区别是什么？TPS是测试时我们自己去定义的，简单理解就是1个TPS包含1个或多个QPS。比如请求1个网页，网页在完成输出前会请求5个接口，则此时TPS是1，QPS是5。又比如我们把一次投票算做一个事务，这个投票包含获取投票数据和提交投票数据两个接口，则此时1TPS = 2QPS。再举个例子：把一次完整的游戏过程算做一个事物，这个过程需要登录，开始游戏，提交分数，抽奖，展示排行榜5个接口，则这里的1TPS = 5 QPS。

RT

RT是指接口的响应时间。

RT Avg

接口的平均响应时间。这个好比我们的人均收入，看看就好了。

吞吐量

没有一个单独的吞吐量参数，评估吞吐量时可以通过QPS，TPS，RT来评估。在jemter的聚合报告中有个Throughput参数可以参考。