资讯详情

一文搞懂高并发性能指标:QPS、TPS、RT、吞吐量

一、QPS,每秒查询 QPS:Queries Per Second意思是每秒查询率,是服务器每秒可以相应查询的次数,是在规定时间内处理特定查询服务器流量的衡量标准。

在互联网上,每秒查询率通常用作域名系统服务器的性能来衡量。

二、TPS,每秒事务 TPS:是TransactionsPerSecond缩写,即事务数/秒。它是软件测试结果的测量单位。事务是指客户机向服务器发送请求,然后服务器响应的过程。客户机在发送请求时开始计时,在收到服务器响应后结束计时,以计算使用时间和完成的事务数量。

QPS vs TPS:QPS基本类似于TPS,但不同的是,一个页面的访问是形成的TPS;但是一个页面请求可能会产生多个服务器请求,服务器可以包含在QPS例如,访问一个页面会要求服务器两次,一次访问,产生一个T产生两个Q”。

三、RT,响应时间 响应时间:执行请求从开始到最终收到响应数据的总时间,即从客户端到服务器响应结果的时间。

响应时间RT(Response-time),它是系统中最重要的指标之一,其值直接反映了系统的速度。

四、并发数 并发数是指系统可以同时处理的请求数,这也反映了系统的负载能力。

五、吞吐量 系统的吞吐量(承压能力)与request对CPU消耗,外部接口,IO等等密切相关request 对CPU外部系统接口的消耗越高,IO速度越慢,系统吞吐量越低,反之亦然。

几个重要的系统吞吐量参数:QPS(TPS)、并发数,响应时间。

QPS(TPS):(Query Per Second)每秒钟request/事务 数量 并发数: 同时处理系统request/事务数 响应时间: 一般取平均响应时间 在理解了上述三个要素的含义后,就可以计算出它们之间的关系:

QPS(TPS)= 并发数/平均响应时间 并发数 = QPS*平均响应时间 六、实际举例 我们通过一个例子来理解上面的概念。按照二八定律,如果每天都有, 80% 访问集中在 20% 这个 20% 时间叫峰值时间。

公式:( 总PV数 * 80% ) / ( 每天秒数 * 20% ) = 每秒峰值时间请求数(QPS) 机器:峰值时间为每秒QPS / 单台机器的QPS = 需要的机器 1、每天300w PV 这台机器在单台机器上需要多少钱?QPS? ( 3000000 * 0.8 ) / (86400 * 0.2 ) = 139 (QPS)

如果是机器QPS是58,需要多少台机器支持? 139 / 58 = 3

七、最佳线程数,QPS、RT 1、单线程QPS公式:QPS=1000ms/RT 支持同一系统的线程越多,QPS越高。假设一个RT是80ms,很容易计算出来QPS,QPS = 1000/80 = 12.5 如果多线程场景将服务端的线程数提高到2,则整个系统QPS则为 2*(1000/80) = 25, 可见QPS随着线程的增加,线性增长,QPS如果你上不去,就加线程。听起来很有道理,公司也说得通,但现实往往不是这样。

2、QPS和RT的真实关系

我们想象的QPS、RT关系如下,

单线程 or 纯cpu多线程

实际的QPS、RT关系如下,

高IO线程

3.最佳线程数量 服务器瓶颈资源的临界线程数刚刚消耗完,公式如下 最佳线程数量=(线程等待时间 线程cpu时间)/线程cpu时间)* cpu数量 特性:

当达到最佳线程数时,线程数继续增加,QPS不变,响应时间长,线程数量持续增加,QPS开始下降。 每个系统都有其最佳线程数量,但在不同的状态下,最佳线程数量会发生变化。 瓶颈资源可以是CPU,可以是内存,可以是资源定,IO资源:超过最佳线程数-导致资源的竞争,超过最佳线程数-响应时间递增。

标签: hps拉绳位稳传感器

锐单商城拥有海量元器件数据手册IC替代型号,打造 电子元器件IC百科大全!

锐单商城 - 一站式电子元器件采购平台