问：简单假设一个服务的处理并发量为CPA， 每个请求的平均处理时间为rpt，则单位时间内的处理吞吐量为多少？
答：单位时间内，单个处理线程（worker）的处理量为1/rht，则总的吞吐量为 CPA/rpt。
类比一下：
假设某个红绿灯路口有CPA个车道，每辆车的平均通过时间为rpt，则单位时间内能通过路口的汽车数量为多少？
单位时间内一个车道的通车量为1/rpt，这个路口有CPA个车道，则总的通车量为CPA/rpt。
以上简单模型说明：
1）在服务处理并发量一定时，每个请求的平均处理时间越长，吞吐量越差，
越可能出现一些请求长时间等待而得不到处理的情况，请求等待超时乃至放弃的情况越容易发生；
从服务请求方来看：
2）当出现请求超时的情形时，首先想到的是减少请求次数，但更应该想到的是降低单个请求的处理时间，比如是否可以优化；
3）当出现请求超时的情形时，除了优化单个请求的处理时间外，也可以考虑把一个请求分解为多个，这样服务可以见缝插针地处理其他请求。
就比如路人甲上午去银行营业厅办事，如果有几位业务超复杂的人排在路人甲前面，那他想要在上午办完业务估计没戏了；
4）请求在发送的时间上不要过于集中，错峰出行，体验更佳，哈哈；
5）最后一招，延长等待超时时间，耐心等吧；
从服务处理方来看：
6）增加处理并发量CPA，可以增加吞吐量；
7）降低请求的处理时间，也可以增加吞吐量，比如：增加单个worker（如线程）的处理能力，或者优化数据查询时间等。
标签：请求,处理,CPA,模型,吞吐量,时间,简单,rpt 来源： https://www.cnblogs.com/tlz888/p/15801389.html
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。