大家好,又见面了,我是你们的朋友全栈君。
本文主要介绍线程池是解决了哪些问题以及线程池中 的corePoolSize(核心线程数),queueCapacity(等待队列的长度),maximumPoolSize(最大核心线程数)。本文不会对线程池各个参数介绍,假定你已经了解了线程池各个参数的含义。
1 为什么要有线程池呢?
当前实际应用中,经常会遇到单个请求处理时间短但请求量巨大但问题,简单说就是qps很高,平响时间很短的情况。这些情况下如果采用来一个任务就新建一个线程处理,那么会有什么问题呢?
1、每个任务新建一个线程,qps越高,就越消耗cpu资源新建线程;平响很短也需要cpu不断的销毁线程。从而会大量消耗cpu资源
2、创建的线程越多,cpu在处理任务时,线程切换相对更加频繁。导致cpu浪费在线程切换上的时间就会变长,从而会增加平响时间。
3、每个线程的创建都是要消耗内存资源的。高qps情况下容易出现OOM(unable to create new native Thread)
4、操作系统本身也不允许线程无限对增长
基于以上4个问题,线程池应运而生。
线程池中核心线程数能够重复使用,应对高qps无须频繁新建线程,进而减少线程之间切换的耗时;阻塞队列能够暂时缓存新到任务,作为新建线程的缓冲池。
2 线程池核心参数的计算
先列出计算公式,然后举例解释说明
2.1 核心线程数
corePoolSize=20% * taskNum/(单线程/AR)=20% * 任务数 * 平响
taskNum是指任务数量/请求数量等,可以简单理解成是qps,
AR是指每个任务的平均处理时间,
20%是根据8020定律得来的,简单理解是80%的情况下,核心的任务数大约占到20%
2.2 工作队列长度
queueCapacity=(corePoolSize/AR)* MR
corePoolSize为上面计算出来的核心线程数,
AR是指每个任务的平均处理时间,
MR表示任务能够接受的最大响应时间
2.3 最大核心线程数
maximumPoolSize=(taskNum-queueCapacity)/(单线程/AR)
taskNum是指任务数量/请求数量等,可以简单理解成是qps,
queueCapacity为等待队列的长度,
AR是指每个任务的平均处理时间,
2.4 举例
假定任务数是100个/s,平均响应时间是0.1s,能够接受的最大响应时间是0.5s则
corePoolSize=20% * taskNum/(单线程/AR)=20% * 任务数 * 平响=20% * 100 个/s * 0.1s=2个
queueCapacity=(corePoolSize/AR)* MR=2个/0.1s *0.5s=10个
maximumPoolSize=(taskNum-queueCapacity)/(单线程/AR)=(100-10)/(1/0.1)=9个
根据上面推到就能大致算出核心参数的取值,但是是有前提假定的,即资源是无限的。根据公式算出来的只是一个理论参考值。实际线上参数配置还是要以此为基础进行微调
发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/135097.html原文链接:https://javaforall.cn
【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛
【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...