温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

Java中怎么设置线程池的大小

发布时间:2021-07-22 16:18:28 来源:亿速云 阅读:148 作者:Leah 栏目:编程语言

今天就跟大家聊聊有关Java中怎么设置线程池的大小,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。

这个说法到底是不是正确的呢?

其实这是极不正确的。那为什么呢?

首先我们从反面来看,假设这个说法是成立的,那我们在一台服务器上部署多少个服务都无所谓了。因为线程池的大小只能服务器的核数有关,所以这个说法是不正确的。那具体应该怎么设置大小呢?

假设这个应用是两者混合型的,其中任务即有 CPU 密集,也有 IO 密集型的,那么我们改怎么设置呢?是不是只能抛硬盘来决定呢?

那么我们到底该怎么设置线程池大小呢?有没有一些具体实践方法来指导大家落地呢?让我们来深入地了解一下。

Little's Law(利特尔法则)

一个系统请求数等于请求的到达率与平均每个单独请求花费的时间之乘积

假设服务器单核的,对应业务需要保证请求量(QPS):10 ,真正处理一个请求需要 1 秒,那么服务器每个时刻都有 10 个请求在处理,即需要 10 个线程

同样,我们可以使用利特尔法则(Little's law)来判定线程池大小。我们只需计算请求到达率和请求处理的平均时间。然后,将上述值放到利特尔法则(Little's law)就可以算出系统平均请求数。估算公式如下

*线程池大小 = ((线程 IO time + 线程 CPU time )/线程 CPU time ) CPU数目**

具体实践

通过公式,我们了解到需要 3 个具体数值

  1. 一个请求所消耗的时间 (线程 IO time + 线程 CPU time)  该请求计算时间 (线程 CPU time)  CPU 数目

请求消耗时间

Web 服务容器中,可以通过 Filter 来拦截获取该请求前后消耗的时间

public class MoniterFilter implements Filter {   private static final Logger logger = LoggerFactory.getLogger(MoniterFilter.class);   @Override   public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException,       ServletException {     long start = System.currentTimeMillis();     HttpServletRequest httpRequest = (HttpServletRequest) request;     HttpServletResponse httpResponse = (HttpServletResponse) response;     String uri = httpRequest.getRequestURI();     String params = getQueryString(httpRequest);     try {       chain.doFilter(httpRequest, httpResponse);     } finally {       long cost = System.currentTimeMillis() - start;       logger.info("access url [{}{}], cost time [{}] ms )", uri, params, cost);     }   private String getQueryString(HttpServletRequest req) {     StringBuilder buffer = new StringBuilder("?");     Enumeration<String> emParams = req.getParameterNames();     try {       while (emParams.hasMoreElements()) {         String sParam = emParams.nextElement();         String sValues = req.getParameter(sParam);         buffer.append(sParam).append("=").append(sValues).append("&");       }       return buffer.substring(0, buffer.length() - 1);     } catch (Exception e) {       logger.error("get post arguments error", buffer.toString());     }     return "";   } }

CPU 计算时间

CPU 计算时间 = 请求总耗时 - CPU IO time

假设该请求有一个查询 DB 的操作,只要知道这个查询 DB 的耗时(CPU IO time),计算的时间不就出来了嘛,我们看一下怎么才能简洁,明了的记录 DB 查询的耗时。

通过(JDK 动态代理/ CGLIB)的方式添加 AOP 切面,来获取线程 IO 耗时。代码如下,请参考:

public class DaoInterceptor implements MethodInterceptor {   private static final Logger logger = LoggerFactory.getLogger(DaoInterceptor.class);   @Override   public Object invoke(MethodInvocation invocation) throws Throwable {     StopWatch watch = new StopWatch();     watch.start();     Object result = null;     Throwable t = null;     try {       result = invocation.proceed();     } catch (Throwable e) {       t = e == null ? null : e.getCause();       throw e;     } finally {       watch.stop();       logger.info("({}ms)", watch.getTotalTimeMillis());     }     return result;   } }

CPU 数目

逻辑 CPU 个数 ,设置线程池大小的时候参考的 CPU 个数

cat /proc/cpuinfo| grep "processor"| wc -l

看完上述内容,你们对Java中怎么设置线程池的大小有进一步的了解吗?如果还想了解更多知识或者相关内容,请关注亿速云行业资讯频道,感谢大家的支持。

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI