Spring异步处理Servlet

简介
原理
例子
参考资料

1.简介

通常Servlet的主要工作流程为，客户端发起请求，Servlet接收到请求后进行业务处理，最后将处理结果返回。

sequenceDiagram 客户端->>服务器:第一步：发送请求服务器->>业务层:第二步：处理业务逻辑服务器->>客户端:第三步：返回结果

图1 典型Servlet请求

其中，第二步处理业务逻辑通常是最耗时的，主要体现在数据库操作，跨网络调用等。在此过程中，Servlet线程一直处于阻塞状态，直到方法执行完毕。在业务处理过程中，服务器的工作线程数是有限的，Servlet资源(Servlet线程)一直被占用得不到释放，对于并发请求比较大的情况下，其他的请求由于获取不到连接而处于等待状态。这样就影响了服务器的吞吐能力。

2.原理

异步请求的请求类型keep-alive，这样客户端请求后不关闭连接，这样服务器就可以把返回结果推送到客户端。异步请求的过程如下，客户端发起请求，Servlet线程将请求转交给一个异步线程来执行业务处理，线程本身返回到容器(这样这个线程就可以继续处理接下来的请求)，，异步线程处理完业务以后，可以直接生成响应数据（异步线程拥有 ServletRequest 和 ServletResponse 对象的引用），或者将请求继续转发给其它 Servlet。如此一来， Servlet 线程不再是一直处于阻塞状态以等待业务逻辑的处理，而是启动异步线程之后可以立即返回， Servlet request请求线程可以被快速释放回Web容器，从而提高并发性。

sequenceDiagram participant 客户端 participant 服务器线程 participant 服务器回调处理线程 participant 后端处理服务客户端->>服务器线程:第一步：发送请求服务器线程->>后端处理服务:第二步：将请求委托给后端处理线程服务器线程->>服务器线程:第三步：服务器线程返回到线程池后端处理服务->>服务器回调处理线程:第四步：返回结果服务器回调处理线程->>客户端:第五步：返回结果到客户端

图2 Servelt异步请求

2.1 Spring异步请求配置

SpringMVC中Controller中的方法返回值为java.util.concurrent.Callable的时候Spring就会自动启动异步执行。Spring返回的Callable对象会被RequestMappingHadnlerAdapter拦截，然后将任务提交到线程池，默认使用SimpleAsyncTaskExecutor去处理，线程池会产生一个新的线程取执行Callable中的代码。SimpleAsyncTaskExecutor每次会产生一个新的线程去处理。

1.设置ThreadPoolTaskExecutor属性

<bean id="asyncSupportThreadPoolTaskExecutor" class="org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor">
    <property name="corePoolSize" value="5"/>  // 核心线程，即使空闲也不会被销毁
  <property name="maxPoolSize" value="10"/> // 线程池最大线程数
  <property name="queueCapacity" value="50"/> //缓冲队列大小
  <property name="thradNamePrefix" value="async-"/> //线程池中产生线程名字前缀
  <property name="keepAliveSeconds" value="30"/> //线程池中空闲线程的存活时间，单位秒
</bean>

2.设置线程池

<mvc:annotaion-driven>
    <mvc:async-supoort task-executor="asyncSupportThreadPoolTaskExecutor"
                     default-timeout="600">
      <mvc:callable-interceptors>
        <bean class="com...foo.MyCallableInteceptor"/> // 设置超级处理的bean
    </mvc:callable-interceptors>
  </mvc:async-supoort>
</mvc:annotaion-driven>