基于Spring虚拟线程的百万级并发解决方案：Tomcat/Jetty请求处理优化

最新推荐文章于 2026-03-27 11:05:13 发布

原创最新推荐文章于 2026-03-27 11:05:13 发布 · 1.5k 阅读

11 ·

本内容遵循CC 4.0 BY-SA版权协议

标签

#spring #tomcat #jetty

#java 专栏收录该内容

1 篇文章

订阅专栏

一、背景：为什么需要虚拟线程？

在高并发Web应用中，传统Java线程（平台线程）存在两大痛点：

资源消耗高：每个线程占用固定栈内存（默认1MB+），百万级并发需消耗海量内存。
上下文切换开销大：线程阻塞（如IO等待）时，CPU需频繁切换线程状态，降低吞吐量。

Java 21引入的**虚拟线程（Virtual Threads）**是轻量级线程，由JVM托管，与平台线程（内核线程）是N:1关系：

轻量性：单个虚拟线程仅需数KB内存，单机可创建百万级线程。
非阻塞友好：阻塞时释放底层平台线程，减少上下文切换，提升CPU利用率。

Spring Boot 3.2+ 支持通过配置自动将Tomcat/Jetty的请求处理线程池切换为虚拟线程模式，无需修改业务代码，即可实现百万级并发能力的平滑升级。

二、核心配置：启用Spring虚拟线程支持

1. 环境准备

JVM版本：Java 21+（需启用--enable-preview预览特性，Java 21及以上正式版无需）。
Spring Boot版本：3.2.0+（依赖spring-boot-starter-web）。

2. 配置文件（`application.properties`）

# 启用Spring全局虚拟线程支持
spring.task.execution.virtual-threads.enabled=true

# Tomcat配置（可选，按需调整）
server.tomcat.threads.min-spare=200       # 最小空闲虚拟线程数
server.tomcat.threads.max=100000          # 最大虚拟线程数（理论无严格上限）
server.tomcat.threads.keep-alive=60s      # 线程存活时间

# Jetty配置（可选，按需调整）
server.jetty.threads.min=200             # 最小虚拟线程数
server.jetty.threads.max=100000          # 最大虚拟线程数
server.jetty.threads.idle-timeout=60s     # 线程空闲超时

核心参数：spring.task.execution.virtual-threads.enabled=true 会自动为Tomcat/Jetty的请求处理线程池注入虚拟线程工厂，无需手动配置线程类型。
线程数配置建议：虚拟线程轻量，max可设置为传统线程池的10-100倍（如10万级），由JVM自动调度到少量平台线程上执行。

三、Tomcat与Jetty的虚拟线程实现原理

1. Tomcat线程池切换

Spring Boot会将Tomcat的Executor替换为VirtualThreadExecutor，其核心逻辑：

请求到达时，Tomcat从虚拟线程池中创建/复用虚拟线程处理请求。
当虚拟线程阻塞（如数据库查询、网络IO）时，释放底层的平台线程，允许其他虚拟线程复用该平台线程，避免线程阻塞导致的资源浪费。

2. Jetty线程池适配

Jetty的QueuedThreadPool通过Spring配置自动使用虚拟线程作为工作线程，原理与Tomcat类似：

基于虚拟线程的轻量特性，Jetty可在单平台线程上并行处理数百个阻塞请求，大幅提升吞吐量。

四、业务代码示例（无需改动！）

虚拟线程与传统线程编程模型兼容，业务代码保持同步写法即可，底层由JVM自动调度：

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;

@RestController
public class DemoController {

    @GetMapping("/hello")
    public String hello() {
        // 模拟IO阻塞（如数据库查询、HTTP调用）
        try {
            Thread.sleep(100); // 虚拟线程在此处阻塞时释放平台线程
        } catch (InterruptedException e) {
            Thread.currentThread().interrupt();
        }
        return "Hello from Virtual Thread!";
    }
}

五、性能优化与测试建议

1. JVM参数优化

# 推荐配置（8核CPU示例）
java -XX:MaxVirtualThreads=1000000 \  # 最大虚拟线程数（按需调整）
     -Xmx8g -Xms8g -XX:+UseG1GC \     # 内存与垃圾回收配置
     -jar your-application.jar

2. 压测工具与指标

使用JMeter或Gatling模拟百万级并发：

测试场景：10万并发线程，持续10分钟，模拟IO密集型请求（如数据库查询）。
核心指标对比：

指标	传统线程（Tomcat默认）	虚拟线程（启用配置）
最大并发数	1万级	10万级+
吞吐量（TPS）	5000+	20000+
CPU利用率	70%+	90%+（减少空转）
内存占用（峰值）	4GB+	2GB+（线程内存降低）

3. 监控与调优

通过jconsole或Micrometer监控线程池状态（如tomcat.threads.current）。
若出现延迟升高，可适当增加max线程数或调整JVM堆内存。

六、注意事项

容器兼容性：仅Tomcat 11+和Jetty 12+完全支持虚拟线程，需确保版本匹配。
阻塞操作优化：虽然虚拟线程对阻塞友好，但过度同步代码（如synchronized）仍可能导致性能瓶颈，建议结合Reactor等响应式库优化关键路径。
异常处理：虚拟线程的UncaughtExceptionHandler需通过Thread.ofVirtual().unstarted(Runnable::run)自定义，避免全局配置失效。
日志与调试：虚拟线程名称包含#v标识（如exec-1#v），可通过日志框架区分线程类型。