問題

之前看到過一個面試題：SpringBoot同時可以處理多少請求？

• 準確的來說，Spring Boot 同時可以處理多少個請求，并不取決于 Spring Boot 框架本身，而是取決于其內置的 Web 容器（因為 Web 容器的行為，決定了 Spring Boot 的行為，所以咱們姑且認為兩個問題的回答是一樣的）。
• Tomcat的默認最大連接數是200，可以通過配置文件或者編程方式進行調整。另外，Spring Boot還支持使用其他的Web容器，如Jetty或Undertow，這些容器的性能表現可能不同。
• 除了Web容器的配置，應用程序的設計也會影響并發(fā)處理能力。合理的線程池配置、異步處理和優(yōu)化數據庫查詢等技術手段可以提高應用程序的并發(fā)處理能力。

Web三大容器

• Web三大容器：Tomcat、Jetty、Undertow，眾所周知，Tomcat 為 Spring Boot 框架默認的 Web 容器

三者區(qū)別

Tomcat

• Tomcat 是 Apache 軟件基金會下的開源項目，是最廣泛使用的 Servlet 容器之一，完全實現了 Java Servlet 和 JavaServer Pages（JSP）規(guī)范。
• 它不僅是一個 Servlet 容器，也是一個輕量級的應用服務器，盡管相比其他輕量級服務器，Tomcat 被認為是稍微重一些的。
• Tomcat 支持眾多的企業(yè)級特性，如 SSL、連接池等，適合運行大型的、復雜的企業(yè)級應用。
• 它的穩(wěn)定性和成熟度經過了多年的企業(yè)級應用驗證，因此在很多企業(yè)中作為首選的 Web 容器。

Undertow

• Undertow 是 Red Hat（紅帽公司）開發(fā)的一個靈活的、高性能的 Web 服務器和反向代理服務器，它是 WildFly 應用服務器的默認 Web 容器。
• Undertow 設計上注重低內存占用和高并發(fā)處理能力，尤其擅長處理大量的短連接場景，比如 RESTful API 服務。
• Undertow 支持 Servlet 3.1、WebSocket以及非阻塞 IO(NIO)，并且是支持 HTTP/2 協議的現代服務器之一。
• 它的設計理念在于提供一個模塊化、可嵌入式的解決方案，易于集成到現有的系統中，同時也適合微服務架構。

Jetty

• Jetty 是一個開源的、輕量級的 Web 服務器和 Servlet 容器，由 Eclipse 基金會維護。
• 它以其可嵌入式、高度可配置性著稱，常用于需要快速啟動和輕量級部署的場景，比如開發(fā)階段、測試環(huán)境或輕量級應用。
• Jetty 也支持 Servlet 規(guī)范和 WebSocket，且同樣基于 NIO，使得它在處理大量并發(fā)連接時表現出色。
• Jetty 設計上強調靈活性和可擴展性，易于通過 API 定制以滿足特定需求，因此在云環(huán)境、持續(xù)集成、DevOps 等領域很受歡迎。

小結

總的來說

• Tomcat 因其成熟穩(wěn)定和企業(yè)級特性適用于大型應用；
• Undertow 以高性能和低內存占用見長，特別適合處理高并發(fā)短連接場景；
• 而 Jetty 則以輕量、靈活、易于嵌入為特點，適合快速開發(fā)和輕量級部署。

最大連接數和最大等待數

以 Spring Boot 框架默認的 Web 容器 Tomcat 為例，它能夠同時處理多少個請求，其實是在 Spring Boot 框架中的 spring-configuration-metadata.json 文件中配置著

打開此文件，搜索“server.tomcat.max-connections”（Tomcat 最大連接數）會得到以下結果：

也就是說，默認情況下 Tomcat 允許的最大連接數是 8192（=8*1024）個。

注意?。?/strong> 雖然 Tomcat 可以允許最大的連接數是 8192，但是 Tomcat 還有一個最大等待數，也就是說，如果達到了 8192 之后，還有一個等待隊列可以存放請求的連接，所以，Spring Boot 可以同時處理多少個連接，等于 Tomcat 的最大連接數加 Tomcat 的最大等待數。

server:
  tomcat:
    max-connections: 2000 # 最大連接數
    accept-count: 200 # 最大等待數

<dependencies>
    <!-- Spring Boot Starter Web 但排除Tomcat -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
        <!-- 排除Tomcat -->
        <exclusions>
            <exclusion>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-tomcat</artifactId>
            </exclusion>
        </exclusions>
    </dependency>
    <!-- 添加Jetty起步依賴 -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-jetty</artifactId>
    </dependency>
</dependencies>

<dependencies>
    <!-- Spring Boot Starter Web 但排除Tomcat -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
        <exclusions>
            <exclusion>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-tomcat</artifactId>
            </exclusion>
        </exclusions>
    </dependency>
    <!-- 添加Undertow起步依賴 -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-undertow</artifactId>
    </dependency>
</dependencies>