百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程字典 > 正文

SpringBoot嵌入式Web Server配置与优雅停机

toyiye 2024-06-21 12:19 10 浏览 0 评论

WebServer简介

嵌入式Web Server

Spring Boot 支持以下几种嵌入式 web 服务器:

  1. Tomcat - 默认使用的服务器,轻量级,简单易用。
  2. Jetty - 高性能、资源消耗少的服务器,常用于生产环境。
  3. Undertow - 基于 NIO 的服务器,性能很高,启动很快。
  4. Netty - 不是严格意义上的 web 服务器,而是基于 NIO 的网络应用框架,性能很高,可以用来开发 web 服务器。

默认Web Server加载行为

Spring Boot 决定使用哪个 Web 服务器,是根据所添加的依赖项来进行决定的。

Spring Boot 默认使用 Tomcat 作为 Web 服务器,如果添加了 spring-boot-starter-web 依赖,则会自动引入 Tomcat 依赖,并使用 Tomcat 作为 Web 服务器。

如果添加了其他 Web 服务器的依赖项,例如 Jetty 或 Undertow,Spring Boot 将自动配置相应的 EmbeddedServletContainerFactory,使用相应的 Web 服务器。例如,如果添加了 spring-boot-starter-jetty 依赖,则会自动引入 Jetty 依赖,并使用 Jetty 作为 Web 服务器。

如果需要手动更换默认的 Web 服务器,可以通过编写自定义的 EmbeddedServletContainerFactory 实现。(从 Spring Boot 2.0 开始,EmbeddedServletContainerFactory 已被弃用,取而代之的是 ConfigurableReactiveWebServerFactory)

加载并配置Web Server

Tomcat

Spring Boot 默认使用 Tomcat 作为 Web 服务器

添加依赖

groovy复制代码dependencies {
    // ...
    implementation 'org.springframework.boot:spring-boot-starter-web'
}

配置Tomcat属性

java复制代码import org.apache.tomcat.util.threads.ThreadPoolExecutor;
import org.springframework.boot.autoconfigure.condition.ConditionalOnClass;
import org.springframework.boot.web.embedded.tomcat.TomcatServletWebServerFactory;
import org.springframework.boot.web.servlet.server.ConfigurableServletWebServerFactory;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
@ConditionalOnClass(ThreadPoolExecutor.class)
public class TomcatConfiguration {

    @Bean
    public ConfigurableServletWebServerFactory webServerFactory() {
        TomcatServletWebServerFactory factory = new TomcatServletWebServerFactory();

        factory.addConnectorCustomizers(connector -> {
            // 获取 Tomcat 的 ProtocolHandler
            org.apache.coyote.ProtocolHandler protocolHandler = connector.getProtocolHandler();

            // 设置线程池属性
            if (protocolHandler instanceof org.apache.coyote.http11.AbstractHttp11Protocol) {
                org.apache.coyote.http11.AbstractHttp11Protocol<?> httpProtocol = (org.apache.coyote.http11.AbstractHttp11Protocol<?>) protocolHandler;

                // 设置最大线程数
                httpProtocol.setMaxThreads(200);

                // 设置最小空闲线程数
                httpProtocol.setMinSpareThreads(10);

                // 设置连接超时
                httpProtocol.setConnectionTimeout(30000);

                // 设置其他线程池属性...
            }
        });

        return factory;
    }

}

Jetty

添加依赖

修改 build.gradle 文件,移除 Tomcat 依赖,并添加 Jetty 依赖:

groovy复制代码dependencies {
    // ...
    implementation 'org.springframework.boot:spring-boot-starter-web'
    implementation 'org.springframework.boot:spring-boot-starter-jetty'

    // 移除 Tomcat 依赖
    configurations {
        compile.exclude module: 'spring-boot-starter-tomcat'
    }
}

我们首先添加了 spring-boot-starter-jetty 依赖,并使用 configurations 部分从编译依赖中排除了 spring-boot-starter-tomcat

现在,当你运行应用程序时,应该会使用 Jetty 作为嵌入式服务器,而不是默认的 Tomcat。

配置Jetty属性

java复制代码import org.springframework.boot.web.embedded.jetty.JettyServletWebServerFactory;
import org.springframework.boot.web.servlet.server.ConfigurableServletWebServerFactory;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class JettyConfiguration {

    @Bean
    public ConfigurableServletWebServerFactory webServerFactory() {
        JettyServletWebServerFactory factory = new JettyServletWebServerFactory();

        // 在这里对 Jetty 服务器进行自定义设置,例如:
        // factory.setPort(8080);

        return factory;
    }

}

在这个配置类中,我们创建了一个 JettyServletWebServerFactory 的实例,并将其注册为 Spring Bean。你可以在这里对 Jetty 服务器进行一些自定义配置,比如设置端口号等。

Spring WebFlux(Reactive) 和 Spring Web MVC(Servlet)

Spring WebFlux 和 Spring Web MVC 是 Spring 框架中用于构建 Web 应用程序的两种不同方法。它们分别基于 Reactive 和 Servlet 技术栈。

Spring WebFlux 是 Spring 5.0 引入的一个新的响应式 Web 框架。它基于 Reactive Streams 规范,提供了非阻塞的、事件驱动的、可组合的 API,旨在支持异步和高效的数据处理。WebFlux 使用 Reactor 库作为底层响应式库。它适用于高并发、低延迟的场景,如实时数据处理、聊天应用、物联网应用等。

WebFlux 支持两种编程模型:

  1. 注解式编程模型:与 Spring Web MVC 类似,使用 @Controller@RequestMapping 等注解。
  2. 函数式编程模型:使用函数式风格的路由和处理器定义。

Spring Web MVC 是一个基于 Servlet API 的 Web 框架,它使用阻塞 I/O,通常与线程池一起使用以支持并发请求。Spring Web MVC 在每个请求处理过程中为每个线程分配一个线程。这种方法在一定程度上限制了可伸缩性,尤其是在高并发场景下。

Reactive 和 Servlet 的区别:

  1. 编程模型:Reactive 使用响应式编程模型,提供非阻塞、事件驱动的 API,支持异步数据处理。Servlet 则使用阻塞式编程模型,每个请求都由一个线程处理。
  2. 性能和可伸缩性:由于 WebFlux 的非阻塞特性,它能更好地应对高并发、低延迟的场景。在高负载下,WebFlux 可以更有效地利用系统资源,提供更高的吞吐量。而 Servlet 在高并发场景下可能受到线程池大小的限制。
  3. API 风格:WebFlux 提供了基于响应式类型(如 FluxMono)的 API,这些类型使得数据流的处理变得更加灵活和可组合。Servlet API 主要基于阻塞式 I/O。
  4. 数据处理:Reactive 支持处理无界数据流和背压(backpressure)机制,允许消费者控制生产者的数据生成速度。Servlet 没有这些特性。

优雅停机

优雅停机(Graceful Shutdown)是指在服务停止过程中,确保已接收的请求得到完整处理,同时拒绝新的请求。这样可以在服务关闭或更新时,减少对用户和客户端的影响,避免数据丢失或出现不一致的状态。

优雅停机的主要步骤如下:

  1. 停止接收新的请求:当服务开始关闭时,它会停止接收新的请求。这可以通过关闭监听端口、拒绝新的连接或关闭负载均衡器等方式实现。
  2. 等待现有请求完成:服务关闭前,需要等待正在处理的请求完成。这包括等待数据库操作、文件 I/O 或其他异步任务完成。
  3. 设置超时:为了避免长时间等待,可以设置一个超时时间。如果在超时时间内未处理完所有请求,服务将强制关闭。这个时间应该根据应用程序的特点和需求来设置。
  4. 释放资源:在所有请求处理完成后,服务应释放所有占用的资源,如数据库连接、缓存等。这有助于确保应用程序在关闭时不会导致资源泄露。

优雅停机原理

讨论 JVM 优雅停机原理之前,先了解一下 JVM 的停止方式。JVM 停止主要有以下几种情况:

  1. 执行完所有非守护线程(non-daemon threads)后自然退出。
  2. 调用 System.exit() 方法。
  3. 接收到操作系统发送的中断信号(如 SIGTERM)。

JVM 优雅停机的目标是确保在 JVM 停止过程中,程序能够完整地处理已接收的请求,释放资源,关闭连接等,避免数据丢失或产生不一致的状态。

JVM 实现优雅停机的主要机制是通过关闭钩子(Shutdown Hook)。关闭钩子是一个线程,它在JVM 收到关闭信号时执行。你可以通过 Runtime.getRuntime().addShutdownHook(Thread hook) 方法向 JVM 注册一个或多个关闭钩子。当 JVM 收到关闭信号(如 SIGTERM)时,它会启动所有已注册的关闭钩子线程,并等待它们执行完成。在关闭钩子线程中,可以实现以下任务:

  1. 处理正在进行的请求,等待它们完成。
  2. 停止接收新的请求。
  3. 释放资源,如数据库连接、线程池、缓存等。
  4. 设置超时,以避免无限期等待。

SpringBoot实现优雅停机

application.yml

在 Java 和 Spring Boot 应用程序中,可以借助以下配置实现优雅停机:

yaml复制代码# application.yml
server:
  shutdown: graceful
  graceful-shutdown-timeout: 30s

这里,我们通过 server.shutdown 属性设置为 graceful 开启优雅停机,通过 server.graceful-shutdown-timeout 属性设置超时时间为 30 秒。当收到关闭信号时,Spring Boot 会按照上述步骤优雅地关闭服务。

注册shutdown hook(简单版本)

java复制代码
SpringApplication springApplication = new SpringApplication(XXApplication.class);
        ConfigurableApplicationContext ctx = springApplication.run(args);
        Runtime.getRuntime().addShutdownHook(
                new Thread(() -> {
                    try {
                        TimeUnit.MILLISECONDS.sleep(10000L);
                    } catch (InterruptedException e) {
                        log.error("关机发生异常", e);
                        Thread.currentThread().interrupt();
                    }
                    ctx.close();
                }));

注册shutdown hook(复杂版本)

创建一个 TomcatShutdown

java复制代码import org.apache.catalina.connector.Connector;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.web.embedded.tomcat.TomcatConnectorCustomizer;
import org.springframework.context.ApplicationListener;
import org.springframework.context.event.ContextClosedEvent;
import org.springframework.stereotype.Component;

import java.util.concurrent.Executor;
import java.util.concurrent.ThreadPoolExecutor;
import java.util.concurrent.TimeUnit;

@Component
public class TomcatShutdown implements TomcatConnectorCustomizer, ApplicationListener<ContextClosedEvent> {

    private static final int TIMEOUT = 30; // 超时时间,单位:秒

    @Autowired
    private Connector connector;

    @Override
    public void customize(Connector connector) {
        this.connector = connector;
    }

    @Override
    public void onApplicationEvent(ContextClosedEvent event) {
        shutdownGracefully();
    }

    public void shutdownGracefully() {
        if (connector == null) {
            return;
        }

        connector.pause();
        Executor executor = connector.getProtocolHandler().getExecutor();

        if (executor instanceof ThreadPoolExecutor) {
            try {
                ThreadPoolExecutor threadPoolExecutor = (ThreadPoolExecutor) executor;
                threadPoolExecutor.shutdown();

                if (!threadPoolExecutor.awaitTermination(TIMEOUT, TimeUnit.SECONDS)) {
                    System.err.println("Tomcat 进程在 " + TIMEOUT + " 秒内无法停止,执行强制关闭。");
                }
            } catch (InterruptedException ex) {
                Thread.currentThread().interrupt();
            }
        }
    }
}

添加关闭钩子

java复制代码import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.boot.web.embedded.tomcat.TomcatShutdown;
import org.springframework.context.ConfigurableApplicationContext;

@SpringBootApplication
public class GracefulShutdownDemoApplication {
    public static void main(String[] args) {
        SpringApplication application = new SpringApplication(GracefulShutdownDemoApplication.class);
        ConfigurableApplicationContext context = application.run(args);

        // 添加优雅停机关闭钩子
        Runtime.getRuntime().addShutdownHook(new Thread(() -> {
            context.getBean(TomcatShutdown.class).shutdownGracefully();
            context.close();
        }));
    }
}

相关推荐

为何越来越多的编程语言使用JSON(为什么编程)

JSON是JavascriptObjectNotation的缩写,意思是Javascript对象表示法,是一种易于人类阅读和对编程友好的文本数据传递方法,是JavaScript语言规范定义的一个子...

何时在数据库中使用 JSON(数据库用json格式存储)

在本文中,您将了解何时应考虑将JSON数据类型添加到表中以及何时应避免使用它们。每天?分享?最新?软件?开发?,Devops,敏捷?,测试?以及?项目?管理?最新?,最热门?的?文章?,每天?花?...

MySQL 从零开始:05 数据类型(mysql数据类型有哪些,并举例)

前面的讲解中已经接触到了表的创建,表的创建是对字段的声明,比如:上述语句声明了字段的名称、类型、所占空间、默认值和是否可以为空等信息。其中的int、varchar、char和decimal都...

JSON对象花样进阶(json格式对象)

一、引言在现代Web开发中,JSON(JavaScriptObjectNotation)已经成为数据交换的标准格式。无论是从前端向后端发送数据,还是从后端接收数据,JSON都是不可或缺的一部分。...

深入理解 JSON 和 Form-data(json和formdata提交区别)

在讨论现代网络开发与API设计的语境下,理解客户端和服务器间如何有效且可靠地交换数据变得尤为关键。这里,特别值得关注的是两种主流数据格式:...

JSON 语法(json 语法 priority)

JSON语法是JavaScript语法的子集。JSON语法规则JSON语法是JavaScript对象表示法语法的子集。数据在名称/值对中数据由逗号分隔花括号保存对象方括号保存数组JS...

JSON语法详解(json的语法规则)

JSON语法规则JSON语法是JavaScript对象表示法语法的子集。数据在名称/值对中数据由逗号分隔大括号保存对象中括号保存数组注意:json的key是字符串,且必须是双引号,不能是单引号...

MySQL JSON数据类型操作(mysql的json)

概述mysql自5.7.8版本开始,就支持了json结构的数据存储和查询,这表明了mysql也在不断的学习和增加nosql数据库的有点。但mysql毕竟是关系型数据库,在处理json这种非结构化的数据...

JSON的数据模式(json数据格式示例)

像XML模式一样,JSON数据格式也有Schema,这是一个基于JSON格式的规范。JSON模式也以JSON格式编写。它用于验证JSON数据。JSON模式示例以下代码显示了基本的JSON模式。{"...

前端学习——JSON格式详解(后端json格式)

JSON(JavaScriptObjectNotation)是一种轻量级的数据交换格式。易于人阅读和编写。同时也易于机器解析和生成。它基于JavaScriptProgrammingLa...

什么是 JSON:详解 JSON 及其优势(什么叫json)

现在程序员还有谁不知道JSON吗?无论对于前端还是后端,JSON都是一种常见的数据格式。那么JSON到底是什么呢?JSON的定义...

PostgreSQL JSON 类型:处理结构化数据

PostgreSQL提供JSON类型,以存储结构化数据。JSON是一种开放的数据格式,可用于存储各种类型的值。什么是JSON类型?JSON类型表示JSON(JavaScriptO...

JavaScript:JSON、三种包装类(javascript 包)

JOSN:我们希望可以将一个对象在不同的语言中进行传递,以达到通信的目的,最佳方式就是将一个对象转换为字符串的形式JSON(JavaScriptObjectNotation)-JS的对象表示法...

Python数据分析 只要1分钟 教你玩转JSON 全程干货

Json简介:Json,全名JavaScriptObjectNotation,JSON(JavaScriptObjectNotation(记号、标记))是一种轻量级的数据交换格式。它基于J...

比较一下JSON与XML两种数据格式?(json和xml哪个好)

JSON(JavaScriptObjectNotation)和XML(eXtensibleMarkupLanguage)是在日常开发中比较常用的两种数据格式,它们主要的作用就是用来进行数据的传...

取消回复欢迎 发表评论:

请填写验证码