Как установить несколько рабочих потоков для прослушивателя сервера?

Question

Я пытаюсь создать несколько рабочих потоков для нижнего сервера, чтобы было доступно несколько потоков для одновременной обработки запроса от клиента. Я попытался установить их на уровне сервера, используя UndertowOptions и Options. Пытался создать собственный XnioWorker и назначить его серверу Undertow.

Кажется, здесь ничего не работает, несмотря на все попытки настроить рабочие потоки.

      Xnio xnio = Xnio.getInstance();
        XnioWorker worker = null;
        try {
            worker = xnio.createWorker(
                    OptionMap.builder().set(Options.WORKER_IO_THREADS, 50).set(Options.WORKER_TASK_CORE_THREADS, 50)
                            .set(Options.WORKER_TASK_MAX_THREADS, 50).set(Options.TCP_NODELAY, true).getMap());
        } catch (Exception e) {
            // TODO Auto-generated catch block
            e.printStackTrace();
        }
//      OptionMap socketOptions = OptionMap.builder().set(Options.WORKER_IO_THREADS, 10).set(Options.TCP_NODELAY, true)
//              .set(Options.REUSE_ADDRESSES, true).getMap();

        Undertow server = Undertow.builder().setServerOption(UndertowOptions.ENABLE_HTTP2, true)
                .setServerOption(UndertowOptions.HTTP2_SETTINGS_MAX_CONCURRENT_STREAMS,
                        UndertowHttp2ServerEpLevel.maxReqPerConn)
                .setServerOption(UndertowOptions.MAX_CONCURRENT_REQUESTS_PER_CONNECTION,
                        UndertowHttp2ServerEpLevel.maxReqPerConn)
                .addHttpListener(port, host)
                .setWorkerOption(Options.WORKER_IO_THREADS, 10)
                .setWorkerOption(Options.WORKER_TASK_CORE_THREADS, 10)
                .setWorkerThreads(UndertowHttp2ServerEpLevel.iotheads)
                .setIoThreads(UndertowHttp2ServerEpLevel.iotheads)
                .setWorker(worker)
                .setHandler(exchange -> {

                    Thread.sleep(responseDelayInMs);

                    DateFormat dateFormat = new SimpleDateFormat("yyyy/MM/dd HH:mm:ss");
                    Date date = new Date();

                    System.out.print(dateFormat.format(date) + ", **Thread name: " + Thread.currentThread().getName());**
                    System.out.println(
                            ": " + port + ", Client address is: " + exchange.getConnection().getPeerAddress().toString()
                                    + " TotalMsgReceived: " + ++msgCounter);

                    exchange.getResponseHeaders().put(Headers.CONTENT_TYPE, "application/json");
                    exchange.setStatusCode(returnCode);
//                  exchange.getResponseSender().send("Undertow Hi");
               
                }).build();
        server.start();

С помощью приведенного выше кода я вижу, что код обработчика всегда выполняется одним и тем же потоком. И с одним потоком с предполагаемой задержкой n / w 100 мс я могу обрабатывать только 9 запросов в секунду. Вот почему мне нужно большее количество потоков для одновременной обработки запроса, чтобы можно было достичь высокой скорости.

Вывод в консоль:

* 2021/07/29 09:22:46, имя потока: XNIO-1 I / O-12: 8081, адрес клиента: /127.0.0.1:16002 TotalMsgReceived: 534

2021/07/29 09:22:47, имя потока: XNIO-1 I / O-12: 8081, адрес клиента: /127.0.0.1:16002 TotalMsgReceived: 535 *

Теперь из JMX я вижу, что размер пула потоков обновлен до 50, но все еще не улучшена производительность и нет нескольких рабочих потоков, видимых в консоли:

Любой взгляд на это поможет. Спасибо!

Answer 1

Из документации

Отправка в рабочий поток

      public void handleRequest(final HttpServerExchange exchange) throws Exception{
    if (exchange.isInIoThread()) {
      exchange.dispatch(this);
      return;
    }
    //handler code
}

Кажется, вам не хватает этой части, потому что все в вашем случае работает в потоке ввода-вывода.

Существует несколько перегрузок метода отправки, которые вы можете выбрать в зависимости от вашего варианта использования.

Answer 2

Следующий код выполняет свою работу.

      Undertow server = Undertow.builder().setServerOption(UndertowOptions.ENABLE_HTTP2, true)
                .setServerOption(UndertowOptions.HTTP2_SETTINGS_MAX_CONCURRENT_STREAMS,
                        UndertowHttp2ServerEpLevelMT.maxReqPerConn)
                .setServerOption(UndertowOptions.MAX_CONCURRENT_REQUESTS_PER_CONNECTION,
                        UndertowHttp2ServerEpLevelMT.maxReqPerConn)
                .addHttpListener(port, host)
                .setWorkerOption(Options.WORKER_IO_THREADS, UndertowHttp2ServerEpLevelMT.iotheads)
                .setWorkerOption(Options.WORKER_TASK_CORE_THREADS, UndertowHttp2ServerEpLevelMT.iotheads)
                .setWorkerOption(Options.WORKER_TASK_MAX_THREADS, UndertowHttp2ServerEpLevelMT.iotheads)
                .setWorkerThreads(UndertowHttp2ServerEpLevelMT.iotheads)
                .setIoThreads(UndertowHttp2ServerEpLevelMT.iotheads)
                .setHandler(new HttpHandler() {
                    @Override
                    public void handleRequest(final HttpServerExchange exchange) throws Exception {
                        if (exchange.isInIoThread()) {
                            exchange.dispatch(this);
                            return;
                        }
                        System.out.println("Port: " + port + ", Client address is: "
                                + exchange.getConnection().getPeerAddress().toString());
                        exchange.setStatusCode(returnCode);
                    }
                }).build();
        server.start();