Как установить приоритеты потока HTTP/2 на сервере ASGI?

Question

Я пытаюсь реализовать стек http/2 на своем собственном сервере приложений, который я создал с нуля, используя asyncio. Насколько я понимаю, asyncio поддерживает внутреннюю очередь "задач", которая используется циклом событий для запуска задач. Теперь, чтобы реализовать приоритезацию потоков, мне нужно иметь возможность запускать задачи с высоким приоритетом в течение более длительного периода времени, чем задачи с низким приоритетом (в силу задач, о которых я думаю, сопрограмма, возвращаемая при вызове приложения (scope, receive, send) как согласно спецификации ASGI. Я не могу найти способ расставить приоритеты для этой внутренней очереди, используемой asyncio.
Я даже думал о захвате диктов событий, которые я получаю в качестве аргумента для вызываемой при отправке в приложении (область действия, получение, отправка), но спецификация asgi говорит: "Серверы протоколов должны сбрасывать любые данные, передаваемые им, в буфер отправки перед возвратом из отправки вызов". Что подразумевается под "буфером отправки" здесь? Это буфер отправки ОС / ядра?

Я думаю о приоритете потока в неправильном смысле? Что было бы хорошим подходом для реализации этого?

class Worker(object):
  def get_asgi_event_dict(self, frame):
    event_dict = {
      "type": "http",
      "asgi": {"version": "2.0", "spec_version": "2.1"},
      "http_version": "2",
      "method": frame.get_method(),
      "scheme": "https",
      "path": frame.get_path(),
      "query_string": "",
      "headers": [
        [k.encode("utf-8"), v.encode("utf-8")] for k, v in frame.headers.items()
      ],
    }
    return event_dict  

  async def handle_request(self):
    try:
      while True:
        self.request_data = self.client_connection.recv(4096)
        self.frame = self.parse_request(self.request_data)
        if isinstance(self.frame, HeadersFrame):
          if self.frame.end_stream:
            current_stream = Stream(
              self.connection_settings,
              self.header_encoder,
              self.header_decoder,
              self.client_connection,
            )
            current_stream.stream_id = self.frame.stream_id
            asgi_scope = self.get_asgi_event_dict(self.frame)
            current_stream.asgi_app = self.application(asgi_scope)
            # The next line puts the coroutine obtained from a call to
            # current_stream.asgi_app on the "tasks" queue and hence
            # out of my control to prioritize.
            await current_stream.asgi_app(
              self.trigger_asgi_application, current_stream.send_response
            )
        else:
          self.asgi_scope = self.get_asgi_event_dict(self.frame)
    except Exception:
      print("Error occurred in handle_request")
      print((traceback.format_exc()))

class Stream(object):
  async def send_response(self, event):
    # converting the event dict into http2 frames and sending them to the client.

Answer 1

Приоритеты потока HTTP работают не на том уровне, что и очередь выполнения asyncio.

Примитивы Asyncio по своей сути блокируют неблокирование. Когда asyncio запускает свою очередь задач, ядро ​​в конце концов видит последовательность инструкций, таких как "начать подключаться к A", "начать писать X в B" и "продолжить писать Y в C". Порядок этих инструкций внутри итерации цикла событий не имеет значения, поскольку ОС все равно будет выполнять их асинхронно.

Приоритеты HTTP2-потоков играют роль при мультиплексировании множества потоков через одно TCP-соединение, и это должно быть реализовано на уровне, который фактически говорит по HTTP2, например, aiohttp. Например, если вы являетесь http-сервером, клиент может запросить страницу и несколько изображений по одному TCP-соединению. Когда сокет готов к записи, вы можете выбрать, какое изображение отправить (или продолжить отправку), и именно здесь в игру вступают приоритеты потоков.

Речь идет не об асинхронном запуске задач в определенном порядке, а об асинхронных примитивах, используемых в правильном порядке.