Повторите задачу после исключения задачи с помощью asyncio.wait

У меня есть несколько сопрограмм, которые должны выполняться одновременно, некоторые из которых могут вызвать исключение. В этих случаях сопрограммы должны быть запущены снова. Как мне это сделать? Минимальная демонстрация того, что я пытаюсь сделать:

import asyncio
import time

t = time.time()


async def c1():
    print("finished c1 {}".format(time.time() - t))


async def c2():
    await asyncio.sleep(3)
    print("finished c2 {}".format(time.time() - t))


called = False


async def c3():
    global called
    # raises an exception the first time it's called
    if not called:
        called = True
        raise RuntimeError("c3 called the first time")
    print("finished c3 {}".format(time.time() - t))


async def run():
    pending = {c1(), c2(), c3()}

    num_times_called = 0
    while pending:
        num_times_called += 1
        print("{} times called with {} pending tasks: {}".format(num_times_called, len(pending), pending))

        finished, pending = await asyncio.wait(pending, return_when=asyncio.FIRST_EXCEPTION)
        for task in finished:
            if task.exception():
                print("{} got an exception {}, retrying".format(task, task.exception()))
                pending.add(task)

        print("finished {}".format(finished))

    print("finished all {}".format(time.time() - t))


asyncio.get_event_loop().run_until_complete(run())

c3() означает, что некоторые сопрограммы потерпят неудачу и требуют повторного запуска. Проблема с демо-версией заключается в том, что завершенное задание выполнено и для него установлено исключение, поэтому, когда я возвращаю его в ожидающий набор, следующий цикл выполнения завершается немедленно, без повторного запуска. c3() потому что это уже сделано.

Есть ли способ очистить задачу, чтобы она запустилась c3() снова? Я знаю, что экземпляр сопрограммы, прикрепленный к задаче, нельзя ожидать снова, иначе я получаю

RuntimeError('cannot reuse already awaited coroutine',)

это означает, что мне нужно вручную управлять картой от экземпляра сопрограммы до сопрограммы, которая его сгенерировала, а затем извлечь неисправный экземпляр сопрограммы с помощью task._coro - это правильно?

1 ответ

Решение

РЕДАКТИРОВАТЬ: сама задача может быть ключом на карте, которая чище.

async def run():
    tasks = {asyncio.ensure_future(c()): c for c in (c1, c2, c3)}
    pending = set(tasks.keys())

    num_times_called = 0
    while pending:
        num_times_called += 1
        print("{} times called with {} pending tasks: {}".format(num_times_called, len(pending), pending))

        finished, pending = await asyncio.wait(pending, return_when=asyncio.FIRST_EXCEPTION)
        for task in finished:
            if task.exception():
                print("{} got an exception {}, retrying".format(task, task.exception()))
                coro = tasks[task]
                new_task = asyncio.ensure_future(coro())
                tasks[new_task] = coro
                pending.add(new_task)

        print("finished {}".format(finished))

    print("finished all {}".format(time.time() - t))
Другие вопросы по тегам