Как получить куски элементов из очереди?

У меня есть очередь, из которой мне нужно получить порции по 10 записей и поместить их в список, который затем обрабатывается дальше. Приведенный ниже код работает ("обработанный далее", в примере, просто распечатывает список).

import multiprocessing

# this is an example of the actual queue
q = multiprocessing.Queue()
for i in range(22):
    q.put(i)
q.put("END")

counter = 0
mylist = list()
while True:
    v = q.get()
    if v == "END":
        # outputs the incomplete (< 10 elements) list
        print(mylist)
        break
    else:
        mylist.append(v)
        counter += 1
        if counter % 10 == 0:
            print(mylist)
            # empty the list
            mylist = list()

# this outputs
# [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
# [10, 11, 12, 13, 14, 15, 16, 17, 18, 19]
# [20, 21]

Этот код ужасен Я не вижу, как это улучшить - я читал некоторое время назад, как использовать iter со стражем, но не понимаю, как моя проблема может использовать его.

Есть ли лучший (= более элегантный / питонический) способ решения проблемы?

Источник

1 ответ

Решение

Вы могли бы использовать iter дважды: iter(q.get, 'END') возвращает итератор, который может перебирать значения в очереди до 'END' возвращается q.get(),

Тогда вы могли бы использовать рецепт окуня

iter(lambda: list(IT.islice(iterator, 10)), [])

сгруппировать итератор в куски по 10 элементов.

import itertools as IT
import multiprocessing as mp

q = mp.Queue()
for i in range(22):
    q.put(i)
q.put("END")

iterator = iter(q.get, 'END')
for chunk in iter(lambda: list(IT.islice(iterator, 10)), []):
    print(chunk)

доходность

[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
[10, 11, 12, 13, 14, 15, 16, 17, 18, 19]
[20, 21]
Источник

В Python 3.8 вы можете использовать оператор моржа.

import threading
from itertools import islice
from queue import Queue

def producer(queue, _end):
    for i in range(10, 100):
        queue.put(i)
    else:
        queue.put(_end)

def consumer(queue, _end):
    iterator = iter(queue.get, _end)
    # Consumes the queue in batches
    while batch := list(islice(iterator, 10)):
        print(batch)

def main():

    queue = Queue()
    _end = object()

    t1 = threading.Thread(target=consumer, args=(queue, _end))
    t2 = threading.Thread(target=producer, args=(queue, _end))

    t1.start()
    t2.start()

    t2.join()
    t1.join()

if __name__ == '__main__':
    main()

In [2]: main()                                                                  
[10, 11, 12, 13, 14, 15, 16, 17, 18, 19]
[20, 21, 22, 23, 24, 25, 26, 27, 28, 29]
[30, 31, 32, 33, 34, 35, 36, 37, 38, 39]
[40, 41, 42, 43, 44, 45, 46, 47, 48, 49]
[50, 51, 52, 53, 54, 55, 56, 57, 58, 59]
[60, 61, 62, 63, 64, 65, 66, 67, 68, 69]
[70, 71, 72, 73, 74, 75, 76, 77, 78, 79]
[80, 81, 82, 83, 84, 85, 86, 87, 88, 89]
[90, 91, 92, 93, 94, 95, 96, 97, 98, 99]
Источник
Другие вопросы по тегам