асинхронная версия работает медленнее, чем неасинхронная версия

Question

Моя программа делает следующее:

1. Принимает папку с файлами.txt

2. Для каждого файла:

   2.1. прочтите файл

   2.2 сортирует содержимое как список и помещает его в главный список

Я сделал это без async/await, и это статистика времени

real    0m0.036s

user    0m0.018s

sys     0m0.009s

С приведенным ниже кодом async/await я получаю

real    0m0.144s

user    0m0.116s

sys     0m0.029s

что с учетом варианта использования предполагает, что я неправильно использую aysncio.

Кто-нибудь знает, что я делаю не так?

import asyncio
import aiofiles
import os

directory = "/tmp"
listOfLists = list()

async def sortingFiles(numbersInList):
    numbersInList.sort()

async def awaitProcessFiles(filename,numbersInList):
    await readFromFile(filename,numbersInList)
    await sortingFiles(numbersInList)
    await appendToList(numbersInList)


async def readFromFile(filename,numbersInList):
    async with aiofiles.open(directory+"/"+filename, 'r') as fin:
        async for line in fin:
            return numbersInList.append(int(line.strip("\n"),10))            
    fin.close()    

async def appendToList(numbersInList):
    listOfLists.append(numbersInList)

async def main():
    tasks=[]
    for filename in os.listdir(directory):
        if filename.endswith(".txt"):  
            numbersInList =list()
            task=asyncio.ensure_future(awaitProcessFiles(filename,numbersInList))
            tasks.append(task)
    await asyncio.gather(*tasks)   

if __name__== "__main__":
    asyncio.run(main())

Информация о профиле:

        151822 function calls (151048 primitive calls) in 0.239 seconds

   Ordered by: internal time

   ncalls  tottime  percall  cumtime  percall filename:lineno(function)
       11    0.050    0.005    0.050    0.005 {built-in method _imp.create_dynamic}
       57    0.022    0.000    0.022    0.000 {method 'read' of '_io.BufferedReader' objects}
       57    0.018    0.000    0.018    0.000 {built-in method io.open_code}
      267    0.012    0.000    0.012    0.000 {method 'control' of 'select.kqueue' objects}
       57    0.009    0.000    0.009    0.000 {built-in method marshal.loads}
      273    0.009    0.000    0.009    0.000 {method 'recv' of '_socket.socket' objects}
      265    0.005    0.000    0.098    0.000 base_events.py:1780(_run_once)
      313    0.004    0.000    0.004    0.000 {built-in method posix.stat}
      122    0.004    0.000    0.004    0.000 {method 'acquire' of '_thread.lock' objects}
  203/202    0.003    0.000    0.011    0.000 {built-in method builtins.__build_class__}
     1030    0.003    0.000    0.015    0.000 thread.py:158(submit)
     1030    0.003    0.000    0.009    0.000 futures.py:338(_chain_future)
     7473    0.003    0.000    0.003    0.000 {built-in method builtins.hasattr}
     1030    0.002    0.000    0.017    0.000 futures.py:318(_copy_future_state)
       36    0.002    0.000    0.002    0.000 {built-in method posix.getcwd}
     3218    0.002    0.000    0.077    0.000 {method 'run' of 'Context' objects}
     6196    0.002    0.000    0.003    0.000 threading.py:246(__enter__)
     3218    0.002    0.000    0.078    0.000 events.py:79(_run)
     6192    0.002    0.000    0.004    0.000 base_futures.py:13(isfuture)
     1047    0.002    0.000    0.002    0.000 threading.py:222(__init__)

---

Сделайте несколько тестовых файлов...

import random, os
path = <directory name here>
nlines = range(1000)
nfiles = range(1,101)
for n in nfiles:
    fname = f'{n}.txt'
    with open(os.path.join(path,fname),'w') as f:
        for _ in nlines:
            q = f.write(f'{random.randrange(1,10000)}\n')

Answer 1

Asyncio не имеет смысла для локальных файлов. По этой причине их нет даже в стандартной библиотеке Python.

async for line in fin:

Обратите внимание на строку выше. Цикл событий приостанавливает выполнение совместной процедуры для каждой прочитанной строки и выполняет другую подпрограмму. Это означает, что следующие строки файла в кэше процессора просто выбрасываются, чтобы освободить место для следующей совместной процедуры. (Хотя они все еще будут в ОЗУ).

Когда следует использовать aiofiles?

Предположим, вы уже используете асинхронный код в своей программе и иногда вам нужно выполнить некоторую обработку файлов. Если обработка файла производилась в том же цикле событий, все остальные подпрограммы будут заблокированы. В этом случае вы можете либо использовать aiofiles, либо выполнять обработку в другом исполнителе.

Если все, что программа делает, это просто читает из файлов. Будет быстрее выполнять их последовательно, чтобы эффективно использовать кеш. Переход от одного файла к другому похож на переключение контекста потока и должен замедлить его.