Есть ли способ быстро переместить много файлов в Python?
У меня есть небольшой скрипт, который перемещает файлы в моей коллекции фотографий, но он работает немного медленно.
Я думаю, это потому, что я делаю одно перемещение файла за раз. Я предполагаю, что смогу ускорить это, если я сделаю все перемещения файлов из одного каталога в другой одновременно. Есть способ сделать это?
Если это не причина моей медлительности, как еще я могу ускорить это?
Обновить:
Я не думаю, что моя проблема понимается. Возможно, перечисление моего исходного кода поможет объяснить:
# ORF is the file extension of the files I want to move;
# These files live in dirs shared by JPEG files,
# which I do not want to move.
import os
import re
from glob import glob
import shutil
DIGITAL_NEGATIVES_DIR = ...
DATE_PATTERN = re.compile('\d{4}-\d\d-\d\d')
# Move a single ORF.
def move_orf(src):
dir, fn = os.path.split(src)
shutil.move(src, os.path.join('raw', dir))
# Move all ORFs in a single directory.
def move_orfs_from_dir(src):
orfs = glob(os.path.join(src, '*.ORF'))
if not orfs:
return
os.mkdir(os.path.join('raw', src))
print 'Moving %3d ORF files from %s to raw dir.' % (len(orfs), src)
for orf in orfs:
move_orf(orf)
# Scan for dirs that contain ORFs that need to be moved, and move them.
def main():
os.chdir(DIGITAL_NEGATIVES_DIR)
src_dirs = filter(DATE_PATTERN.match, os.listdir(os.curdir))
for dir in src_dirs:
move_orfs_from_dir(dir)
if __name__ == '__main__':
main()
3 ответа
На какой ты платформе? И действительно ли это должен быть Python? Если нет, вы можете просто использовать системные инструменты, такие как mv
(*nix) или move
(окна).
$ stat -c "%s" file
382849574
$ time python -c 'import shutil;shutil.move("file","/tmp")'
real 0m29.698s
user 0m0.349s
sys 0m1.862s
$ time mv file /tmp
real 0m29.149s
user 0m0.011s
sys 0m1.607s
$ time python -c 'import shutil;shutil.move("file","/tmp")'
real 0m30.349s
user 0m0.349s
sys 0m2.015s
$ time mv file /tmp
real 0m28.292s
user 0m0.015s
sys 0m1.702s
$ cat test.py
#!/usr/bin/env python
import shutil
shutil.move("file","/tmp")
shutil.move("/tmp/file",".")
$ cat test.sh
#!/bin/bash
mv file /tmp
mv /tmp/file .
# time python test.py
real 1m1.175s
user 0m0.641s
sys 0m4.110s
$ time bash test.sh
real 1m1.040s
user 0m0.026s
sys 0m3.242s
$ time python test.py
real 1m3.348s
user 0m0.659s
sys 0m4.024s
$ time bash test.sh
real 1m1.740s
user 0m0.017s
sys 0m3.276s
Редактировать:
В моем собственном замешательстве (которое JoshD помогло исправить) я забыл, что shutil.move
принимает каталоги, так что вы можете (и должны) просто использовать это для перемещения вашего каталога в виде пакета.
Если вы просто хотите переместить каталог, вы можете использовать shutil.move. Это будет чертовски быстро (если это в одной файловой системе), потому что это просто операция переименования.