Случайный "/usr/bin/env: 'python3.6': нет такого файла или каталога" при работе с dask-yarn

Question

Я использую dask-yarnв локальном режиме в мапр-кластере. Я распаковал виртуальную среду в общую папку между узлами. Иногда рабочие (контейнеры) запускаются в кластере правильно, но иногда контейнеры имеют следующее сообщение об ошибке в yarn.

/usr/bin/env: 'python3.6': No such file or directory

А пока я вижу много контейнеров со статусом FAILED ( > 1000). Мое начальное обеспечение составляет около 5 человек, однако мне нужно подождать около 10 минут или больше, пока я не получу начальное обеспечение.

Следующий мой /etc/dask/yarn.yaml конфигурация

yarn:
  specification: null        
  name: dask                 
  queue: default             
  deploy-mode: local        
  environment: "venv://<shared_location>"
  tags: []                  
  user: ''                  
  host: "host_name"             
  port: 8788                    
  dashboard-address: ":17439"   

  scheduler:                 
    vcores: 1
    memory: 2GiB

  worker:                   
    vcores: 1
    memory: 2GiB
    restarts: -1            
    env: {'SOME_VAR':'some_value'}

Answer 1

Причина проблемы: некоторые узлы не имеют одинаковой версии Python и находятся в одном месте. Поскольку я использую виртуальную среду. В виртуальной среде ожидается, что питон будет находиться в одном месте на всех узлах.