Загрузка модели LLAMA-2 не удалась.

Я получил токен от Huggingface и смог войти в систему с помощью Huggingface-cli. Я также получил разрешение на загрузку модели 7B-hf. Когда я начал прогон вывода, загрузка модели началась хорошо, но теперь она зависла.Mapи оно не завершается.

Что я пропустил?

      Loading checkpoint shards: 100%| . . . | 2/2 [00:01<00:00,  1.83it/s]
Data type of the model: torch.float32
Map:   0%| . . .| 0/2662 [00:00<?, ? examples/s]

0 ответов

Другие вопросы по тегам