Загрузка модели LLAMA-2 не удалась.
Я получил токен от Huggingface и смог войти в систему с помощью Huggingface-cli. Я также получил разрешение на загрузку модели 7B-hf. Когда я начал прогон вывода, загрузка модели началась хорошо, но теперь она зависла.Map
и оно не завершается.
Что я пропустил?
Loading checkpoint shards: 100%| . . . | 2/2 [00:01<00:00, 1.83it/s]
Data type of the model: torch.float32
Map: 0%| . . .| 0/2662 [00:00<?, ? examples/s]