Ошибка при запуске модели FastChat Vicuna без графического процессора
Я хочу использовать модель с открытым исходным кодом Vicuna для обучения моего набора данных.
На моем компьютере нет графического процессора, поэтому я хотел использовать их сервер RESTful API. Я использовал Windows PowerShell для команд ниже.
Согласно их объяснению (https://github.com/lm-sys/FastChat/blob/main/docs/openai_api.md)
Сначала я запустил команду
> python3 -m fastchat.serve.controller
Затем он открыл для меня локальный хост. Я открыл его в браузере и увидел следующее сообщение:
> {"detail":"Not Found"}.
Затем я открыл новое окно PowerShell и выполнил вторую команду:
> python3 -m fastchat.serve.model_worker --model-path lmsys/vicuna-7b-v1.3
Однако я столкнулся со следующей ошибкой:
AssertionError: Torch not compiled with CUDA enabled
Возникает ли эта ошибка из-за того, что на моем компьютере нет графического процессора?