Как запустить Llama.cpp с CuBlas в Windows?

Question

Я использовал Llama.cpp и запускал модель на своем Mac (только процессор), но теперь я хотел переключиться на Windows и запустить ее на графическом процессоре, но когда я пытаюсь собрать CuBlas, я не могу выполнить ./main или ./ файл сервера вообще. Есть идеи, что может быть не так? или хотите, можно сделать? Вот с чем я сталкиваюсь, когда строю с помощью CuBlas:

      ./main.exe -m ./models/7B/llama-2-7b-chat.Q4_K_M.gguf -n 128 -ngl 40

./main.exe : The term './main.exe' is not recognized as the name of a cmdlet, function, script file, or operable program. Check the spelling of the name, or if a path was 
included, verify that the path is correct and try again.
At line:1 char:1
+ ./main.exe -m ./models/7B/llama-2-7b-chat.Q4_K_M.gguf -n 128 -ngl 40
+ ~~~~~~~~~~
    + CategoryInfo          : ObjectNotFound: (./main.exe:String) [], CommandNotFoundException
    + FullyQualifiedErrorId : CommandNotFoundException

Answer 1

Сообщение об ошибке, с которым вы столкнулись, показывает, что ваш файл main.exe не найден. Скорее всего, текущий каталог вашей командной строки не находится там, где находится ваш main.exe. Сначала перейдите в правильный каталог и повторите попытку.

Сообщение об ошибке указывает, что это не имеет ничего общего с файлом main.exe llama.cpp, а связано с вашим путем.