Ошибка «Нет соответствующей модели для указанного имени файла. Обязательно укажите допустимый тип_модели» в gpt4all.

Question

Я пытаюсь запустить модель gpt4all через библиотеку gpt4all python и разместить ее в Интернете. Согласно документации, мое форматирование правильное, поскольку я указал путь, название модели и загрузил фактическую модель на свой компьютер.

Мой код:

      from gpt4all import GPT4All

model = GPT4All("orca-mini-3b.ggmlv3.q4_0.bin",model_path="C:/Users/mhaba/AppData/Local/nomic.ai/GPT4All/", allow_download=False)

Это ошибка, которую я продолжаю получать:

      PS C:\Users\mhaba\Downloads\deliver> & "C:/Program Files (x86)/Microsoft Visual Studio/Shared/Python39_64/python.exe" c:/Users/mhaba/Downloads/deliver/app/test.py
Traceback (most recent call last):
  File "c:\Users\mhaba\Downloads\deliver\app\test.py", line 3, in <module>
    model = GPT4All("orca-mini-3b.ggmlv3.q4_0",model_path="C:/Users/mhaba/AppData/Local/nomic.ai/GPT4All/", allow_download=False)
  File "C:\Users\mhaba\AppData\Roaming\Python\Python39\site-packages\gpt4all\gpt4all.py", line 45, in __init__
    self.model = GPT4All.get_model_from_name(model_name)
  File "C:\Users\mhaba\AppData\Roaming\Python\Python39\site-packages\gpt4all\gpt4all.py", line 319, in get_model_from_name
    raise ValueError(err_msg)
ValueError: No corresponding model for provided filename orca-mini-3b.ggmlv3.q4_0.bin.
            If this is a custom model, make sure to specify a valid model_type.

Я не уверен, что вызывает ошибку.

Answer 1

Кажется, у вас нет загруженной модели по пути.model_path="C:/Users/mhaba/AppData/Local/nomic.ai/GPT4All/",вы предоставили. Итак, когдаGPT4Allпытается получить модель, но ничего не находит в указанном вами каталоге. Вам либо придется изменитьallow_download=Trueна этот путь иGPT4ALLметод загрузит модель по этому пути. Или вы можете указать новый путь, по которому вы уже скачали модель. Вот как вы можете это сделать:

      from gpt4all import GPT4All
path = "where you want your model to be downloaded"
model = GPT4All("orca-mini-3b.ggmlv3.q4_0.bin", model_path=path, allow_download=True)

Как только вы загрузите модель, в следующий раз установитеallow_downlaod=False. В вашем текущем коде метод не может найти ранее загруженную модель. Вы также можете сделать,os.getcwd()чтобы загрузить модель в ваш текущий каталог.