GPT4 – Невозможно получить ответ на вопрос?

Question

Поскольку заголовок четко описывает проблему, с которой я столкнулся, я не могу получить ответ на вопрос из набора данных, который использую, с помощью nomic- ai/gpt4all . Исполнение просто прекращается. Никаких исключений не происходит. Как я могу преодолеть эту ситуацию?

p.s. я использую автономный режимGPT4так как мне нужно обработать массу вопросов.

p.s. Эта проблема возникает через некоторое время . Что-то мешаетGPT4Allдля генерации ответа на заданный вопрос.

      question = 'Was Avogadro a  professor at the University of Turin?'
gpt = GPT4All()
gpt.open()
resp = gpt.prompt(question)
print(f'Response: {resp}')  # --> the execution does not reach here

Answer 1

Это работает на моем ноутбуке с Windows. Использование pygpt4all на основе этого: https://github.com/nomic-ai/pygpt4all.

      from pygpt4all.models.gpt4all_j import GPT4All_J

def new_text_callback(text):
    print(text, end="")


model = GPT4All_J('./models/ggml-gpt4all-j-v1.3-groovy.bin')
model.generate("Was Avogadro a  professor at the University of Turin?", n_predict=55, new_text_callback=new_text_callback)

Выход:

      Was Avogadro a  professor at the University of Turin? If so, can you give me the name of his field of research? And did he publish any papers?<|endoftext|>