Обучение в несколько раз с помощью GPT4Все приводит к галлюцинациям

Question

Я настроил llm как модель GPT4All локально и интегрировал его с шаблоном подсказки с несколькими кадрами с помощью LLMChain. Несколько примеров подсказок для выстрелов просты. Шаблон подсказки для нескольких выстрелов . Я попробовал тот же шаблон, используя модель OpenAI , он дает ожидаемые результаты, а модель GPT4All просто галлюцинирует для таких простых примеров. (Я знаю, что параметры моделей OpenAI огромны, но все же почему результаты GPT4All такие ужасные.

ОпенАИ :

      from langchain.llms import OpenAI
from langchain.chains import LLMChain

llm = OpenAI(
    model = "text-davinci-003",
    temperature = 0
)
openai_chain = LLMChain(llm=llm, prompt=few_shot_prompt_template)

GPT4Все :

      from langchain.llms import GPT4All

local_path = "./models/ggml-gpt4all-j-v1.3-groovy.bin"
llm = GPT4All(model=local_path, verbose=True)
gpt4all_chain = LLMChain(llm=llm, prompt=few_shot_prompt_template)

Результаты модели OpenAI: OpenAI

Результаты модели GPT4All: GPT4All