Langchain js ConversationalRetrivalQAChain и подсказка

Я использую langchain js и провожу некоторые эксперименты с помощью ConversationalRetrivalQAChain и подсказки.

Я пытаюсь добавить переменную с именем lang в свою подсказку и установить значение во время вызова, но всегда получаю эту ошибку

выкинуть новую ошибку(Missing value for input ${node.name});

Я использую langchain.js и не могу понять, почему. Без {lang} и с правильной заменой языка, например «испанский», все работает нормально.

      

const QA_PROMPT = `You are an Assistant that speak only in {lang}, you speak and write only in {lang}. Use the following pieces of context to answer the question at the end.
If you don't know the answer, just say you don't know. DO NOT try to make up an answer.
If the question is not related to the context, politely respond that you are tuned to only answer questions that are related to the context.

{context}

Question: {question}
Helpful answer write in {lang}:`;

const chain = await ConversationalRetrievalQAChain.fromLLM(
    model,
    vectorStore.asRetriever(),
    //dobbiamo specificare i k
    {
        qaTemplate: QA_PROMPT,
        returnSourceDocuments: true,

        },

)

let res = ""
const stream = await chain.call({
    question: "Chi erano i partecipanti al verbale?",
    chat_history: [],
    lang: "Italian" // Qui dovremmo specificare la lingua


}, [{
    handleLLMNewToken(token) {
        res += token;
        console.clear()
        console.log(res)
    }
    }]
);

Я ожидаю использовать собственный язык в качестве ввода для приглашения.

Я пробовал использовать подсказку или другие способы установки подсказки для ConversationalRetrievalQAChain, но этого не произошло, поскольку он принимает только строку.

0 ответов

Другие вопросы по тегам