Как запросить инженер/контекст для llm (генерация кода)
Я создаю естественный язык для приложения sql, и для этого я использую:https://teknium-replit-v2-codeinstruct-3b.hf.space/ , используя его API, я генерирую код sql, но я не знаю, как предоставить контекст или как оформить шаблон приглашения так, чтобы он возвращал соответствующее приглашение.
from gradio_client import Client
client = Client("https://teknium-replit-v2-codeinstruct-3b.hf.space/")
result = client.predict
(
'''
### Instruction: give me sql query to get all data from table
### Input: I have 2 relations: Orders(Customer id, name, product SKU, date, cost) and Product (product SKU, product name, SKU cost)
''',
8, 0.1, api_name="/predict"
)
print(result)
контекст: у меня есть 2 отношения: заказы (идентификатор клиента, имя, SKU продукта, дата, стоимость) и продукт (SKU продукта, название продукта, стоимость SKU).
Я попытался передать строку в формате, указанном в документации здесь: https://huggingface.co/teknium/Replit-v2-CodeInstruct-3B , но не получил соответствующего результата.