Как сохранить предварительно обученный API на GPT-3?

Question

У меня вопрос по GPT-3. Как мы знаем, мы можем дать сети несколько примеров и «скорректировать» модель.

1. Покажи примеры модели. 2. Сохраните эти примеры. 3. повторно используйте API.

импорт openai

      class Example():
    """Stores an input, output pair and formats it to prime the model."""
def __init__(self, inp, out):
    self.input = inp
    self.output = out

def get_input(self):
    """Returns the input of the example."""
    return self.input

def get_output(self):
    """Returns the intended output of the example."""
    return self.output

def format(self):
    """Formats the input, output pair."""
    return f"input: {self.input}\noutput: {self.output}\n"


class GPT:
    """The main class for a user to interface with the OpenAI API.
    A user can add examples and set parameters of the API request."""
def __init__(self, engine='davinci',
             temperature=0.5,
             max_tokens=100):
    self.examples = []
    self.engine = engine
    self.temperature = temperature
    self.max_tokens = max_tokens

def add_example(self, ex):
    """Adds an example to the object. Example must be an instance
    of the Example class."""
    assert isinstance(ex, Example), "Please create an Example object."
    self.examples.append(ex.format())

Теперь, когда я использую примеры «дать» модели, у меня есть следующий код:

      gpt2 = GPT(engine="davinci", temperature=0.5, max_tokens=100)
gpt2.add_example(Example('Two plus two equals four', '2 + 2 = 4'))
gpt2.add_example(Example('The integral from zero to infinity', '\\int_0^{\\infty}'))

prompt1 = "x squared plus y squared plus equals z squared"
output1 = gpt2.submit_request(prompt1)

Однако я не могу сохранить этот «предварительно обученный» API. Каждый раз, когда мне приходится его переучивать - есть ли способ использовать его повторно?

Answer 1

Каждый раз, когда мне приходится его переучивать - есть ли способ использовать его повторно?

Нет, его нельзя использовать повторно. Вы путаете термины: вам не нужно обучать GPT-3, вам нужно передать примеры в подсказку. Поскольку у вас нет какого-либо контейнера, в котором вы могли бы хранить предыдущие результаты (и, таким образом, «обучать» вашу модель), необходимо каждый раз передавать примеры, включая вашу задачу.

Совершенствовать процесс разработки (и, следовательно, снизить стоимость запроса) - сложный процесс, который требует много времени, проб и ошибок.

Хотя давайте будем честными: даже если каждый раз проходить примеры, GPT-3 чрезвычайно рентабелен. В зависимости от вашей конкретной ситуации вы (в среднем) тратите всего несколько сотен жетонов на сложное завершение с Davinci.

Answer 2

Вам нужно доработать модель. Обратитесь к этому:https://beta.openai.com/docs/guides/fine-tuning

но шаги:

1- установить опенай кли

2-подготовить тренировочный файл

3-выберите существующую базовую модель для настройки с этим набором обучающих данных

4- назвать эту настроенную модель