использовать индекс ламы для создания вложений для коммерческого трубопровода

Question

У меня есть код Python 3 ниже. В коде я использую llama_index из мета для создания индексного объекта из моего собственного текстового корпуса. Затем я передаю запросы этому индексному объекту, чтобы получить ответы от чата openai, используя мой дополнительный индекс текстового корпуса. Мне нужно предоставить свой ключ API openai из моей платной учетной записи openai, чтобы получить созданный индекс или вернуть ответы. я предполагаю, что llama_index по сути разбивает мой текстовый корпус на куски. затем chatgpt создает внедрения для этого разбитого корпуса, чтобы создать индексный объект. затем, когда я передаю запрос, Chatgpt создает аналогичное внедрение для запроса, создает внутренний продукт с индексом, который я уже создал из своего корпуса, и возвращает ответ.

Я слышал, что llama_index доступен только для исследовательских целей. поэтому мне интересно, могу ли я использовать его в этом сценарии как часть коммерческого приложения? Поскольку я плачу за свою учетную запись openai и ключ API, и, насколько я могу судить, llama_index — это библиотека, которую я установил в свою среду, которая помогает разделить корпус и передать его в LLM. Кто-нибудь знает, можно ли использовать llama_index в таком коммерческом конвейере? есть ли что-то, что мне не хватает в процессах? В последнее время я достигаю пределов скорости, чему удивляюсь, поскольку не особо этим занимаюсь. поэтому мне интересно, исходят ли они из llama_index, а не из openai.

код:

      def index_response(api_key,text_path,query):

    # api key you generate in your openai account

    import os

    # add your openai api key here
    os.environ['OPENAI_API_KEY'] = api_key

    # Load you data into 'Documents' a custom type by LlamaIndex
    from llama_index import SimpleDirectoryReader

    documents = SimpleDirectoryReader(text_path).load_data()

    from llama_index import GPTVectorStoreIndex

    index = GPTVectorStoreIndex.from_documents(documents)

    query_engine = index.as_query_engine()
    response = query_engine.query(query)

    return response.response

Answer 1

Я использовал llama_index для одного из POC. Но вы можете использовать langchaain для любых целей (https://docs.langchain.com/docs/).

Это намного взрослее, чем лама, и предлагает несколько вариантов по сравнению с ламой.