Внедрения Azure OpenAI против внедрений OpenAI

Получает ли кто-нибудь другие результаты от развертывания вложений Azure OpenAI с использованием text-embedding-ada-002, чем от OpenAI? Тот же текст, та же модель, а результаты находятся значительно далеко в векторном пространстве.

Что рекомендуется для встраивания?

Источник

1 ответ

Текущая версия text-embedding-ada-002 AOAI несколько отличается от версии OAI. Наша модель в настоящее время поддерживает только токены 2 тыс., тогда как OAI может поддерживать токены 8 тыс.

Azure OpenAI не поддерживает пакетное внедрение. Вам необходимо использовать несколько одновременных запросов. Если вы достигнете максимального количества запросов в минуту, вам нужно будет запросить у Azure увеличение квоты.

Источник
Другие вопросы по тегам