Как загрузить модель Лораса из таблицы лидеров Huggingface?

В open_llm_leaderboard есть много интересных моделей 30b loras с чрезвычайно хорошей производительностью.

Но КАК Я МОГУ ЭТО ЗАГРУЗИТЬ без адаптера_config.json?

Мне очень жаль, что я новичок в этой области, но, если я не правильно понял, при наличии правильной базовой модели должны быть загружены те .bin Loras, которые я могу скачать.

В этих моделях Loras высокого ранга я не могу найти адаптер_config.json в их файлах.

Могу ли я создать его? или мне придется их переобучить? могу ли я сохранить их с помощью text-generation-webui?

0 ответов

Другие вопросы по тегам