Питон, Лама (местно). Создание бота Telegram с использованием llama_cpp. Бот не отвечает ни на какие команды и запросы

Питон, Лама (местно). Я создаю бота Telegram, используя llama_cpp. Бот не отвечает ни на какие команды и запросы. Сам код pycharm ошибок не выдает, но бот не отвечает на команды и сообщения. ПОМОГИ ПОЖАЛУЙСТА. Используется библиотека айограмм версии 3.0.1.

      import aiogram.utils.markdown as md
from aiogram import Bot, Dispatcher, types
import logging
import asyncio
from aiogram.dispatcher.router import Router
from llama_cpp import Llama

# Инициализируем бота
bot = Bot(token="MY-TG-Token")  # Замените "YOUR_BOT_TOKEN" на реальный токен вашего бота

# Инициализируем Llama
llama = Llama(model_path="./llama-2-7b-chat.gguf.q8_0.bin")

dp = Dispatcher(bot=bot)
router = Router()

# Функция для вызова Llama и обработки сообщения
async def process_message(message_text):
    result = await asyncio.to_thread(llama.process_message, message_text)
    return result

# Обработка команды /start
router.message(commands=['start'])
async def on_start(message: types.Message):
    await message.answer("Привет! Этот бот обрабатывает сообщения с помощью Llama локально.")

# Обработка всех остальных сообщений
router.message(content_types=types.ContentType.TEXT)
async def on_message(message: types.Message):
    # Отправляем сообщение "..." как индикатор обработки
    processing_msg = await message.answer("...")

    # Вызываем Llama для обработки сообщения
    result = await process_message(message.text)

    # Обновляем текст сообщения на результат обработки
    await bot.edit_message_text(text=result, chat_id=message.chat.id, message_id=processing_msg.message_id)

# Обработчик для личных сообщений с текстовым контентом
router.message(content_types=types.ContentType.TEXT, is_private=True)
async def handle_private_message(message: types.Message):
    # Ваш код обработки личных сообщений здесь
    await message.answer("Вы отправили мне личное сообщение: " + message.text)

async def main():
    # Запускаем long-polling
    await dp.start_polling(bot)

if __name__ == '__main__':
    asyncio.run(main())


0 ответов

Другие вопросы по тегам