Многопроцессорность, sqlAlchemy и scoped_sessions

Я хочу запустить несколько стратегий в параллельных процессах. Я придумал что-то вроде этого

import logging
import multiprocessing
import os

from sqlalchemy.orm import scoped_session, Session

from pyutil.sql.interfaces.symbols.symbol import Symbol
from pyutil.sql.session import get_one_or_create


class StratRunner(object):
    def __init__(self, session_scope, logger=None):
        assert isinstance(session_scope, scoped_session)
        self.__session_scope = session_scope
        self.__logger = logger or logging.getLogger(__name__)


    # this function is the target for mp.Process
    def _run(self, strategy):
        self.__logger.debug("Pid {pid}".format(pid=os.getpid()))
        symbols = self.symbols

        self.__logger.info("Run strategy {s}".format(s=strategy))

        configuration = strategy.configuration()
        strategy.upsert(portfolio=configuration.portfolio, symbols=symbols, days=5)

    def run_strategies(self):
        # loop over all active strategies!
        jobs = []
        # we are in the main thread here...
        for s in self.active_strategies:
            # what shall I give to the Process? The strategy object, the strategy_id, a session instance, the session_scope...
            job = multiprocessing.Process(target=self._run, kwargs={"strategy": s})
            job.name = s.name
            jobs.append(job)

        run_jobs(jobs, logger=self.__logger)



 @property
    def symbols(self):
        return {s.name: s for s in self.__session_scope().query(Symbol)}

    @property
    def active_strategies(self):
        return self.__session_scope().query(Strategy).filter(Strategy.active == True).all()

Я знаю о тоннах документации по этому проекту, но я поражен. Я перебираю строки таблицы (active_strategies). Стратегии класса (Основа).... Затем я передаю объект стратегии в метод _run и обновляю объект стратегии в том же методе. Пожалуйста, не стесняйтесь уничтожать мой код. Я, в частности, озадачен тем, что дать методу _run? Должен ли я передать объект стратегии, идентификатор стратегии, сессию, scoped_session,...?

Теперь я создал объект бегуна:

import abc
import logging
import os

from sqlalchemy.orm import sessionmaker


class Runner(object):
    __metaclass__ = abc.ABCMeta

    def __init__(self, engine, logger=None):
        self.__engine = engine
        self._logger = logger or logging.getLogger(__name__)
        self.__jobs = []

    @property
    def _session(self):
        """ Create a fresh new session... """
        self.__engine.dispose()
        factory = sessionmaker(self.__engine)
        return factory()

    def _run_jobs(self):
        self._logger.debug("PID main {pid}".format(pid=os.getpid()))

        for job in self.jobs:
            # all jobs get the trigge
            self._logger.info("Job {j}".format(j=job.name))
            job.start()

        for job in self.jobs:
            self._logger.info("Wait for job {j}".format(j=job.name))
            job.join()
            self._logger.info("Job {j} done".format(j=job.name))

    @property
    def jobs(self):
        return self.__jobs

    @abc.abstractmethod
    def run(self):
        """ Described in the child class """

В частности, этот класс может предоставить новый сеанс (через._session). Однако, используя эту настройку, я вижу много:

psycopg2.OperationalError: server closed the connection unexpectedly
         |  This probably means the server terminated abnormally
         |  before or while processing the request.

0 ответов

Другие вопросы по тегам