scipy.optimize.minimize не останавливается на максимуме или обратном вызове

Question

Я реализовал scipy.optimize.minimize, чтобы минимизировать среднее значение дельта-значений фрейма данных pandas для одномерного массива со 128 значениями.

Кажется, что он запускается и делает что-то, но он не останавливается на максимуме или на функции обратного вызова, взятой из другого вопроса stackru.

Мой код:

import numpy as np
from scipy.optimize import minimize, rosen
import time
import warnings

class TookTooLong(Warning):
    pass

class MinimizeStopper(object):
    def __init__(self, max_sec=60*60*5):
        self.max_sec = max_sec
        self.start = time.time()
    def __call__(self, xk=None):
        elapsed = time.time() - self.start
        if elapsed > self.max_sec:
            warnings.warn("Terminating optimization: time limit reached",
                          TookTooLong)
        else:
            # you might want to report other stuff here
            print("Elapsed: %.3f sec" % elapsed)

import scipy.optimize
res = scipy.optimize.minimize(minFunct,oned,options= 
            {"disp":True,"maxiter":100},tol=0.01,
                     method ="BFGS",callback=MinimizeStopper(1E-3))

Через некоторое время отображаемое сообщение говорит мне, что достигнут максимальный уровень и достигнуто меньшее значение функции, чем при запуске, но он просто не останавливается. Так как он работает в jupyter, у меня нет возможности достичь res без окончания ячейки.

Answer 1

Согласно документам обратный вызов должен быть вызываемым возвращением True для расторжения и следующего формата callback(xk), В то время как в вашем коде вы определяете его как инициализацию вашего класса. Вместо этого вы должны определить экземпляр вашего класса, а затем назначить его __call__() функция к callback как следующее:

import time
import warnings
import numpy as np
from scipy.optimize import minimize, rosen

class TookTooLong(Warning):
    pass

class MinimizeStopper(object):
    def __init__(self, max_sec=10):
        self.max_sec = max_sec
        self.start   = time.time()

    def __call__(self, xk):
        # callback to terminate if max_sec exceeded
        elapsed = time.time() - self.start
        if elapsed > self.max_sec:
            warnings.warn("Terminating optimization: time limit reached",
                          TookTooLong)
        else:
            # you might want to report other stuff here
            print("Elapsed: %.3f sec" % elapsed)
# init stopper
minimize_stopper = MinimizeStopper()
# minimze
res = minimize(rosen,
               x0       = np.random.randint(5, size=128),
               method   ="BFGS",
               tol      = 0.01,
               options  = {"maxiter":10, "disp":True},
               callback = minimize_stopper.__call__)

В качестве альтернативы вы можете определить класс для вашего минимизатора и построить в нем функцию обратного вызова, чтобы завершить минимизацию через определенное время. Это можно сделать так:

import time
import warnings
import numpy as np
from scipy.optimize import minimize, rosen


class TookTooLong(Warning):
    pass

class Minimizer:
    def __init__(self, timeout, maxiter):
        self.timeout = timeout
        self.maxiter = maxiter

    def minimize(self):
        self.start_time = time.time()
        # minimize
        res = minimize(rosen,
                       x0       = np.random.randint(5, size=128),
                       method   ="BFGS",
                       tol      = 0.01,
                       options  = {"maxiter":self.maxiter, "disp":True},
                       callback = self.callback)
        return res

    def callback(self, x):
        # callback to terminate if max_sec exceeded
        elapsed = time.time() - self.start_time
        if elapsed > self.timeout:
            warnings.warn("Terminating optimization: time limit reached",
                          TookTooLong)
            return True
        else: 
            print("Elapsed: %.3f sec" % elapsed)

# init minimizer and minimize
minimizer = Minimizer(0.1, 100)
result    = minimizer.minimize()

Протестируйте этот код с помощью: timeout=0.1 & maxiter=100 затем timeout=10 & maxiter=10 соблюдать оба типа прекращения.