Описание тега automatic-differentiation
Также известен как алгоритмическое дифференцирование, сокращенно AD. Методы, в которых процедура вычисления числовой функции преобразуется в процедуру, которая дополнительно оценивает производные по направлениям, градиенты, производные более высокого порядка.
Также известен как алгоритмическое дифференцирование, сокращенно AD. Методы, в которых процедура вычисления числовой функции преобразуется в процедуру, которая дополнительно оценивает производные по направлениям, градиенты, производные более высокого порядка.
Методы включают оператора
- перегрузка для двойных номеров,
- перегрузка оператора для извлечения последовательности операций в виде ленты,
- анализ и преобразование кода.
Для функции с входом размерности n и выходом размерности n, требующей L элементарных операций для ее оценки, одна производная по направлению или один градиент могут быть вычислены с 3*L операциями.
Точность производной автоматически почти такая же, как точность оценки функции.
Другой метод дифференциации:
- символическое дифференцирование, при котором сначала получается расширенное выражение для производных, которое может быть большим в зависимости от реализации, и
- численное дифференцирование с помощью разделенных разностей, которое обеспечивает меньшую точность при сопоставимых усилиях или сопоставимую точность при более высоких усилиях.