Что является самым быстрым приближением tanh для реализации в FPGA
Я хочу реализовать нейронную сеть на FPGA, и мне нужна быстрая функция для вычисления (приблизительного) tanh.
Точность 2 цифры после точки будет достаточно.
1 ответ
Решение
https://www.planetmath.org/taylorseriesofhyperbolicfunctions Это выглядит достаточно быстро, в зависимости от ваших потребностей. Вы можете добавить больше или отказаться от более высоких терминов и оставить первые несколько для скорости, например: (синтаксис Python)
x-1/3*x**3+2/15*x**5
Если вам также нужна производная, ее легко вычислить для полиномов. (AFAIR вам нужно это для обратного распространения)