mindspore/docs/api/api_python/ops/mindspore.ops.SeLU.rst

33 lines
897 B
ReStructuredText
Raw Normal View History

2021-12-04 13:55:42 +08:00
mindspore.ops.SeLU
==================
2021-12-22 11:46:09 +08:00
.. py:class:: mindspore.ops.SeLU()
2021-12-04 13:55:42 +08:00
2021-12-22 11:46:09 +08:00
激活函数SeLUScaled exponential Linear Unit
2021-12-04 13:55:42 +08:00
该激活函数定义为:
.. math::
E_{i} =
scale *
\begin{cases}
x_{i}, &\text{if } x_{i} \geq 0; \cr
\text{alpha} * (\exp(x_i) - 1), &\text{otherwise.}
\end{cases}
2021-12-13 18:05:59 +08:00
其中, :math:`alpha`:math:`scale` 是预定义的常量( :math:`alpha=1.67326324` :math:`scale=1.05070098` )。
2021-12-04 13:55:42 +08:00
更多详细信息,请参见 `Self-Normalizing Neural Networks <https://arxiv.org/abs/1706.02515>`_
**输入:**
2021-12-22 11:46:09 +08:00
- **input_x** (Tensor) - 任意维度的Tensor数据类型为float16或float32。
2021-12-04 13:55:42 +08:00
**输出:**
Tensor数据类型和shape与 `input_x` 的相同。
**异常:**
- **TypeError** - `input_x` 的数据类型既不是float16也不是float32。