2022-12-27 16:39:18 +08:00
|
|
|
|
mindspore.ops.silu
|
|
|
|
|
|
==================
|
|
|
|
|
|
|
|
|
|
|
|
.. py:function:: mindspore.ops.silu(x)
|
|
|
|
|
|
|
2023-01-20 11:30:25 +08:00
|
|
|
|
按输入逐元素计算激活函数SiLU（Sigmoid Linear Unit）。该激活函数定义为：
|
2022-12-27 16:39:18 +08:00
|
|
|
|
|
|
|
|
|
|
.. math::
|
|
|
|
|
|
\text{SiLU}(x) = x * \sigma(x),
|
|
|
|
|
|
|
2023-02-01 11:17:12 +08:00
|
|
|
|
其中，:math:`\sigma(x)` 是Logistic Sigmoid函数。
|
2022-12-27 16:39:18 +08:00
|
|
|
|
|
|
|
|
|
|
.. math::
|
|
|
|
|
|
|
|
|
|
|
|
\text{sigma}(x_i) = \frac{1}{1 + \exp(-x_i)},
|
|
|
|
|
|
|
2023-01-20 11:30:25 +08:00
|
|
|
|
其中，:math:`x_i` 是输入x的元素。
|
2022-12-27 16:39:18 +08:00
|
|
|
|
|
2023-01-31 16:04:44 +08:00
|
|
|
|
更多详情请参考 :class:`mindspore.nn.SiLU`。
|
