2021-12-04 13:55:42 +08:00
|
|
|
|
mindspore.nn.HSwish
|
|
|
|
|
|
===================
|
|
|
|
|
|
|
|
|
|
|
|
.. py:class:: mindspore.nn.HSwish
|
|
|
|
|
|
|
|
|
|
|
|
Hard Swish激活函数。
|
|
|
|
|
|
|
|
|
|
|
|
对输入的每个元素计算Hard Swish。
|
|
|
|
|
|
|
|
|
|
|
|
Hard Swish定义如下:
|
|
|
|
|
|
|
|
|
|
|
|
.. math::
|
|
|
|
|
|
\text{hswish}(x_{i}) = x_{i} * \frac{ReLU6(x_{i} + 3)}{6},
|
|
|
|
|
|
|
|
|
|
|
|
其中, :math:`x_i` 是输入的元素。
|
|
|
|
|
|
|
|
|
|
|
|
**输入:**
|
|
|
|
|
|
|
|
|
|
|
|
- **x** (Tensor) - 用于计算Hard Swish的Tensor。数据类型必须是float16或float32。shape为 :math:`(N,*)` ,其中 :math:`*` 表示任意的附加维度数。
|
|
|
|
|
|
|
|
|
|
|
|
**输出:**
|
|
|
|
|
|
|
|
|
|
|
|
Tensor,具有与 `x` 相同的数据类型和shape。
|
|
|
|
|
|
|
|
|
|
|
|
**异常:**
|
|
|
|
|
|
|
2022-02-11 15:23:20 +08:00
|
|
|
|
- **TypeError** - `x` 的数据类型既不是float16也不是float32。
|