forked from mindspore-Ecosystem/mindspore
23 lines
701 B
ReStructuredText
23 lines
701 B
ReStructuredText
mindspore.nn.GLU
|
||
=================
|
||
|
||
.. py:class:: mindspore.nn.GLU(axis=-1)
|
||
|
||
门线性单元函数（Gated Linear Unit function）。
|
||
|
||
.. math::
|
||
{GLU}(a, b)= a \otimes \sigma(b)
|
||
|
||
|
||
其中，:math:`a` 表示输入Tensor的前一半元素，:math:`b` 表示输入Tensor的另一半元素。
|
||
这里 :math:`\sigma` 为sigmoid函数，:math:`*` 为矩阵的基本乘。
|
||
|
||
参数：
|
||
- **axis** (int) - 指定分割轴。数据类型为整型，默认值：-1。
|
||
|
||
输入：
|
||
- **x** (Tensor) - Tensor的shape为 :math:`(\ast_1, N, \ast_2)` 。
|
||
|
||
输出：
|
||
Tensor，数据类型与输入 `x` 相同，shape等于 `x` 按照 `axis` 拆分后的一半。
|