p85971406
/
mindspore
forked from mindspore-Ecosystem/mindspore
1
0
Fork 0
Code Issues Pull Requests Projects Releases Wiki Activity

fix dropout doc and log

This commit is contained in:
reku1997 2022-12-27 15:06:48 +08:00
parent ab4d555d43
commit b55d09dcc3
6 changed files with 6 additions and 10 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

3
docs/api/api_python/nn/mindspore.nn.Dropout1d.rst
View File

@ -3,8 +3,7 @@ mindspore.nn.Dropout1d
.. py:class:: mindspore.nn.Dropout1d(p=0.5) .. py:class:: mindspore.nn.Dropout1d(p=0.5)
在训练期间，以服从伯努利分布的概率 `p` 随机将输入Tensor的某些通道归零。（对于shape为 `NCL` 的三维Tensor， 在训练期间，以服从伯努利分布的概率 `p` 随机将输入Tensor的某些通道归零（对于形状为 `NCL` 的三维Tensor，其通道特征图指的是后一维 `L` 的一维特征图）。
其通道特征图指的是后一维 `L` 的一维特征图）。
例如，在批处理输入中 :math:`i\_th` 批， :math:`j\_th` 通道的 `input[i, j]` `1D` Tensor 是一个待处理数据。 例如，在批处理输入中 :math:`i\_th` 批， :math:`j\_th` 通道的 `input[i, j]` `1D` Tensor 是一个待处理数据。
每个通道将会独立依据伯努利分布概率 `p` 来确定是否被清零。 每个通道将会独立依据伯努利分布概率 `p` 来确定是否被清零。

2
docs/api/api_python/nn/mindspore.nn.Dropout2d.rst
View File

@ -3,7 +3,7 @@ mindspore.nn.Dropout2d
.. py:class:: mindspore.nn.Dropout2d(p=0.5) .. py:class:: mindspore.nn.Dropout2d(p=0.5)
在训练期间，以服从伯努利分布的概率 `p` 随机将输入Tensor的某些通道归零（对于格式为 `NCHW` 的四维Tensor，其通道特征图指的是后两维 `HW` 格式的二维特征图）。 在训练期间，以服从伯努利分布的概率 `p` 随机将输入Tensor的某些通道归零（对于形状为 `NCHW` 的四维Tensor，其通道特征图指的是后两维 `HW` 格式的二维特征图）。
例如，在批处理输入中 :math:`i\_th` 批， :math:`j\_th` 通道的 `input[i, j]` `2D` Tensor 是一个待处理数据。 例如，在批处理输入中 :math:`i\_th` 批， :math:`j\_th` 通道的 `input[i, j]` `2D` Tensor 是一个待处理数据。
每个通道将会独立依据伯努利分布概率 `p` 来确定是否被清零。 每个通道将会独立依据伯努利分布概率 `p` 来确定是否被清零。

3
docs/api/api_python/ops/mindspore.ops.func_dropout1d.rst
View File

@ -3,8 +3,7 @@ mindspore.ops.dropout1d
.. py:function:: mindspore.ops.dropout1d(x, p=0.5, training=True) .. py:function:: mindspore.ops.dropout1d(x, p=0.5, training=True)
在训练期间，以服从伯努利分布的概率 `p` 随机将输入Tensor的某些通道归零。（对于shape为 `NCL` 的三维Tensor， 在训练期间，以服从伯努利分布的概率 `p` 随机将输入Tensor的某些通道归零（对于形状为 `NCL` 的三维Tensor，其通道特征图指的是后一维 `L` 的一维特征图）。
其通道特征图指的是后一维 `L` 的一维特征图）。
例如，在批处理输入中 :math:`i\_th` 批， :math:`j\_th` 通道的 `input[i, j]` `1D` Tensor 是一个待处理数据。 例如，在批处理输入中 :math:`i\_th` 批， :math:`j\_th` 通道的 `input[i, j]` `1D` Tensor 是一个待处理数据。
每个通道将会独立依据伯努利分布概率 `p` 来确定是否被清零。 每个通道将会独立依据伯努利分布概率 `p` 来确定是否被清零。

3
docs/api/api_python/ops/mindspore.ops.func_dropout2d.rst
View File

@ -3,8 +3,7 @@ mindspore.ops.dropout2d
.. py:function:: mindspore.ops.dropout2d(x, p=0.5) .. py:function:: mindspore.ops.dropout2d(x, p=0.5)
在训练期间，以服从伯努利分布的概率 `p` 随机将输入Tensor的某些通道归零。（对于形状为 `NCHW` 的四维Tensor， 在训练期间，以服从伯努利分布的概率 `p` 随机将输入Tensor的某些通道归零（对于形状为 `NCHW` 的四维Tensor，其通道特征图指的是后两维 `HW` 形状的二维特征图）。
其通道特征图指的是后两维 `HW` 形状的二维特征图）。
例如，在批处理输入中 :math:`i\_th` 批， :math:`j\_th` 通道的 `input[i, j]` `2D` Tensor 是一个待处理数据。 例如，在批处理输入中 :math:`i\_th` 批， :math:`j\_th` 通道的 `input[i, j]` `2D` Tensor 是一个待处理数据。
每个通道将会独立依据伯努利分布概率 `p` 来确定是否被清零。 每个通道将会独立依据伯努利分布概率 `p` 来确定是否被清零。
论文 `Dropout: A Simple Way to Prevent Neural Networks from Overfitting <http://www.cs.toronto.edu/~rsalakhu/papers/srivastava14a.pdf>`_ 中提出了该技术，并证明其能有效地减少过度拟合，防止神经元共适应。更多详细信息，请参见 `Improving neural networks by preventing co-adaptation of feature detectors <https://arxiv.org/pdf/1207.0580.pdf>`_ 。 论文 `Dropout: A Simple Way to Prevent Neural Networks from Overfitting <http://www.cs.toronto.edu/~rsalakhu/papers/srivastava14a.pdf>`_ 中提出了该技术，并证明其能有效地减少过度拟合，防止神经元共适应。更多详细信息，请参见 `Improving neural networks by preventing co-adaptation of feature detectors <https://arxiv.org/pdf/1207.0580.pdf>`_ 。

3
docs/api/api_python/ops/mindspore.ops.func_dropout3d.rst
View File

@ -3,8 +3,7 @@ mindspore.ops.dropout3d
.. py:function:: mindspore.ops.dropout3d(x, p=0.5) .. py:function:: mindspore.ops.dropout3d(x, p=0.5)
在训练期间，以服从伯努利分布的概率 `p` 随机将输入Tensor的某些通道归零（对于形状为 `NCDHW` 的 `5D` Tensor， 在训练期间，以服从伯努利分布的概率 `p` 随机将输入Tensor的某些通道归零（对于形状为 `NCDHW` 的 `5D` Tensor，其通道特征图指的是后三维 `DHW` 形状的三维特征图）。
其通道特征图指的是后三维 `DHW` 形状的三维特征图）。
例如，在批处理输入中 :math:`i\_th` 批， :math:`j\_th` 通道的 `input[i, j]` `3D` Tensor 是一个待处理数据。 例如，在批处理输入中 :math:`i\_th` 批， :math:`j\_th` 通道的 `input[i, j]` `3D` Tensor 是一个待处理数据。
每个通道将会独立依据伯努利分布概率 `p` 来确定是否被清零。 每个通道将会独立依据伯努利分布概率 `p` 来确定是否被清零。

2
mindspore/ccsrc/plugin/device/ascend/optimizer/format_type/rectify_do_mask_kernel_info.cc
View File

@ -93,7 +93,7 @@ const AnfNodePtr RectifyDoMaskKernelInfo::Process(const FuncGraphPtr &graph, con
auto do_mask_node = node->cast<CNodePtr>(); auto do_mask_node = node->cast<CNodePtr>();
MS_EXCEPTION_IF_NULL(do_mask_node); MS_EXCEPTION_IF_NULL(do_mask_node);
if (!do_mask_node->HasPrimalAttr(kPrimalAttrUniqueId) && !do_mask_node->HasPrimalAttr(kPrimalAttrForwardUniqueId)) { if (!do_mask_node->HasPrimalAttr(kPrimalAttrUniqueId) && !do_mask_node->HasPrimalAttr(kPrimalAttrForwardUniqueId)) {
MS_LOG(WARNING) << "The DoMask cnode has no primal attr: " << do_mask_node->DebugString(); MS_LOG(INFO) << "The DoMask cnode has no primal attr: " << do_mask_node->DebugString();
return nullptr; return nullptr;
} }
MS_EXCEPTION_IF_NULL(do_mask_node); MS_EXCEPTION_IF_NULL(do_mask_node);