forked from mindspore-Ecosystem/mindspore
36 lines
2.3 KiB
ReStructuredText
36 lines
2.3 KiB
ReStructuredText
|
mindspore.ops.NonMaxSuppressionV3
|
|||
|
|
==================================
|
|||
|
|
|
|||
|
|
.. py:class:: mindspore.ops.NonMaxSuppressionV3
|
|||
|
|
|
|||
|
|
贪婪选取一组按score降序排列后的边界框。
|
|||
|
|
|
|||
|
|
.. warning::
|
|||
|
|
如果 `max_output_size` 小于0，将使用0代替。
|
|||
|
|
|
|||
|
|
.. note::
|
|||
|
|
- 此算法与原点在坐标系中的位置无关。
|
|||
|
|
- 对于坐标系的正交变换和平移，该算法不受影响，因此坐标系的平移变换后算法会选择相同的框。
|
|||
|
|
|
|||
|
|
输入：
|
|||
|
|
- **boxes** (Tensor) - 二维Tensor，shape为 :math:`(num_boxes, 4)` 。
|
|||
|
|
- **scores** (Tensor) - 一维Tensor，其shape为 :math:`(num_boxes)` 。表示对应每一行每个方框的score值， `scores` 和 `boxes` 的num_boxes必须相等。支持的数据类型为float32。
|
|||
|
|
- **max_output_size** (Union[Tensor, Number.Int]) - 选取最大的边框数，必须大于等于0，数据类型为int32。
|
|||
|
|
- **iou_threshold** (Union[Tensor, Number.Float]) - 边框重叠值阈值，重叠值大于此值说明重叠过大，其值必须大于等于0，小于等于1。支持的数据类型为float32。
|
|||
|
|
- **score_threshold** (Union[Tensor, Number.Float]) - 移除边框阈值，边框score值大于此值则移除相应边框。支持的数据类型为float32。
|
|||
|
|
|
|||
|
|
输出：
|
|||
|
|
一维Tensor，表示被选中边框的index，其shape为 :math:`(M)` ，其中M <= `max_output_size`。
|
|||
|
|
|
|||
|
|
异常：
|
|||
|
|
- **TypeError** - `boxes` 和 `scores` 的数据类型不一致。
|
|||
|
|
- **TypeError** - `iou_threshold` 和 `score_threshold` 的数据类型不一致。
|
|||
|
|
- **TypeError** - `boxes` 的数据类型不是float16或者float32。
|
|||
|
|
- **TypeError** - `scores` 的数据类型不是float16或者float32。
|
|||
|
|
- **TypeError** - `max_output_size` 不是Tensor或者Scalar或者其数据类型不是int32或int64。
|
|||
|
|
- **TypeError** - `iou_threshold` 不是Tesnor或者Scalar，或者其数据类型不是float16或float32。
|
|||
|
|
- **TypeError** - `score_threshold` 不是Tesnor或者Scalar，或者其数据类型不是float16或float32。
|
|||
|
|
- **ValueError** - `boxes` 的shape长度不是2或者第二维度的值不是4。
|
|||
|
|
- **ValueError** - `scores` shape长度不是1。
|
|||
|
|
- **ValueError** - `max_output_size` 、 `iou_threshold` 或 `score_threshold` 的shape长度不是0。
|