forked from mindspore-Ecosystem/mindspore
44 lines
3.7 KiB
ReStructuredText
44 lines
3.7 KiB
ReStructuredText
|
mindspore.ops.vmap
|
|||
|
|
==================
|
|||
|
|
|
|||
|
|
.. py:function:: mindspore.ops.vmap(fn, in_axes=0, out_axes=0)
|
|||
|
|
|
|||
|
|
自动向量化（Vectorizing Map，vmap），是一种用于沿参数轴映射函数 `fn` 的高阶函数。
|
|||
|
|
|
|||
|
|
Vmap由Jax率先提出，它消除了算子对batch维度的限制，并提供更加方便、统一的运算符表达，同时，用户还可以与 :func:`mindspore.ops.grad` 等其它功能模块组合使用，提高开发效率。
|
|||
|
|
|
|||
|
|
此外，由于自动向量化并不在函数外部执行循环，而是将循环逻辑下沉至函数的各个原语操作中，以获得更好的性能。当与图算融合特性相结合时，执行效率将进一步提高。
|
|||
|
|
|
|||
|
|
.. warning::
|
|||
|
|
这是一个实验原型，可能被更改或删除。
|
|||
|
|
|
|||
|
|
.. note::
|
|||
|
|
- vmap的能力来自于原语的VmapRules实现。虽然我们为用户自定义算子设计了一个通用规则，但是我们无法保证它对所有算子都能很好地工作，用户需知晓
|
|||
|
|
使用风险。如果想要获得更好的性能，请提前花一些时间参阅教程为自定义算子实现特定的VmapRule。
|
|||
|
|
- 当在vmap作用域内调用随机数生成方法时，每次在向量函数之间生成相同的随机数。如果希望每个向量分支使用不同的随机数，您需要提前从外部生成
|
|||
|
|
一批随机数，然后将其传入vmap。
|
|||
|
|
|
|||
|
|
**参数：**
|
|||
|
|
|
|||
|
|
- **fn** (Union[Cell, Function]) - 待沿参数轴映射的函数，该函数至少拥有一个输入参数并且返回值为一个或多个Tensor或Tensor支持的数据类型。
|
|||
|
|
- **in_axes** (Union[int, list, tuple]) - 指定输入参数映射的轴索引。如果 `in_axes` 是一个整数，则 `fn` 的所有输入参数都将根据此轴索引进行映射。
|
|||
|
|
如果 `in_axes` 是一个tuple或list，仅支持由整数或None组成，则其长度应与 `fn` 的输入参数的个数一致，分别表示相应位置参数的映射轴索引。
|
|||
|
|
请注意，每个参数对应的整数轴索引的取值范围必须在 :math:`[-ndim, ndim)` 中，其中 `ndim` 是参数的维度。None表示不沿任何轴映射。并且 `in_axes` 中必须至少有一个位置参数的映射轴索引不为None。 所有参数的映射轴索引对应的size（ `axis_size` ）必须相等。默认值：0。
|
|||
|
|
- **out_axes** (Union[int, list, tuple]) - 指定映射轴呈现在输出中的索引位置。 如果 `out_axes` 是一个整数，则 `fn` 的所有输出都根据此axis指定。
|
|||
|
|
如果 `out_axes` 是一个tuple或list，仅支持由整数或None组成，其长度应与 `fn` 的输出个数相等。
|
|||
|
|
请注意，每个输出对应的整数轴索引的取值范围必须在 :math:`[-ndim, ndim)` 中，其中 `ndim` 是 `vmap` 映射后的函数的输出的维度。
|
|||
|
|
所有具有非None映射轴的输出只能指定非None的 `out_axes` ，如果具有None映射轴的输出指定非None的 `out_axes` ，结果将沿映射轴进行广播。默认值：0。
|
|||
|
|
|
|||
|
|
**返回：**
|
|||
|
|
|
|||
|
|
Function，返回 `fn` 的自动向量化/批处理后的函数。此函数的输入参数和输出与 `fn` 的相对应，但它在 `in_axes` 和 `out_axes` 指定的位置新增了额外的批处理维度。
|
|||
|
|
|
|||
|
|
**异常：**
|
|||
|
|
|
|||
|
|
- **RuntimeError** - 如果 `in_axes` 或 `out_axes` 中的基本元素不是None或整数。
|
|||
|
|
如果 `in_axes` 或 `out_axes` 中的所有基本元素均为None。
|
|||
|
|
如果 `in_axes` 不是单个整数，并且 `in_axes` 的长度不等于输入参数的个数。
|
|||
|
|
如果 `out_axes` 不是单个整数，并且 `out_axes` 的长度不等于输出个数。
|
|||
|
|
如果 `vmap` 范围内每个参数的 `axis_size` 不相等。
|
|||
|
|
如果 `in_axes` 或 `out_axes` 中的 `axis` 超出边界限制。
|