megengine.optimizer.clip_grad_value¶

clip_grad_value(tensors, lower, upper)[源代码]¶

通过上下界裁剪梯度。梯度原地修改。

梯度的上下界范围：

\[\left[\text{lower}, \text{upper}\right]\]

参数

tensors (Union[Tensor, Iterable[Tensor]]) – 可迭代的 Tensor 对象或一个 Tensor
lower (float) – 被允许的梯度最小值。
upper (float) – 被允许的梯度最大值。

返回

None.

实际案例

>>> import megengine.optimizer as optim
>>> net = Net()                                                 
>>> optim.clip_grad_value(net.parameters(), lower=-2, upper=5)  

megengine.optimizer.clip_grad_norm

megengine.jit