megengine.distributed.helper.AllreduceCallback

class AllreduceCallback(reduce_method, group=WORLD, backend=None)[源代码]

具有张量融合优化的 Allreduce 回调函数。

参数

  • reduce_method (str) – 归并梯度的方法。

  • group (Group) – 通信组。

  • backend (Optional[str]) – override distributed backend in allreduce

__init__(reduce_method, group=WORLD, backend=None)[源代码]

方法

__init__(reduce_method[, group, backend])

上一页

megengine.distributed.make_allreduce_cb

下一页

megengine.quantization