megengine.module.qat.QATModule

class QATModule(**kwargs)

浮点数量化相关 Module 的基类。主要用于 QAT 和 Calibration.

使用 from_float_module 从浮点数型 Module 中生成实例。或使用 quantize_qat 来自动递归进行此操作。

可之后使用 quantize 将该模块转为 QuantizedModule 用于部署。

属性。

with_act
with_weight

方法

apply(fn)	对当前模块中的所有模块应用函数 fn，包括当前模块本身。
apply_quant_activation(target)	在 target 上根据 qconfig 应用权重 observer 以及 fake_quant.
apply_quant_bias(target, inp, w_qat)	使用 fake_quant_bias 来处理 target.
apply_quant_weight(target)	在 target 上根据 qconfig 应用权重 observer 以及 fake_quant.
buffers([recursive])	返回该模块中对于 buffers 的一个可迭代对象。
children(**kwargs)	返回一个可迭代对象，可遍历所有属于当前模块的直接属性的子模块。
disable_quantize([value])	设置 module 的 quantize_diabled 属性，并返回 module.
eval()	当前模块中所有模块的 training 属性（包括自身）置为 False ，并将其切换为推理模式。
forward(inputs)
from_float_module(float_module)	返回从浮点型 Module 实例转换而来的 QATModule 实例。
get_activation_dtype()	按照 qconfig 指定的方法，从 qconfig 中获取激活值的量化数据类型。
get_activation_qparams()	获取激活值的量化参数。
get_weight_dtype()	从 qconfig 中获取权重的量化数据类型。
get_weight_qparams()	获取权重的量化参数。
load_state_dict(state_dict[, strict])	加载一个参数字典，这个字典通常使用 state_dict 得到。
modules(**kwargs)	返回一个可迭代对象，可以遍历当前模块中的所有模块，包括其本身。
named_buffers([prefix, recursive])	返回可遍历模块中 key 与 buffer 的键值对的可迭代对象，其中 key 为从该模块至 buffer 的点路径（dotted path）。
named_children(**kwargs)	返回可迭代对象，可以遍历属于当前模块的直接属性的所有子模块（submodule）与键（key）组成的”key-submodule”对，其中'key'是子模块对应的属性名。
named_modules([prefix])	返回可迭代对象，可以遍历当前模块包括自身在内的所有其内部模块所组成的key-module键-模块对，其中'key'是从当前模块到各子模块的点路径（dotted path）。
named_parameters([prefix, recursive])	返回一个可迭代对象，可以遍历当前模块中key与 Parameter 组成的键值对。其中 key 是从模块到 Parameter 的点路径（dotted path）。
named_tensors([prefix, recursive])	Returns an iterable for key tensor pairs of the module, where key is the dotted path from this module to the tensor.
parameters([recursive])	返回一个可迭代对象，遍历当前模块中的所有 Parameter.
register_forward_hook(hook)	给模块输出注册一个回调函数。
register_forward_pre_hook(hook)	给模块输入注册一个回调函数。
replace_param(params, start_pos[, seen])	Replaces module's parameters with params, used by ParamPack to
set_fake_quant(enable)
set_observer(enable)
set_qconfig(qconfig)	使用 qconfig 更改量化相关配置。包含权重和激活值的 observer 和 fake_quant 。
state_dict([rst, prefix, keep_var])
tensors([recursive])	Returns an iterable for the Tensor of the module.
train([mode, recursive])	当前模块中所有模块的 training 属性（包括自身）置为 mode。
zero_grad()	将所有参数的梯度置0。

上一页

megengine.module.DequantStub.zero_grad

下一页

megengine.module.qat.QATModule.with_act