模型开发接口
推理部署接口
API 相关说明
可根据 observer 的 scale 和 zero_point 参数来进行量化(Quantization)和反量化(Dequantization)的模块。
dtype (Union[str, QuantDtypeMeta]) – 指明量化输入数据类型的字符串或 QuantDtypeMeta.
Union
str
QuantDtypeMeta
enable (bool) – 选择 normal_forward 或是 fake_quant_forward.
bool
normal_forward
fake_quant_forward
上一页
PassiveObserver
下一页
TQT