模型开发接口
推理部署接口
API 相关说明
获取或设置 Tensor 的显存阈值(以字节为单位)。 也可以设置为字符串,其格式支持以字节(B)、千字节(KB)、兆字节(MB)和千兆字节(GB)为单位。
注解
只有尺寸超过阈值的 Tensor 才会被添加到候选集中。 未添加到候选集中的 Tensor 在其生命周期内永远不会被驱逐。
实际案例
import megengine as mge mge.dtr.evictee_minimum_size = "2MB"
上一页
megengine.dtr.eviction_threshold
下一页
megengine.dtr.enable_sqrt_sampling