megengine.dtr¶
- enable_sqrt_sampling¶
获取或设置是否允许 sqrt 采样。 sqrt 采样意味着给定候选集的大小为 N，枚举 sqrt(N)。 当 Tensor 的数量非常多时，启用此优化将加快训练速度。
实际案例
import megengine as mge mge.dtr.enable_sqrt_sampling = True
- evictee_minimum_size¶
获取或设置 Tensor 的显存阈值（以字节为单位）。 也可以设置为字符串，其格式支持以字节（B）、千字节（KB）、兆字节（MB）和千兆字节（GB）为单位。
注解
只有尺寸超过阈值的 Tensor 才会被添加到候选集中。 未添加到候选集中的 Tensor 在其生命周期内永远不会被驱逐。
实际案例
import megengine as mge mge.dtr.evictee_minimum_size = "2MB"
- eviction_threshold¶
获取或设置驱逐阈值（以字节为单位）。 也可以设置为字符串，其格式支持以字节（B）、千字节（KB）、兆字节（MB）和千兆字节（GB）为单位。
注解
当 GPU 显存使用量超过此值时，DTR 将启发式地选择并驱逐常驻 Tensor，直到使用的显存量低于此阈值。
实际案例
import megengine as mge mge.dtr.eviction_threshold = "2GB"