该函数用于检测浮点模型:
def inspect(self,
module: torch.nn.Module,
input_args: Union[torch.Tensor, Tuple[Any]],
device: torch.device = torch.device("cuda"),
output_dir: str = "quantize_result",
verbose_level: int = 1,
image_format: Optional[str] = None):
实参
- module
- 要部署的浮点模块
- input_args
- 输入张量,形状与浮点模块的实际输入相同,但值可为随机数值
- device
- 在 GPU 或 CPU 上追踪模型
- output_dir
- 检查结果的目录
- verbose_level
- 控制屏幕上显示的检查结果的详细程度。默认值为 1。
- image_format
- 导出可视化的检查结果。支持 SVG 和 PNG 图像格式。