inference speed question

[kamwoh]

你好,

很棒的工作！

想请问这个是正常的生成速度吗？模型是 MOVA-360p，单卡A100。width=352, height=640, offload=cpu

Diffusion: 12%|██████▍ | 6/50 [03:31<23:00, 31.38s/it]

谢谢！

[tianyilt]

你好，感谢关注，速度确实是这样，推理参数加上--attn_type fa3会更加快一点。