v100跑deepseek-r1 q2模型会报错 #15
Description
非常感谢作者，通过这个项目能成功安装环境，但用v100这种volta架构显卡跑不了deepseek-r1量化版。查阅相关资料找到了以下的解决方案，希望作者在构建环境时，能将下面步骤都考虑进去，感谢！！！
Metadata
Metadata
Assignees
Labels
No labels
{{ message }}
非常感谢作者，通过这个项目能成功安装环境，但用v100这种volta架构显卡跑不了deepseek-r1量化版。查阅相关资料找到了以下的解决方案，希望作者在构建环境时，能将下面步骤都考虑进去，感谢！！！