小白不懂什问题,卡在自动检测GPU,纠错也不行

大语言卡在这,重启软件就好,能运行,对话也没问题


python-addon卡在自动检测GPU,重启软件显示安装了,但下纠错不行,GPU是3060ti

我查下对应代码,最近看到好多这个异常,但是没人反馈,感谢

您可以先手动指定,跳过自动检测

“shenghuabi.pythonAddon”: {

    "device": "cuda12.4"
},

1.98.13已经修复
但是您需要先删除python-addon文件夹(因为属于依赖安了一半失败)
另外就是不确定是否真正修复,因为可能是gpu检测不是适用于每个人,所以加了一种方式.如果您更新安装,希望能安装的时候看下日志,看看gpu检测是否正常

成功,已经正常了,感谢站长

感谢反馈,不过您说显卡是n卡但是实际上cuda没有检测出来,所以用的是directml…
是不是没有安装cuda相关驱动(因为我用的不是n卡,所以不太清楚安装流程)
一个是cuda驱动,一个是cuda运行时

nvml.dll
cudart64
cublas64
cublasLt64

是的,因为只玩游戏没想过安装cuda驱动,所以就检测不出来 :joy:

没关系,dml就是慢点(比cpu快).也能正常用…