大语言卡在这,重启软件就好,能运行,对话也没问题
python-addon卡在自动检测GPU,重启软件显示安装了,但下纠错不行,GPU是3060ti
我查下对应代码,最近看到好多这个异常,但是没人反馈,感谢
您可以先手动指定,跳过自动检测
“shenghuabi.pythonAddon”: {
"device": "cuda12.4"
},
1.98.13已经修复
但是您需要先删除python-addon文件夹(因为属于依赖安了一半失败)
另外就是不确定是否真正修复,因为可能是gpu检测不是适用于每个人,所以加了一种方式.如果您更新安装,希望能安装的时候看下日志,看看gpu检测是否正常
感谢反馈,不过您说显卡是n卡但是实际上cuda没有检测出来,所以用的是directml…
是不是没有安装cuda相关驱动(因为我用的不是n卡,所以不太清楚安装流程)
一个是cuda驱动,一个是cuda运行时
nvml.dll
cudart64
cublas64
cublasLt64
是的,因为只玩游戏没想过安装cuda驱动,所以就检测不出来 ![]()
没关系,dml就是慢点(比cpu快).也能正常用…