下载部分重试与加速

编辑器文档
1

1.101.12以上支持

    "shenghuabi.download": {
        "softwareMirror": "github-release2.tbontop.top",
        "ollamaModelMirror": "ollama-model2.tbontop.top",
        "huggingfaceModelMirror": "hg-model2.tbontop.top",
        "strategy": {
            "connectionCount": 32,
            "lowSpeed": 100,
            "heartbeatStopTimeout": 10000,
            "lowStopTimeout": 10000
        }
    },
  • 相关更改详细的描述请直接到配置文件中编辑,每一项鼠标悬停都有讲解

所有的配置,不止这个是这样的

  • softwareMirror 软件下载加速,比如qdrant,ollama,llama,pythonaddon(tts)
  • huggingfaceModelMirror 模型下载加速,比如文本到向量部分,llama.cpp下载模型,tts模型
  • ollamaModelMirror ollama模型加速,仅llama.cpp下载时有用

Ollama自身还是用它自己的下载(cf),因为它没用暴露出修改的地方

  • connectionCount 连接数,越大速度越快,但是也越容易卡住
  • lowSpeed 低于此速度是计算低速超时时间
  • heartbeatStopTimeout 一定时间内未检测到下载数据后尝试重启下载
  • lowStopTimeout 一定时间内下载速度过低尝试重启下载

关于卡在100%

  • 这种情况主要是因为在下载的时候使用的是多线程下载,当下载到最后,可能每个县城还剩下几百k(甚至更少)没有下载完成,但是可能由于网络原因,剩下这一点变得非常慢.但是由于下载报告确实是显示已完成,又没发强制重启(因为真的完成和这种情况混在了一块).所以需要耐心等待
  • 如果长时间(30分钟以上)卡在这个状态,建议修改下上面的镜像,降低连接数,重新下载看看是否有好转

image
image2604×819 150 KB