关于LLM上下文优化

其实之前一直有文章的导入.但是太糙了,一个是监听不能100%做到插入嵌入,另一个是没办法切换嵌入模型
下次更新主要是文章的上下文导入,和文章的相关查询.
还有一个工具的探索,因为用工具其实可以自动化很多工作流配置(自动查找啥的),但是缺点就是你不知道它查的对不对 :sweat_smile:,毕竟现在比较通用的还是qwen2.5:7b,这个体量也不能太追求准确;还有一点就是如果使用非本地模型,那么无法确定这个模型是否支持工具,所以如果做出来了,结果大家用的模型不支持,又有点尴尬,这个我最后看看合不合适吧
反正目前最主要的感觉还是一个上下文整合,希望能用到更多的上下文这样的话就能生成更准确的内容

模型上下文都是现阶段的难题,如果是长文本,不如尝试用知识库,当然准确性有待提高,如果是短文本,则可以使用卡片工作流进行辅助