小模型无法实现的工作流输出。

之前由于生花笔的工作流BUG缘故,去体验了coze、dify、agent等工作流、或者智能体的使用,最后觉得,工作流的效果,最后还是看模型的B数。

测试了7B、14B、27B、32B的各类模型,14B以下惨不忍睹,32B稍好。但是都是只能支撑一次回应,如果跑工作流,存在多段串并联的响应,那么最大的可能是宕机,输出一个不符合预期的结果。尤其文学创作需要很多限制,上下文的写作,一次给出要求写作,比工作流输出的写作更加稳定。

这样看,目前还是看开源平台是否会推出适用工作流的小模型,不过希望渺茫,大概率会如Deepseek,走综合完美大脑路线,靠量支撑多角色智能体框架。

这样看,生花笔的工作流、知识库反倒是难能可贵地,完成了70%的场景应用。就是没有完整教程,BUG多,体验较差。

最后也推一个UP的提示词预制工作流,AI可以不是聊天框。_哔哩哔哩_bilibili

抱歉,这部分确实实现的时候是一部分一部分搞的,导致有时候有了新想法就进行部分修改,然后就可能出现各种问题,目前已经在重构