sillytavern 我用过一段时间,感觉 UI 层次有点乱,而且聊烂了也就只能重开了。所以我想做一个有存档的,有侧线剧情,主线剧情的东西,有点像 git ,
GitHub 仓库: https://github.com/ckcool6/GGUF_Libra
每一个 ctx 都可以触发 summary 总结,当然也可以手动修改这个 summary ,如果你觉得模型总结的是废话的话。那么一个 ctx 就变成了某种节点,下一个节点会自动继承上一个节点的 summary ,而不是继承原始聊天文本,这相当于让所谓注意力稀释,重新聚焦。还有 fork 分叉功能,可以进入侧线聊天,在侧线聊天可以切换角色卡(提示词),模型就换一个人设给你聊,模型也不会知道你在主线聊的是啥,当然也可以让它知道,在 fork 的时候选择继承主线节点即可。一旦进入侧线,如果再点击 fork 的话只能继承,不能不继承,我之所以这样设计是因为在侧线里搞孤立节点是无意义的。在侧线里聊天如果聊的不符合预期,那就 switch to main ,切换到主线,模型不会知道你在侧线里聊的是啥,当然如果聊好了,可以选择 merge,此时,侧线的最后一个节点将会嫁接到主线上。我们可以设想这么一个场景,比如创建几个角色(提示词)吧,主线里跟主角聊一堆东西,到侧线里跟另一个角色聊一堆东西,这两个角色是互相看不见的,但是一旦 merge 发生,这俩角色就互相知道了,这两个角色就进入主世界了,这故事最终是由人物剧情线编织而成的。
我也不知道这东西的意义大不大,欢迎各位体验。