SillyTavern 加载提速实操指南:8 处调整让大角色库打开快 3 倍

发布时间:2026/9/2 14:45:52

SillyTavern 加载提速实操指南:8 处调整让大角色库打开快 3 倍
SillyTavern 加载提速实操指南8 处调整让大角色库打开快 3 倍【免费下载链接】SillyTavernLLM Frontend for Power Users.项目地址: https://gitcode.com/GitHub_Trending/si/SillyTavern凌晨两点你正和角色聊到关键剧情切到角色库页面却转了十几秒圈消息发出去半天没有回音。这类卡顿多数不在模型身上而是 SillyTavern 的静态资源加载、角色卡读取和网络配置没调对。这篇文章带你完整做一轮 SillyTavern 性能优化先确认瓶颈在哪再按难度分三档动手改改动范围限定在一个配置文件和两个源码文件里一个下午可以全部完成。动手之前先花十分钟做一轮快速排查确认瓶颈到底卡在哪一层。SillyTavern 性能优化 实践场景酒馆主题默认背景快速体检清单先定位 SillyTavern 卡在哪 打开浏览器 DevToolsF12按顺序核对下面 5 项首次打开静态资源慢→ Network 面板里首次加载大量 .js / .css 很慢刷新却显示 (from disk cache)大概率是静态资源没有缓存策略。角色库打开转圈→ 几百张卡片的角色库加载慢大概率是全部卡片一次性读取懒加载开关没开。消息保存慢→ 保存请求 Time 超过 1 秒且请求体有几 MB大概率是请求体过大又没有压缩。本地模型首条回复慢→ 重启后只有第一条回复慢、之后恢复正常大概率是模型被反复加载进内存。Lighthouse 跑分低→ 跑一次 Performance 报告重点看 Largest Contentful Paint 和 Total Blocking Time两项都高就是首屏资源问题。分档优化路径SillyTavern 性能优化按难度分三档上面 5 项分别对应三类改法纯配置开关、网络行为设置、源码微调。按你能承受的风险挑一档开始。今天就能做的零风险5 分钟内以下 3 项都是 default/config.yaml 里的一行开关改完重启服务。开启角色卡懒加载原理和长电商页的懒加载一样滚动到才加载卡片数据。角色卡的内存缓存与磁盘缓存已经内置在 src/endpoints/characters.js打开开关即可performance: lazyLoadCharacters: true预期效果500 张卡片规模的角色库打开耗时从几秒降到 1 秒内。调低头像缩略图质量96×144 的小头像用 95 质量的 JPG 属于过度压缩降到 80 肉眼几乎看不出差别体积能明显减小thumbnails: quality: 80 format: jpg预期效果角色库里的头像缩略图体积减小约三分之一切换页面跟着变快。开启请求体压缩聊天历史保存时请求体可达几 MB。SillyTavern 内置了请求压缩能力前端逻辑在 public/scripts/request-compression.js开关在服务端配置里performance: requestCompression: enabled: true预期效果聊天保存类请求在链路上的体积降到约四分之一Time 从秒级降到几百毫秒。SillyTavern 性能优化赛博朋克卧室背景展示静态资源加载场景花一个下午能搞定的改配置 / 引依赖这一档改动的是服务端对外连接行为改完需要留点时间观察日志。打开全局 keep-alive 复用 API 连接src/server-main.js 里会根据这个配置创建全局 HTTP Agent开启后 SillyTavern 转发请求到后端 API 时复用连接不再每次重新握手enableKeepAlive: true预期效果本地网络下每次 API 响应减少几十毫秒并发场景下差距更明显。配置文件注释里也写了如果之后日志出现 ECONNRESET把它改回 false 并检查网络环境。给 CORS 预检加缓存跨域部署才需要跨域部署时浏览器每个真实请求前都会先发一次 OPTIONS 预检。设置maxAge让浏览器缓存预检结果cors: maxAge: 600预期效果10 分钟内预检请求从每分钟几百次降到个位数弱网下响应速度感知提升明显。关掉用不到的扩展模型自动下载SillyTavern 的扩展体系会按需从 HuggingFace 下载 ONNX 模型情绪识别、图像描述等首次下载很慢。用不到就关掉extensions: models: autoDownload: false预期效果启动流程不再被模型下载拖住扩展面板加载也更轻。需要动源码的改逻辑 / 加模块这两处都改 src/server-main.js动手前先备份文件每改一处验证一次。给 compression 中间件加过滤条件现在的app.use(compression())会对所有超过 1KB 的响应做 gzip而 PNG / JPG 本身已是压缩格式再压一遍是白烧 CPU// src/server-main.js app.use(compression({ filter: (req, res) { const type res.getHeader(content-type) || ; return /json|javascript|css|text/.test(type); }, }));预期效果图片响应不再走压缩CPU 占用下降可支撑更多并发文本类接口响应速度基本不变。给字体资源加浏览器缓存当前express.static托管 public/ 时用的是空选项{}。NotoSans 字体文件基本不变可以在它前面加一条专用缓存路由// src/server-main.js放在 express.static(public) 之前 app.use(/webfonts, express.static(path.join(serverDirectory, public/webfonts), { maxAge: 7d, }));预期效果第二次访问时字体传输量降到接近 0首屏 LCP 相应缩短。效果复查用两个面板验证提速SillyTavern 性能优化 复查冬季湖畔背景用于验证静态资源加载验证方法简单且可复现Network 面板对比DevTools → Network勾选 Disable cache 后强制刷新记录 Transfer Size 和 Time 两列的总量优化前后各测一次。Lighthouse 分数对比优化前后各跑一次 Performance 报告对比 Performance 分数和 Largest Contentful Paint 两个数字。下表是在小规格云服务器2 vCPU / 4GB上的示例数据你的环境数值会有差异指标示例数据优化前优化后角色库打开500 张卡约 2~3 秒约 0.5~1 秒首访静态资源传输量约 1.5~2 MB约 0.8~1 MB二次访问字体资源约 1~1.5 MB接近 0聊天保存请求体3MB 历史约 3 MB约 0.5~1 MB哪一项没达到预期就回到体检清单里找它对应的瓶颈项单独再查。避坑提醒改之前先看完 ⚠️装了第三方扩展就先别开懒加载—— 部分扩展读取浅层卡片数据可能报错。正确做法开启后观察是哪个扩展报错定位不了就把lazyLoadCharacters改回 false。缩略图质量只对新缩略图生效—— 旧缓存不会自动变小。正确做法改完后清空数据目录下的 thumbnails 目录里的旧图让它们按新质量重新生成。requestCompression 的 minPayloadSize 别改成 0—— 压缩一个几百字节的小请求反而让体积变大、速度变慢。正确做法保持默认 256kb 阈值够大才压。行动清单按这个顺序动手打开 default/config.yaml把performance.lazyLoadCharacters设为 true 并重启服务这是大角色库提速的第一步。同文件把thumbnails.quality改为 80清空数据目录下的旧缩略图。开启performance.requestCompression.enabled发一条消息观察保存请求是否变快。跨域或多用户部署的话补上cors.maxAge和enableKeepAlive。以上都不够时再改 src/server-main.js 里的 compression 过滤条件和 webfonts 缓存两处。改完记得跑一遍 Lighthouse看看 Performance 分数比体检那次涨了多少。【免费下载链接】SillyTavernLLM Frontend for Power Users.项目地址: https://gitcode.com/GitHub_Trending/si/SillyTavern创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

MemPalace实战避坑清单:15个新手最容易踩的坑与官方纠正记录

MemPalace实战避坑清单:15个新手最容易踩的坑与官方纠正记录

2026/9/2 14:45:52

MemPalace实战避坑清单:15个新手最容易踩的坑与官方纠正记录 【免费下载链接】mempalace The best-benchmarked open-source AI memory system. And its free. 项目地址: https://gitcode.com/GitHub_Trending/me/mempalace MemPalace 是一个免费开源的本地 …

杰文斯悖论:视频技术效率提升为何让消耗不降反升?

杰文斯悖论:视频技术效率提升为何让消耗不降反升?

2026/9/2 14:45:52

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

Spring Boot应用Nginx代理下静态资源404/403问题排查与配置实战

Spring Boot应用Nginx代理下静态资源404/403问题排查与配置实战

2026/9/2 14:45:52

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026年7月枣庄市新房价格深度分析报告

2026年7月枣庄市新房价格深度分析报告

2026/9/2 15:55:54

一、报告背景与数据说明本报告基于2026年7月枣庄市新房实际成交案例,结合各区域在售楼盘的真实签约数据,对当前市场价格水平、成交结构及未来走势进行深度分析。数据来源涵盖枣庄市五区一市(市中区、薛城区、峄城区、台儿庄区、山亭区、滕州市…

03 - 频率即壁垒:大模型时代创业者的“人事合一”与意识跃迁

03 - 频率即壁垒:大模型时代创业者的“人事合一”与意识跃迁

2026/9/2 15:55:54

如果AI的频率无限接近400,而你还在200以下挣扎,那么无论你多么努力,你终将成为AI的“牛马”。唯一的出路,不是跑得更快,而是跃迁到AI到不了的维度。创业者的集体困境2026年,大模型已全面渗透商业世界。融资…

04 - 认知跃迁与理念觉醒:大模型时代创业者的“张一鸣时刻”

04 - 认知跃迁与理念觉醒:大模型时代创业者的“张一鸣时刻”

2026/9/2 15:55:54

十年前,张一鸣用“逻辑”碾压了马云的“经验”;今天,AI正在用“算法”碾压张一鸣的“逻辑”。谁将成为下一个时代的颠覆者?答案藏在0.4%的人才能看见的那个维度里。一个价值万亿美元的问题2026年,字节跳动旗下TikTok占…

基于STM32的串级PID控制实现快速稳定循迹小车

基于STM32的串级PID控制实现快速稳定循迹小车

2026/9/2 15:55:54

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

MOS 管中的 VGS(th) 是什么、有什么作用、怎么测

MOS 管中的 VGS(th) 是什么、有什么作用、怎么测

2026/9/2 15:55:54

面向对象:硬件测试工程师新手、软硬件测试工程师、刚开始阅读 MOSFET Datasheet 的同学。 1. 先给结论 VGS(th) 的全称是 Gate-Source Threshold Voltage,中文通常叫 栅源阈值电压 或 开启阈值电压。 它表示:当 MOS 管的栅极和源极之间电压 VGS 增加到某个值时,MOS 管刚…

小语文稿深度体验:本地离线免费免登录,Markdown写作回归纯粹

小语文稿深度体验:本地离线免费免登录,Markdown写作回归纯粹

2026/9/2 15:45:54

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

备战数据库管理工程师校招:索引、事务、备份恢复核心考点解析

备战数据库管理工程师校招:索引、事务、备份恢复核心考点解析

2026/9/2 10:08:07

每年校招季我都会接触不少准备数据库方向笔试的同学,看到最多的状态就是:简历上写着“熟悉 MySQL”“了解索引优化”,一碰到数据库管理工程师的笔试卷,却在索引、事务、锁、备份恢复这些题目上翻车。网易这套 2018 校园招聘数据库…

数字电路时序基石:深入理解建立时间与保持时间

数字电路时序基石:深入理解建立时间与保持时间

2026/9/2 12:11:52

1. 这不是“背公式”的事:时间参数到底在约束什么你翻过数字电路教材,一定见过这两个词:建立时间(Setup Time)和保持时间(Hold Time)。它们常被并列写在触发器(Flip-Flop&#xff09…

蓝桥杯国赛超声波测距机:从单片机原理到嵌入式系统实战

蓝桥杯国赛超声波测距机:从单片机原理到嵌入式系统实战

2026/9/1 23:49:08

1. 项目缘起:从赛题到超声波测距机的诞生第八届蓝桥杯单片机设计与开发国赛的题目,我至今记忆犹新。它没有直接给出一个花哨的名字,而是用“超声波测距机”这个朴实无华的功能描述,精准地勾勒出了考核的核心。对于当时备赛的我而言…

单片机毕业设计-基于单片机与蓝牙通讯的输液状态监测终端设计与开发 基于 STM32 或 51 单片机的液位‑滴速‑温度多参数输液监护装置设计(024005)

单片机毕业设计-基于单片机与蓝牙通讯的输液状态监测终端设计与开发 基于 STM32 或 51 单片机的液位‑滴速‑温度多参数输液监护装置设计(024005)

2026/9/2 0:04:59

博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于嵌入式单片机,Java、小程序技术领域和毕业项目实战 ✌️…

DeepSeek字幕翻译实战:从API调用到批量SRT转中文的完整方案

DeepSeek字幕翻译实战:从API调用到批量SRT转中文的完整方案

2026/9/2 0:04:59

这次我们来看一个很实用的 DeepSeek 落地场景:用 DeepSeek 把英文视频字幕自动翻译成中文。具体案例是《恶魔君》1989 年第 28 集的英转中字幕任务,标题写得很直白,但背后其实是一整套可以复用的技术流程:字幕解析、模型调用、批量…

用Python搭建搞笑语音助手:从语音识别到语音合成全教程

用Python搭建搞笑语音助手:从语音识别到语音合成全教程

2026/9/2 0:04:59

当你家里摆着一台天猫精灵,却总希望语音助手偶尔“不正经”一点,不用官方腔回答问题,而是张口就接几句搞笑段子,会是什么体验?我最近动手验证了一下这个想法——没有去改装任何市面上现有的智能音箱,而是直…

远程协作的工作台整理

远程协作的工作台整理

2026/9/2 6:21:32

远程协作的工作台整理远程协作的核心不是再加一个工具,而是让交接信息足够完整。异步任务要写明目标、输入位置、完成标准和需要决策的人。 工作台的最小配置 将日程、待办、代码和沟通入口收拢到少数固定位置;通知按紧急程度分层。工作台不需要模仿办公…

持续集成 流水线自动化与 声明式交付 实践:原型怎样变成可用功能

持续集成 流水线自动化与 声明式交付 实践:原型怎样变成可用功能

2026/9/2 6:21:32

持续集成 流水线自动化与 声明式交付 实践:原型怎样变成可用功能分类:[AI/大模型]细分主题:AI 增强型 CI/CD 流水线自动化与 GitOps 实践:Agent 工作流、工具调用与任务拆解:从原型到生产的验收清单很多团队在尝试用大…

容器编排 生产环境运维与排障实战:复盘记录怎样真正派上用场

容器编排 生产环境运维与排障实战:复盘记录怎样真正派上用场

2026/9/2 2:45:06

容器编排 生产环境运维与排障实战:复盘记录怎样真正派上用场分类:[工程技术]细分主题:Kubernetes 生产环境运维与排障实战:可复制的项目复盘模板与决策记录大部分团队的事故复盘报告,最后都变成了躺在 Confluence 或钉…