固定变量,再谈效果
量化格式、上下文长度、chat template 一次只改一个。不能复现的体验,不值得优化。
不追大而全。每一个模型,都先回答“在什么机器上,能做什么”。
01 / THE INDEX
这是一张按设备条件整理的短名单,不是排行榜。完整模型库里有全部筛选维度、 对比台和每个模型的运行档案。
当前索引按编辑顺序展示。
打开完整模型库 · 筛选与对比02 / BY DEVICE
舒适线按 Q4_K_M 与 4K 上下文保守估算,不含系统占用与并发。先进对应档位, 再用任务场景和许可证收窄。
03 / SKILL RECIPES
每张技能配方都包含提示词、固定工作流和验收反例,并带上最低显存预算。 复制模板只是开始,先用真实输入跑一遍。
量化格式、上下文长度、chat template 一次只改一个。不能复现的体验,不值得优化。
先测真实业务样本,再看通用榜单。记录失败类型,而不只是看一个平均分。
设置超时、降级和人工接管。小模型不是全知,工作流要为它兜住边界。