ISSUE 01 / 1B—14B OPEN MODELS

小模型,
认真选,直接跑。

优秀的小模型越来越多,但找得到、装得上、调得动才是门槛。si7b 把模型卡、硬件预算和运行命令,整理成一张分层的索引。

中文优先 本地写码 读懂截图 6GB 轻量
当前索引
18 个模型
任务场景
7 类
Q4 显存带
1.4–10.4 GB

不追大而全。每一个模型,都先回答“在什么机器上,能做什么”。

01 / THE INDEX

本期索引,先看六条。

这是一张按设备条件整理的短名单,不是排行榜。完整模型库里有全部筛选维度、 对比台和每个模型的运行档案。

当前索引按编辑顺序展示。

打开完整模型库 · 筛选与对比

02 / BY DEVICE

你的显存,
决定从哪一档看起。

舒适线按 Q4_K_M 与 4K 上下文保守估算,不含系统占用与并发。先进对应档位, 再用任务场景和许可证收窄。

03 / SKILL RECIPES

选到模型,
再把任务跑顺。

每张技能配方都包含提示词、固定工作流和验收反例,并带上最低显存预算。 复制模板只是开始,先用真实输入跑一遍。

进入技能库 · 12 张任务配方

04 / FIELD NOTES

跑起来,只是及格线。

比模型选型更容易出问题的,是模板、上下文和显存预算。把变量固定住, 用真实输入验收,再谈效果。

打开运行手册
01

固定变量,再谈效果

量化格式、上下文长度、chat template 一次只改一个。不能复现的体验,不值得优化。

02

用你的 20 条输入

先测真实业务样本,再看通用榜单。记录失败类型,而不只是看一个平均分。

03

给失败留好出口

设置超时、降级和人工接管。小模型不是全知,工作流要为它兜住边界。