工具

跨平台桌面聊天客户端，可以填自己的 API Key 或本地模型地址。适合不想在网页里反复切换账号的人。

1. 1安装后先选「使用自己的 API Key」，不要默认走它的托管服务
2. 2填 base URL 与模型名，发一条消息确认连通
3. 3把常用提示存成模板，减少重复输入
4. 4敏感材料不要开云同步，本地会话更稳妥

核验 2026-11-13 · docai 编辑部

网页里直接试提示、调参数、导出代码。适合在写程序之前，先把提示调顺。

1. 1用 Google 账号登录，选一个模型开一个空白对话
2. 2在同一页调 temperature 与最大输出，观察回答怎么变
3. 3调好后点「获取代码」，把同一段提示搬进自己的程序

核验 2026-11-13 · docai 编辑部

开源的本地模型桌面客户端，下载即用，模型和数据都在本机。适合试开源模型、处理不便上传的材料。

1. 1下载对应系统的安装包，首次启动会引导下载一个模型
2. 2在小模型里选一个 7B 级别的先跑，确认机器能承受
3. 3把设置里的模型目录改到大容量磁盘，模型文件很占空间
4. 4需要 API 时打开本地服务端口，用 OpenAI 兼容格式调用

核验 2026-11-13 · docai 编辑部

桌面端跑本地模型的图形工具，不用命令行。适合先感受「小模型和云端差在哪」。

1. 1安装后在模型页搜一个小参数模型，下载并加载
2. 2用同一个提示分别问本地模型和云端模型，记录差别
3. 3开启本地服务，把地址填进你的客户端，观察延迟变化

核验 2026-11-13 · docai 编辑部

在本机跑开源模型的命令行工具。用来验证「同一个提示换小模型会怎样」，不必联网也不必花额度。

1. 1安装后先 ollama run 一个小模型，确认本机能跑起来
2. 2用 ollama list 看已下载的模型，注意磁盘占用
3. 3把本地地址接进你的客户端，对比同一提示与云端结果的差别

核验 2026-11-13 · docai 编辑部

一个接口调用多家模型的聚合网关，适合横向对比同一提示在不同模型上的表现，也方便做故障切换。

1. 1注册后创建 key，先充最小金额，别一次充多
2. 2在模型列表里看每个模型的单价与上下文长度，按任务选
3. 3用 OpenAI 兼容格式发请求，只改 base URL 和模型名
4. 4上线前给主模型配一个备用模型，主通道 429 时切过去

核验 2026-11-13 · docai 编辑部

在浏览器里看清一段文本会被切成哪些 token、一共多少。算成本、判断上下文够不够时，比估算法可靠。

1. 1打开页面，在模型下拉框里选你要用的系列
2. 2粘贴一段真实文本，看 token 数与切分边界
3. 3换中文、英文、代码各试一次，感受不同语言的 token 密度
4. 4把结果写进你的成本表，别再用「字数除以二」估

核验 2026-11-13 · docai 编辑部

可自建的模型聊天界面，支持多家后端与知识库。适合团队内部署一套统一的入口，而不是每人各装一个客户端。

1. 1用 Docker 起服务，先只挂本地 Ollama 后端跑通
2. 2建管理员账号后立刻关闭公开注册
3. 3需要多用户时再配数据库与鉴权，别用默认配置直接暴露公网
4. 4接知识库前先确认文件存储位置与备份方式

核验 2026-11-13 · docai 编辑部