本地模型接入指南

用自己的电脑跑模型(Ollama / LM Studio / llama.cpp / vLLM),不花 API 费用,提问内容也不出本机。 一共三步:① 启动模型 → ② 授权浏览器访问本机 → ③ 在站内填写配置。 第 ② 步建议提前主动设置好,不要等「测试连接」失败再回头找。

零、为什么浏览器要单独授权

从 2025 年 10 月起,Chrome / Edge(2026 年的 Firefox 也跟上了)对「公网网页访问你电脑本机」加了硬性限制:网页必须先得到你的明确许可,才能连 127.0.0.1 / localhost。这是浏览器为了保护你(防止任意网站扫描你的内网、偷看本机服务)统一加的规定,不是本网站的问题,任何网站的本地模型功能都要过这一关。

不授权时,站内「测试连接」只会得到一句看不出原因的英文:TypeError: Failed to fetch。

权限名称:Chromium 内核浏览器(Chrome / Edge / Brave / Vivaldi / Opera / 国产浏览器)里叫 「设备上的应用」(英文 Apps on device,内部名 loopback-network); 如果你连的是局域网里的另一台机器(如 192.168.1.10),则叫 「本地网络」(Local Network)。 Firefox 里叫 「访问本地网络设备」(Access local network devices)。 权限只对你设置的那个网站生效,随时可以在同一处撤回。

一、主动设置浏览器权限(重点)

请先打开本站的 AI 检索页并停留在该标签页(https://inhistory.cn/ai),然后任选下面一种方式设置。

方式 A:点地址栏左侧的图标(推荐,Chromium 内核通用)

  1. 点地址栏最左边的小图标(锁形 / 调节滑块 / 感叹号),弹出「网站信息」面板。
  2. 点 「网站设置」(Site settings)。
  3. 在权限列表里找到 「设备上的应用」(Apps on device);若你连的是局域网 IP,找 「本地网络」(Local Network)。
  4. 把它从「询问」或「阻止」改成 「允许」。
  5. 回到本站,按 F5 刷新页面,再去设置里点「测试连接」。

Firefox 的入口不同:点地址栏左侧的 「页面信息」图标 →「权限」→「访问本地网络设备」→ 允许。

方式 B:在浏览器设置里直接添加(按浏览器选)

各浏览器入口不同,对照下表。表里没有你的浏览器,或下面这些地址打不开,直接回到方式 A。

浏览器怎么做
Chrome 地址栏输入 chrome://settings/content/loopbackNetwork → 点「添加」→ 填 https://inhistory.cn
Edge 地址栏输入 edge://settings/content/loopbackNetwork → 添加 https://inhistory.cn
Brave brave://settings/content/loopbackNetwork → 添加。打不开就输 chrome://settings/content/loopbackNetwork,Brave 会自动跳转
Vivaldi vivaldi://settings/content/loopbackNetwork → 添加。打不开就试 chrome://settings/content/loopbackNetwork
Opera opera://settings/content/loopbackNetwork → 添加
360 / QQ / 搜狗 / 猎豹等国产浏览器 先试 chrome://settings/content/loopbackNetwork。如果设置里根本没有这一项,说明它的内核版本低于 Chromium 142,本身不拦,直接用方式 A 或直接测试即可
Firefox 145 及以上
(153 起对所有用户默认开启)
没有「站点权限」开关,两条路:
① 右键页面 →「页面信息」→「权限」→「访问本地网络设备」→ 允许;
② 地址栏输入 about:config → 新建字符串 network.lna.skip-domains,值填 inhistory.cn(多个域名用英文逗号分隔),然后重启浏览器
Firefox 144 及以下 不拦,跳过本步
Safari(macOS / iOS) 没有授权入口,并且会把 http://127.0.0.1 当混合内容拦掉。本地模型在 Safari 上走不通,请改用 Chrome / Edge / Firefox

如果模型在局域网另一台机器上,把上表地址里的 loopbackNetwork 换成 localNetwork,再加一次 https://inhistory.cn。

方式 C:等浏览器自己弹框

第一次点「测试连接」时,Chrome / Edge / Firefox 可能自动在地址栏下方弹出授权提示,点 「允许」 即可。但弹框不一定出现(尤其 Firefox 经常不弹),不建议依赖这种方式,所以放在这里作补充。

如果你之前不慎点过「阻止」:浏览器不会再弹框,必须按方式 A 或 B 手动改回来。
找不到「设备上的应用」这一项:说明浏览器内核低于 Chromium 142(2025 年 10 月版),此时浏览器本身不拦本机访问,直接测试即可;也可能是国产浏览器改过设置界面,那就用方式 A。
换浏览器是最快的排除法:如果上面都试过还不行,用 Chrome 打开本站再测一次。能通说明是原浏览器的问题,不能通才是模型或配置的问题。
手机 / 平板浏览器:无法运行本地模型,请改用电脑。

二、启动本地模型服务

选一种你顺手的即可。四种方式都能用,只要你拿到一个以 /v1 结尾的地址。

工具安装与启动默认 base_url
Ollama 官网 ollama.com 下载安装,然后
ollama pull qwen2.5:14b
ollama serve
http://127.0.0.1:11434/v1
LM Studio 官网下载 → 在「My Models」下载模型 → 左侧 Developer 页 → Start Server http://127.0.0.1:1234/v1
llama.cpp 下载 release 包,运行
llama-server -m 模型.gguf --port 8080
http://127.0.0.1:8080/v1
vLLM vllm serve 模型名 --port 8000 http://127.0.0.1:8000/v1

Ollama 用户必看:还要放行站点来源

浏览器的权限放开了,服务端还有一道 CORS 检查。Ollama 默认只信任本机来源,需要把本站加进去再启动:

# Windows(设置一次,重启 Ollama 后长期生效)
setx OLLAMA_ORIGINS "https://inhistory.cn"

# macOS / Linux(临时,仅本次启动有效)
OLLAMA_ORIGINS=https://inhistory.cn ollama serve

LM Studio 请在 Developer 页勾选 Enable CORS;llama.cpp 新版默认允许所有来源,一般不用改;vLLM 需加 --allowed-origins '["https://inhistory.cn"]'。

确认服务确实起来了

在浏览器地址栏直接打开下面这个地址(换成你自己的端口),能返回一段 JSON 就说明服务正常:

http://127.0.0.1:11434/v1/models

里面的 id 字段就是模型名,第 3 步要一字不差地填进站内。

三、在站内填写配置

  1. 打开 AI 检索,点右下「设置」(或展开「下列选项」)。
  2. 模型来源:选 Ollama / LM Studio / vLLM / llama.cpp 中你用的那一个。
  3. base_url:填第 2 步得到的地址,如 http://127.0.0.1:11434/v1。必须带 /v1,不要带 /chat/completions。
  4. 模型名:填 /v1/models 里看到的 id,例如 qwen2.5:14b。多一个字、少一个字都会报错。
  5. API Key:本地模型留空。
  6. 点「测试连接」。看到「连通成功」后再点「保存设置」。
设置面板里会直接显示「本机网络访问权限」的当前状态,显示未授权时点旁边的「怎么设置」,就是回到本页第一节。

四、常见错误对照

现象原因怎么办
TypeError: Failed to fetch 浏览器没授权 / 模型服务没启动 / 端口写错 / Ollama 未放行来源 按顺序查:① 浏览器打开 base_url/models 能否返回 JSON;② 回本页第一节授权;③ 看 Ollama 的 CORS 设置
浏览器直接打开 base_url/models 也打不开 服务没启动,或端口不是这个 确认启动命令里的端口,并确认程序还在运行窗口里没退出
HTTP 400:model not found 模型名和实际不一致 用 /v1/models 返回的 id 原样复制
HTTP 403 / 提示 origin 不允许 服务端 CORS 没放行本站 Ollama 设 OLLAMA_ORIGINS;LM Studio 开 Enable CORS
模型未返回内容 返回格式不是 OpenAI 兼容格式,或模型把回复放进了别的字段 确认 base_url 指向的是 /v1 接口,而不是普通网页端口
一直「测试中…」然后超时 模型太大、显存不足,或首次加载模型很慢 换更小的量化模型(如 7B / 14B 的 Q4),等模型加载完再测
电脑风扇狂转 / 画面卡死 本地 GPU 模型占用显存过高 用 CPU 量化模型,或调小上下文长度;不建议在办公电脑上跑大模型

五、数据会去哪里

用本地模型时
提问原文、上传的数据集、对话历史都只在你自己的电脑上,不会经过本站服务器;只有真正用于检索的关键词会发到本站。模型推理完全不产生 API 费用。
用云端 API 时
请求会经由本站服务器转发给对应服务商,服务器不保存你的 key 与提问,但传输过程中会经过服务器。对数据敏感的研究,建议用本地模型。
浏览器权限的范围
「设备上的应用」权限只对 https://inhistory.cn 生效,不会让其它网站获得同样的能力;随时可以在同一处关闭。

六、还是一步都走不通?

把下面三项信息发给作者,基本能一眼定位:

  1. 浏览器名称和版本(地址栏输入 chrome://version 可看)
  2. 「测试连接」显示的那句完整报错
  3. 在浏览器地址栏直接打开 你的base_url/models 后看到的内容(截图或复制都行)

联系方式见 网站说明 页底部。