[工具] 老司机必备！AI 本地聊天整合包 v1.21正式版来啦

阿森睡不着

老司机搞机必看！剑侠AI 本地聊天整合包 v1.21 正式版来啦纯本地离线运行 ｜ 解压即用免配置 ｜ 自研 Vue3 中文界面 ｜ 隐私无死角防护

为什么要折腾本地 AI？大家懂的都懂，现在在线 AI 限制越来越多，提问动不动就“敏感词敏感词”，要不就是聊着聊着突然断连、收费，甚至你问的那些私密话题、个人资料全在人家服务器上留底……
这次搞出来的 剑侠AI 本地聊天整合包，就是为了彻底解决这些痛点。把顶级大模型直接塞进你自己的电脑里，不联网也能跑，想怎么聊就怎么聊，数据完全掌控在自己手里！



为什么说它是老司机必备？- 零门槛，解压就能用内置了独立便携 Runtime 环境，不用再去配什么复杂的 Python 环境变量，也不用看满屏报错眼花缭乱。解压到文件夹，双击直接开运行！- 自研 Vue3 中文高颜值界面告别死板的 CMD 黑色命令行窗口！我们自己写的现代化叁栏 UI，极其符合国人的使用习惯，操作顺手，颜值直接拉满。- 真正的纯本地离线 ＆ 隐私防护所有计算全程吃你自己的显卡/CPU，零数据上传。还贴心内置了安全工作区，AI 帮你看代码或改文件前会自动备份，再也不怕把本地文件搞丢搞乱。- Models 自动识别 + 多模态识图模型下好了直接往文件夹一扔，软件自动识别，不用手动改各种配置文件。支持多模态，扔张截图、架构图或者看图说话，直接就能跟它对聊。- 显存极速释放 ＆ 云端 API 无缝切换软件一关，GPU 显存瞬间释放干净，绝不后台偷偷跑满你的显卡。要是本地显卡不够顶，还能一键接入云端 API 模式，灵活得很！- 你的显卡能跑多爽？（硬件参考）- 入门级（6GB 显存）：流畅跑 7B / 8B 级别的纯文本大模型（比如 Llama3、Qwen 等），平时写写代码、润色文案轻轻松松。- 甜品级（12GB 显存·强烈推荐）：稳跑 14B~35B 深度量化模型，多模态识图也毫无压力，体验极度丝滑。- 发烧级（16GB 显存及以上）：各种高精量化大模型随便扔，长文本推理、复杂逻辑分析直接拉满！

（PS：显卡稍弱的朋友也别慌，挂云端 API 同样能享受这套超爽的本地 UI 和安全备份功能。）

怎么上手？四步开爽：- 下载后解压到全英文路径的盘符下；- 把你的模型文件（GGUF 等格式）直接放进 models 文件夹；- 双击 根目录下的启动主程序.exe，自动弹出中文界面；- 选好模型，直接开启你的私密 AI 对话之旅！



整合包大小与模型说明

- 为了控制整合包体积、方便大家快速下载和试用，本体仅内置了一款 Qwen3.5-9B 多模态无审查模型。其他模型可根据个人需求后续自由扩展，既节省本地空间，又能即装即用！
- 整合包本体约1.20GB+内置Qwen3.5-9B多模态无审查模型一共8GB左右
- 为了方便无法“科学上网”的小伙伴下载，专门整理了 15 款精选实用模型，（直接使用云盘直连下载）
- 整合包内置；（模型适配显卡说明.txt），（整合包详细使用说明.txt），（模型下载.txt）

【开发阶段特别说明】

目前整合包仍处于 开发测试阶段，并不代表最终品质！由于不同电脑的系统环境差异，可能会遇到某些设备不兼容或功能 Bug 的情况。

期待您的反馈：

诚邀各位体验官在使用过程中帮我收集遇到的问题、Bug 或提出您希望新增的扩展功能！每一条建议我都将作为后续版本迭代规划的重要参考！

  剑侠AI本地聊天整合包 · 更新记录
================================================================================
【v1.22】  2026-07-15
================================================================================
  版本：v1.21 → v1.22
  主要更新：
  · 新增 GPU 自动检测与算力后端切换
      - 检测到 NVIDIA 独显 → 自动使用 CUDA 加速（python/）
      - 检测到 AMD 独显   → 自动使用 Vulkan 加速（python-vulkan/）
      - 未检测到独立显卡 → 默认 CPU 推理（-ngl 0；核显不默认加速）
  · 新增 python-vulkan/ 目录（llama.cpp b9870 Windows Vulkan 后端）
  · 加载模型时若 GPU 后端启动失败，自动回退 CPU，避免整包直接不可用
  · 运行状态 / 日志输出「算力后端: CUDA / VULKAN / CPU」信息
  · 支持高级强制切换：环境变量 JX_COMPUTE_BACKEND=cuda|vulkan|cpu
  · 同步更新《整合包使用说明》与《模型适配显卡说明》中的显卡说明

  说明：
  · A 卡请保持 AMD 显卡驱动为较新版本（需支持 Vulkan）
  · N 卡用户行为与 v1.21 基本一致，仍优先走 CUDA
  · 模型显存档位表仍以 NVIDIA 为参考；AMD 可按相近显存选用
  新版本1.22 支持A卡GPU加速了，大家仍然需要使用过程中中来测试看看，右侧运行状态有没有使用的是显存在跑！不同机型构造不一样
================================================================================
【v1.21】
================================================================================
  · 整合包基线版本（本文件自 v1.22 起正式维护）
PS：N卡用户无需重新下载，这次更新是专门针对A卡用户的优化兼容，支持GPU加速A卡用户需要重新下载，JianxiaChatv1.22 版本+然后保留旧版的Models目录的模型，只需要下载本体，用7-Zip解压后，把旧版的Models模型移到新版Models目录下即可切记，解压整合包前，提前关闭系统杀毒软件和第叁方杀毒软件，避免解压过程中误杀拦截整合包相关组件文件等，如果双击启动显示白屏，必须安装必备的WebView2前置工具