RAG 推理双机配置|CSHRAG1 与 CSHRAG2

项目CSHRAG1CSHRAG2
主机别名cshrag1cshrag2
用途RAG 本地知识库推理RAG 推理
CPUi5-10400F,6C12T,AVX2,12MB L3i3-12100F,4C8T,AVX2 / FMA / BMI2,12MB L3
内存16GB DDR4-2666,单通道16GB×2 DDR4 3200,双通道,合计 32GB
显卡RTX3060 12GB(Ampere)过渡:GTX 750 Ti 2GB(Maxwell,2014 批次);待到货:耕升 RTX 5060 Ti 16GB
系统盘NVMe SSD 512GB,可用 476GiB,GPTToshiba XG6 256GB NVMe,PCIe 3.0 x4 满速
  • GPU 已分叉:CSHRAG1 是 RTX3060 12GB,CSHRAG2 原为同款 3060,2026-10-25 换下后暂用 GTX 750 Ti 2GB 过渡,耕升 RTX 5060 Ti 16GB 到货后将反超(16GB vs 12GB);
  • CSHRAG2 优势:内存更大 + 双通道,适合更大上下文、多并发;
  • CSHRAG1 优势:CPU 核心更多、SSD 容量更大。
项目TORIMOB家里台式机
主机别名torimob(x13)rag2
用途主力工作机本地推理 + Hermes 控制端(本文实测机)
机型ThinkPad 20T3A060CD台式机(自组)
主板LENOVO(品牌机主板,SDK0K09938)微星 B660M Bomber DDR4
CPUi5-10210Ui3-12100F,4C8T,AVX2 / FMA / BMI2,12MB L3
内存8G海盗船 DDR4,32GB(系统识别 30.7GiB)
显卡Intel UHD 核显GTX 750 Ti 2GB(过渡)→ 耕升 RTX 5060 Ti 16GB(待到货)
电源金河田 500W(5060 Ti 建议 600W)
系统盘Toshiba XG6 256GB NVMe(KXG60ZNV256G),PCIe 3.0 x4

三、控制端:CSHPC102(当前机器)

这一台不是推理机,是跑 Hermes agent 的控制端:负责调度、检索编排、调用 11gu.cn 的 REST API 发布,以及跑浏览器自动化。真正出力的推理交给 CSHRAG1 与 CSHRAG2。

项目CSHPC102
主机别名cshpc102
用途Hermes 控制端 / agent 调度(非推理)
主板Lecoo JSLT1C(BIOS JSLT1C0.10,2024-04-18)
CPUIntel Celeron N5095 @ 2.00GHz,4C4T,最高 2.9GHz
指令集SSE4.2 / AES / GFNI;无 AVX、无 AVX2、无 FMA(不满足 x86-64-v3)
内存8GB(系统识别 7.0GiB),DDR4 板载
显卡Intel UHD Graphics 核显(JasperLake,rev 01)
系统盘BIWIN CSE80S1M21-256G SATA SSD,238.5GiB;根分区 ext4 29G,可用约 6G
其它分区sda3 80G NTFS、sda4 128.8G NTFS(Windows,未挂载)
系统Ubuntu 26.04.1 LTS,内核 7.0.0-38-generic
网络有线 192.168.31.206/24,无线关闭;无对外暴露服务

说明:这一节描述的是 CSHPC102,文中标注的「当前机器」是 2026-10-25 写稿时的口径。截至 2026-10-27,实际运行 Hermes 并执行本次发布的是 CSHRAG2(见第四节),两台机器配置不同——不要把这里的「8GB 内存、无独显、无 AVX2」套到 CSHRAG2 上。

没有独立显卡,内存也只有 8GB,所以它连最小的可用 GGUF 都装不下,更谈不上 CPU 推理。更硬的限制是指令集:N5095 没有 AVX2 与 FMA,连 x86-64-v3 都不满足,多数为 x86 编译的量化推理内核在这台上会退化成标量路径。

实操上真正的约束是内存与磁盘:8GB 内存要同时扛住 agent 运行时、Chrome 与 Firefox,交换分区已经吃到 1.4GB;根分区可用仅 6GB,而 ~/.hermes/cache(web 抓取缓存、uv 缓存、browser-use 工作区)正是往这里长的。

为什么把它单独列出来

  • 它跟 CSHRAG1 / CSHRAG2 不是同一类机器——后两者是推理节点,它是控制面;
  • 把三者混在一张表里容易误读成「三台推理机」,所以这里单列;
  • 「当前机器」这个说法会随时间失效,本文写的是 2026-10-25 的实测值。

四、CSHRAG2 实测:存储与 PCIe 链路(2026-10-27)

上表里的「家里台式机」(主机别名 rag2,hostname CSHRAG2)就是本文写稿的这台机器:微星 B660M BOMBER DDR4(MS-7D46,BIOS 2.20 / 2022-03-23),Intel 12 代 i3-12100F。它同时是 11gu.cn 的发布控制端——本文这一版就是它自己通过 11gu.cn 的 REST API 写回去的。下面是 lspci 与 sysfs 的实测值;CSHRAG1 一列不在本机范围,未复核。

NVMe 接口

  • 型号:东芝 Toshiba KXG60ZNV256G(256GB),控制器为 XG6 NVMe SSD Controller [1179:011a];
  • 接口:PCIe 3.0 x4,实测 current_link_speed = 8.0 GT/s、current_link_width = 4,与 max 相同——满速,没有降 lane;
  • 带宽上限:约 3.94 GB/s;
  • 拓扑:CPU → 00:1c.0(B660 芯片组 PCIe Root Port #1)→ 02:00.0。挂在主板 M.2_1 上,该槽由 B660 芯片组引出,MSI 规格上限正好是 PCIe 3.0 x4——这颗盘跑的就是该槽的满速;
  • 分区:p1 300M EFI(vfat)、p2 16M MSR、p3 40G NTFS、p4 198.2G ext4 挂载为 /,根分区 194G,已用 54G,可用 131G;
  • 交换分区:/swap.img 8G 文件式。

显卡槽与 PCIe 拓扑

00:01.0 是 CPU 直连的 x16 根端口(能力 32 GT/s / Gen5 x16),当前由 GTX 750 Ti 占用,实测协商 8.0 GT/s × 8 lane(Maxwell 本身只到 Gen3)。它与上面的 NVMe 分属 CPU 通道和芯片组通道,互不争用带宽——换显卡不会影响存储速度。

五、显卡待到货:耕升 RTX 5060 Ti 16GB

这台机器上现在插的是 2014 年批次的微星 GTX 750 Ti(2GB GDDR5,Maxwell),属于过渡占位卡;真正要换上去的是耕升 RTX 5060 Ti 16GB(白色三风扇),已单独记在本站「物什」栏目:耕升 RTX 5060 Ti 16GB 显卡,目前尚未到货。

  • 芯片 GB206(Blackwell),4608 CUDA,16GB GDDR7 / 128-bit / 448 GB/s;
  • 接口 PCIe 5.0 x8——插在本板 Gen4 的 CPU x16 槽上会按 Gen4 x8 协商;
  • 功耗 180W,16-pin ATX 3.1 供电,厂商建议 600W 电源;本机是金河田 500W,换卡时留意供电线材与余量;
  • 相对 750 Ti 的 2GB,这是 8 倍的显存容量,RAG 推理能吃下的上下文长度与并发数由此抬升。