PCIe 显卡直通给虚拟机跑 AI：IOMMU 配置避坑手册
在 PVE 上把物理显卡直通给虚拟机跑 AI，是本地算力池化的关键一步。本文从 BIOS、内核参数、IOMMU Group、驱动抢占四个层面，逐条梳理显卡直通的常见坑位与排查顺序。
-
-
把 ComfyUI 做成局域网出图服务：API 调用与队列管理
把 ComfyUI 从单机 GUI 改造成局域网出图服务：开放监听地址、用 HTTP API 提交工作流、轮询结果，并在客户端做好排队、超时与失败重试，让多台机器共享一张显卡。
-
24G 显卡能跑本地 AI 吗？M6000 实测
2015 年的 Quadro M6000 24GB 改造成本地 AI 推理机，实测 9 个模型 7 个维度：gpt-oss-20b 跑到 39.9 tok/s，131072 上下文仅占 13.1GB 显存，拆解量化格式与显存带宽三个反直觉发现。
-
本地 RAG 知识库搭建：Ollama + 向量库 + 文档切片实践
把私人文档切片入向量库，再接本地大模型做检索增强问答：选型 embedding 模型、确定切片粒度、写一套最小可用的入库与检索脚本，聊聊 chunk size 对召回质量的实际影响。
-
24GB 显卡跑 32B 量化模型：vLLM 与 llama.cpp 选型对比
手上有 24GB 显存的 Quadro M6000，想跑 32B 量化模型，该选 vLLM 还是 llama.cpp？本文核实了两套框架的硬件门槛，给出 M6000（Maxwell 架构）上的可行性结论与可复现的编译步骤。
-
ComfyUI 本地部署完全指南：SDXL 出图环境与显存占用实测
从环境准备、模型目录规范到 SDXL 出图显存实测，完整记录一套可复用的 ComfyUI 本地部署流程，帮你在自己的显卡上把 AI 出图跑起来。
-
用 Ollama 在 PVE 虚拟机里跑本地大模型：显卡直通与显存规划
在 PVE 上给虚拟机直通一块显卡的完整流程：IOMMU 开启、vfio 绑定、驱动分支避坑，再按显存容量规划 7B~32B 量化模型与 KV cache，最后用 Ollama 跑通验收。
-
ubuntu 24.04安装rtx3060驱动
参考链接：Ubuntu 24.04 LTS 保姆级教程：安装 NVIDIA 显卡…
-
