24GB 显卡跑 32B 量化模型：vLLM 与 llama.cpp 选型对比
手上有 24GB 显存的 Quadro M6000，想跑 32B 量化模型，该选 vLLM 还是 llama.cpp？本文核实了两套框架的硬件门槛，给出 M6000（Maxwell 架构）上的可行性结论与可复现的编译步骤。
-
-
ComfyUI 本地部署完全指南：SDXL 出图环境与显存占用实测
从环境准备、模型目录规范到 SDXL 出图显存实测，完整记录一套可复用的 ComfyUI 本地部署流程，帮你在自己的显卡上把 AI 出图跑起来。
-
用 Ollama 在 PVE 虚拟机里跑本地大模型：显卡直通与显存规划
在 PVE 上给虚拟机直通一块显卡的完整流程：IOMMU 开启、vfio 绑定、驱动分支避坑，再按显存容量规划 7B~32B 量化模型与 KV cache，最后用 Ollama 跑通验收。
-
ubuntu 24.04安装rtx3060驱动
参考链接：Ubuntu 24.04 LTS 保姆级教程：安装 NVIDIA 显卡…
-
-
PVE 优化辅助工具,PVE7 8 9
PVE-source GitHub – zxhpipi/pve-so…
-
dell r720+PVE+tesla p4+VGPU+飞牛OS硬解安装过程记录
飞牛OS更新后 P4现在只支持6.12内核的，安装的驱动是这个链接https:/…
-
-
ubuntu24.04双网卡设置内外网同时访问
使用ip add show 命令查看网卡名称 编辑/etc/netplan/50…
-
记录一下DELL R720XD 阵列卡刷直通教程
很详细的教程地址：戴尔 H310/H710(P)/H810 阵列卡刷写为直通模式…
