24G 显卡能跑本地 AI 吗？M6000 实测
2015 年的 Quadro M6000 24GB 改造成本地 AI 推理机，实测 9 个模型 7 个维度：gpt-oss-20b 跑到 39.9 tok/s，131072 上下文仅占 13.1GB 显存，拆解量化格式与显存带宽三个反直觉发现。
-
-
24GB 显卡跑 32B 量化模型：vLLM 与 llama.cpp 选型对比
手上有 24GB 显存的 Quadro M6000，想跑 32B 量化模型，该选 vLLM 还是 llama.cpp？本文核实了两套框架的硬件门槛，给出 M6000（Maxwell 架构）上的可行性结论与可复现的编译步骤。
