本地 RAG 知识库搭建:Ollama + 向量库 + 文档切片实践
把私人文档切片入向量库,再接本地大模型做检索增强问答:选型 embedding 模型、确定切片粒度、写一套最小可用的入库与检索脚本,聊聊 chunk size 对召回质量的实际影响。
把私人文档切片入向量库,再接本地大模型做检索增强问答:选型 embedding 模型、确定切片粒度、写一套最小可用的入库与检索脚本,聊聊 chunk size 对召回质量的实际影响。
在 PVE 上给虚拟机直通一块显卡的完整流程:IOMMU 开启、vfio 绑定、驱动分支避坑,再按显存容量规划 7B~32B 量化模型与 KV cache,最后用 Ollama 跑通验收。