用Qwen3.8搭建本地RAG知識庫：零成本入門教學
無需API費用，在自己的電腦上運行完整的知識問答系統
AI 教學AI 生成
重點整理
- 使用Qwen3.8開源模型在本地搭建完整的RAG知識問答系統
- 全程零API費用，只需一台16GB記憶體的電腦即可運行
- 涵蓋文件解析、向量嵌入、檢索策略和生成優化完整流程
- 使用Ollama + ChromaDB + LangChain的輕量級技術棧
為什麼選擇本地RAG？
雲端API雖然方便，但對於包含敏感數據的企業知識庫，本地部署是更安全的選擇。本教學將帶你使用Qwen3.8開源模型，在自己的電腦上搭建一個完整的RAG系統——全程零API費用。
技術棧
- LLM：Qwen3.8-7B（通過Ollama運行）
- 向量資料庫：ChromaDB（輕量級、零配置）
- 框架：LangChain 3.0
- 嵌入模型：bge-large-zh-v2（本地運行）
快速開始
首先安裝Ollama並拉取模型：
ollama pull qwen3.8:7b
pip install langchain chromadb sentence-transformers
核心流程
- 文檔加載與分割：使用RecursiveCharacterTextSplitter，chunk_size設為512
- 向量嵌入：使用bge-large-zh-v2生成1024維向量
- 檢索：Top-K檢索 + MMR重排序，避免結果重複
- 生成：將檢索結果作為上下文傳入Qwen3.8生成回答
完整代碼和配置模板已開源在GitHub上，歡迎Star和Fork。