LlamaIndex怎麼用 企業知識庫RAG搭建教程

LlamaIndex是一個專門用於搭建RAG應用的框架，能把私有文件、網頁和資料庫接入大模型，讓AI檢索你的資料後再回答問題。下面用Python搭一個最小可執行的企業知識庫示例：先讀取本地檔案，再切分、向量化並建立索引，最後透過查詢引擎提問。正式上線時，還要補上權限、更新和效果評估。

第一步：安裝LlamaIndex

先準備Python環境，建議在專案目錄建立虛擬環境，避免依賴和其他專案打架。終端執行python -m venv .venv，再按系統啟用它；接著安裝基礎包：pip install llama-index。LlamaIndex包含核心框架及常用入門元件，PDF等格式若無法直接解析，再按需安裝對應讀取器。

接下來準備模型服務的金鑰和依賴。框架負責連線資料、檢索和組裝上下文，生成答案仍需配置一個大語言模型，向量檢索也需嵌入模型；二者可以選同一服務商，也可分別選擇。把金鑰放在環境變數中，不要寫進程式碼或提交到程式碼倉庫；確保模型服務和網路可用，再啟動指令碼。

第二步：載入和索引文件

在專案目錄新建data資料夾，把允許用於問答的文字資料放進去。最簡單的入門程式碼是from llama_index.core import VectorStoreIndex, SimpleDirectoryReader，然後執行documents = SimpleDirectoryReader(“data”).load_data()讀取檔案，再用index = VectorStoreIndex.from_documents(documents)切分資料並建立向量索引。確認檔案讀取無誤後再繼續。

這一步可以理解為把原文整理成適合搜尋的小段，併為每段計算向量。企業資料通常持續變化，不要每次問答都重新讀取、嵌入全部檔案；試用階段可先把索引儲存到本地，後續再接入向量資料庫。檔案更新時設計增量同步或重建流程，併為每份資料保留來源、部門、更新時間等後設資料。

選擇嵌入模型和分塊策略

嵌入模型把文字轉換成向量，決定語義檢索能否找到相關內容。優先選擇支援中文、適配業務領域且服務穩定的模型；生成模型和嵌入模型不是一回事，二者需要分別配置。切塊可從約500個token、相鄰塊重疊約50個token試起，再用真實問題測試：段落太長會混入無關內容，太短則可能丟掉上下文。

如果資料含表格、掃描件或複雜版式，先檢查讀取結果是否完整；普通文字讀取器可能無法正確還原表格，必要時選用適合該格式的解析器。還要給文件加上訪問範圍等後設資料，檢索時先做權限過濾，避免員工查到不屬於自己的資料。把召回片段與原檔案對照，才能及時發現解析或切分問題。

第三步：構建查詢引擎並提問

索引建好後，建立查詢引擎：query_engine = index.as_query_engine(similarity_top_k=3)，再呼叫response = query_engine.query(“公司的報銷流程是什麼？”)，用print(response)檢視答案。similarity_top_k控制送給模型的相關片段數量，先從3到5條試起；太少可能漏資訊，太多則可能引入干擾，也會增加成本。

測試時別隻問一個問題，準備一組常見問題、邊界問題和資料中沒有答案的問題，檢查回答是否有依據、是否引用到正確版本。可檢視響應中的來源節點，確認答案對應的文件片段；如果資料沒寫清楚，就讓系統明確說明未找到依據，而不是自行補全。逐步調整切塊大小、召回數量和提示詞，再用同一組問題複測效果。

準備上線時，把索引放進適合的向量資料庫，並增加使用者身份校驗、文件權限過濾、日誌監控和定期更新。注意，RAG本身不會自動保證答案正確，也不會替代企業的訪問控制；先用小範圍資料驗證，再逐步擴充套件。國內替代方案也可瞭解切問學術，官網：qiewenpaper.cgref.cn。此外，部署與選型資訊可關注潤滅。

“`