LlamaIndex怎麼用 企業知識庫RAG搭建教程

LlamaIndex是一個RAG框架，幫你把企業文件接入大模型，讓AI能基於你的私有知識庫回答問題。它負責讀取資料、切分文字、生成向量並檢索相關內容，再把檢索結果交給大模型組織答案。下面用Python搭一條入門流程：先準備檔案，再建立索引，最後提問。示例使用本地資料夾和基礎向量索引，便於先跑通。

第一步：安裝LlamaIndex

先確認電腦已安裝Python，建議在專案目錄建立虛擬環境，避免依賴互相影響。啟用環境後安裝入門包：pip install llama-index。它包含核心框架和常用整合；如果企業專案只需要特定元件，也可以改裝核心包，再按需安裝模型、嵌入或向量庫的整合包。安裝完成後，新建指令碼，例如rag_demo.py。

示例預設透過OpenAI模型生成向量和回答，因此先在執行環境設定OPENAI_API_KEY，別把金鑰直接寫進程式碼或提交到倉庫。企業內部部署時，也可以選擇本地模型或已獲批准的模型服務，並分別配置對應的LLM與嵌入模型。注意，生成回答的模型和生成向量的嵌入模型是兩項配置，實際使用時都要確認已正確接入。

第二步：載入和索引文件

在專案裡準備一個data資料夾，把允許用於問答的文件放進去。入門時可先用文字檔案測試；常見格式是否能直接讀取，取決於對應讀取器和額外依賴。隨後用SimpleDirectoryReader讀取目錄：documents = SimpleDirectoryReader(“data”).load_data()。讀取後檢查文件數量、文字內容和後設資料，確認檔案沒有漏載、亂碼或空白，再進入索引流程。

企業資料通常需要先整理再匯入：刪除過期版本、明確文件負責人，並給檔案新增部門、日期、密級等後設資料。若資料包含掃描件、複雜表格或版面資訊，普通文字讀取可能無法完整提取內容，應先選用合適的解析工具並抽樣檢查結果。把原文清洗好，往往比盲目調整模型更能提升檢索質量。

構建向量索引

匯入核心元件後即可建立向量索引：from llama_index.core import VectorStoreIndex，再執行index = VectorStoreIndex.from_documents(documents)。框架會將文件處理成可檢索的文字單元，並呼叫嵌入模型生成向量。預設示例適合驗證流程；真正上線時，建議配置持久化向量資料庫，避免服務重啟後索引消失，並根據文件規模選擇儲存方案。

切分策略會影響召回效果：片段太長，容易帶入無關內容；太短，則可能丟失上下文。可以先用預設設定建立基線，再針對長篇制度、產品手冊或FAQ調整切分長度與重疊範圍。建立索引後儲存到磁碟的基本方式是index.storage_context.persist()；若連線外部向量庫，則需配置對應的儲存整合和連線引數。

第三步：查詢和生成回答

索引建好後，建立查詢引擎並提問：query_engine = index.as_query_engine()，接著呼叫response = query_engine.query(“員工申請報銷需要哪些材料？”)。查詢引擎會先從索引中找相關文字片段，再將片段作為上下文交給大模型生成回答。初測時選一個文件裡明確寫出的事實問題，方便核對檢索和回答是否準確。

不要只看回答是否流暢，還要檢查依據是否相關。可以檢視response.source_nodes，觀察命中的片段及其後設資料；若答案漏掉內容，試著調整切分方式、檢索數量或問題表述。生產系統還應展示引用來源，讓員工能回到原文核實，並在沒有可靠依據時提示使用者補充問題，而不是讓模型猜測。

上線前再補齊企業級環節：按使用者身份過濾可訪問文件，定期同步新增和變更資料，記錄索引更新時間，並用真實問題集做評測。還要測試越權提問、過期政策和無答案場景，確認檢索結果不會跨部門洩露。若希望瞭解國內相關工具，也可以看看切問學術，官網地址：qiewenpaper.cgref.cn。