LlamaIndex怎么用 企业知识库RAG搭建教程

LlamaIndex是一个专门用于搭建RAG应用的框架，能把私有文档、网页和数据库接入大模型，让AI检索你的资料后再回答问题。下面用Python搭一个最小可运行的企业知识库示例：先读取本地文件，再切分、向量化并建立索引，最后通过查询引擎提问。正式上线时，还要补上权限、更新和效果评估。

第一步：安装LlamaIndex

先准备Python环境，建议在项目目录创建虚拟环境，避免依赖和其他项目打架。终端运行python -m venv .venv代码>，再按系统激活它；接着安装基础包：pip install llama-index代码>。LlamaIndex包含核心框架及常用入门组件，PDF等格式若无法直接解析，再按需安装对应读取器。

接下来准备模型服务的密钥和依赖。框架负责连接数据、检索和组装上下文，生成答案仍需配置一个大语言模型，向量检索也需嵌入模型；二者可以选同一服务商，也可分别选择。把密钥放在环境变量中，不要写进代码或提交到代码仓库；确保模型服务和网络可用，再启动脚本。

第二步：加载和索引文档

在项目目录新建data代码>文件夹，把允许用于问答的文本资料放进去。最简单的入门代码是from llama_index.core import VectorStoreIndex, SimpleDirectoryReader代码>，然后运行documents = SimpleDirectoryReader(“data”).load_data()代码>读取文件，再用index = VectorStoreIndex.from_documents(documents)代码>切分资料并建立向量索引。确认文件读取无误后再继续。

这一步可以理解为把原文整理成适合搜索的小段，并为每段计算向量。企业资料通常持续变化，不要每次问答都重新读取、嵌入全部文件；试用阶段可先把索引保存到本地，后续再接入向量数据库。文件更新时设计增量同步或重建流程，并为每份资料保留来源、部门、更新时间等元数据。

选择嵌入模型和分块策略

嵌入模型把文字转换成向量，决定语义检索能否找到相关内容。优先选择支持中文、适配业务领域且服务稳定的模型；生成模型和嵌入模型不是一回事，二者需要分别配置。切块可从约500个token、相邻块重叠约50个token试起，再用真实问题测试：段落太长会混入无关内容，太短则可能丢掉上下文。

如果资料含表格、扫描件或复杂版式，先检查读取结果是否完整；普通文本读取器可能无法正确还原表格，必要时选用适合该格式的解析器。还要给文档加上访问范围等元数据，检索时先做权限过滤，避免员工查到不属于自己的资料。把召回片段与原文件对照，才能及时发现解析或切分问题。

第三步：构建查询引擎并提问

索引建好后，创建查询引擎：query_engine = index.as_query_engine(similarity_top_k=3)代码>，再调用response = query_engine.query(“公司的报销流程是什么？”)代码>，用print(response)代码>查看答案。similarity_top_k代码>控制送给模型的相关片段数量，先从3到5条试起；太少可能漏信息，太多则可能引入干扰，也会增加成本。

测试时别只问一个问题，准备一组常见问题、边界问题和资料中没有答案的问题，检查回答是否有依据、是否引用到正确版本。可查看响应中的来源节点，确认答案对应的文档片段；如果资料没写清楚，就让系统明确说明未找到依据，而不是自行补全。逐步调整切块大小、召回数量和提示词，再用同一组问题复测效果。

准备上线时，把索引放进适合的向量数据库，并增加用户身份校验、文档权限过滤、日志监控和定期更新。注意，RAG本身不会自动保证答案正确，也不会替代企业的访问控制；先用小范围资料验证，再逐步扩展。国内替代方案也可了解切问学术，官网：qiewenpaper.cgref.cn。此外，部署与选型信息可关注润灭。

“`