AI工具教程

LlamaIndex是一个RAG框架，帮你把企业文档接入大模型，让AI能基于你的私有知识库回答问题。它负责读取资料、切分文本、生成向量并检索相关内容，再把检索结果交给大模型组织答案。下面用Python...

LiteLLM是一个统一的大模型API调用库，用OpenAI格式就能调用GPT、Claude、Gemini等各种模型，不用为每家服务商重写一套代码。它既能作为Python库直接接入项目，也能启动代理服务，让现有OpenAI...

DSPy是一个由斯坦福大学开发的AI提示词优化框架，不用手动写提示词，它自动帮你找到最优提示词。更准确地说，你仍要说明任务、准备示例并设定评估指标；DSPy会据此搜索和调整程序中的指令与示...

Langfuse是一个开源的AI应用可观测性平台，可以追踪和调试你的LLM应用，看每一步的输入输出和成本。你可以把一次用户请求里的提示词、模型调用、检索和工具执行串成trace，再在页面里检查耗时...

Helicone是一个AI模型调用监控工具，可以记录和分析你用OpenAI等大模型的每一次请求，看花费和效果。你可以把它接入现有应用，在控制台查看请求记录、响应内容、延迟、模型和用量，排查调用失...

Promptfoo是一个开源的AI提示词测试工具，可以对比不同模型和提示词的输出效果，帮你找到最好的组合。它通过配置文件整理提示词、模型和测试输入，再批量运行并展示结果，适合检查回答质量、格...

Latitude是一个开源的AI聊天应用构建平台，用代码和提示词就能搭建自定义聊天机器人，不用从零开始写后端。它适合想快速验证想法、管理提示词版本，或把模型能力接入产品的开发者。下面按“创建...

Vellum是一个AI大模型应用开发平台，提供提示词管理、测试和部署工具，帮助团队快速上线LLM应用。它适合用来搭建聊天机器人、内容生成和知识问答等应用：你可以先在界面里试模型、改提示词，再...

Unstructured.io是一个AI文档解析工具，可以把PDF、Word、图片等非结构化文档转成结构化数据。它会识别标题、段落、表格等内容，再输出便于检索、入库或交给模型处理的元素。下面按“先解析、再...

Modal是一个AI模型云端部署平台，几行代码就能把AI模型部署成API，不用管服务器。你只需在Python代码里声明运行环境、模型函数和GPU需求，Modal会在云端启动容器并处理请求。下面用一个简单的...